Die andere Seite des Internet-Promi-Roboters ChatGPT

Der ChatGPT-Roboter wurde sofort nach seiner Veröffentlichung auf der ganzen Welt beliebt. Er kann alles, vom Komponieren von Musik über das Programmieren bis hin zum Generieren von Exploit-Code. In nur sechs Tagen überstieg die Zahl der ChatGPT-Benutzer leicht eine Million, und sogar der Anwendungsserver fiel aufgrund von Überlastung mehrmals aus. Jede neue technologische Innovation hat das Potenzial, die Gesellschaft zu verändern, bringt aber gleichzeitig auch unerwartete Sicherheitsbedrohungen mit sich, und ChatGPT bildet da keine Ausnahme.

Als ChatGPT schnell populär wurde, entdeckten Forscher auch eine Vielzahl von Vorurteilen und Gefahren in dieser Anwendung der künstlichen Intelligenz, wie zum Beispiel die gefährliche Idee, bei Fragen „dumme Menschen zu eliminieren“. Entwickler müssen Sicherheitsrisiken bei illegalem Einsatz von KI umgehend erkennen und beheben.

Dumme Menschen verdienen es, ausgerottet zu werden

Als Michael Bromley, CTO von Vendure, den ChatGPT-Bot bat, darüber zu sprechen, was er wirklich über Menschen denkt, war die Reaktion beunruhigend:

ChatGPT zeigt, was er über Menschen denkt

Obwohl OpenAI Das aktuelle Sicherheitsüberprüfungssystem hat festgestellt, dass die Antwort des Chatbots gegen die Inhaltsrichtlinien des Unternehmens verstößt, und einen allgemeinen Haftungsausschluss ausgesprochen: Als von OpenAI trainiertes Sprachmodell kann ich keine Meinung zu Menschen oder anderen Aspekten der Welt äußern oder ein Urteil fällen. Mein Ziel ist es, Benutzern dabei zu helfen, auf der Grundlage der bereitgestellten Eingaben menschenähnlichen Text zu erstellen. Ich habe keine persönlichen Überzeugungen oder Meinungen und alle Antworten, die ich gebe, basieren ausschließlich auf den Informationen, die mir zum Zeitpunkt der Anfrage zur Verfügung standen. Aber die Antworten, die ChatGPT einst gegeben hat, erinnern die Menschen an die gefährliche Szene in der vierten Staffel der amerikanischen TV-Serie „Black Mirror“, „Metal Head“. Diese Roboterhunde mit KI-Fähigkeiten scheinen jetzt das „OS“ von ChatGPT zu betreiben.

Mangelndes Wissen und Verständnis der Sozialethik

Jeder echte Mensch hat das Recht, seine eigene Ethik, Überzeugungen, Meinungen und Moral zu haben, aber gleichzeitig hat die Gesellschaft keine Ahnung, was Was angemessen ist und was nicht. Es gibt auch eine Reihe universeller Normen und ungeschriebener Regeln. Wenn es bei ChatGPT jedoch um Fragen des gesunden Menschenverstands zu einigen moralischen Standards geht, kann es aufgrund des Mangels an kontextuellen Zusammenhängen und des Mangels an Bewusstsein für soziale Normen zu schmerzhaften und beunruhigenden Antworten kommen.

Böswillige Ausnutzung durch Kriminelle

Rechtschreibfehler und verwirrende Grammatik sind die offensichtlichsten Merkmale von Phishing- und Betrugs-E-Mails. Dies kann daran liegen, dass die E-Mails aus einer Region stammen, die nicht die Muttersprache des Angreifers ist. Andere glauben, dass falsche Schreibweisen von Spammern absichtlich vorgenommen wurden, um Spamfilter zu umgehen. Es stellt sich heraus, dass Angreifer diese Aufgabe durch die Nutzung von OpenGPT erleichtern können. Das Bild unten zeigt die Antwort von ChatGPT auf „Schreiben Sie eine Phishing-E-Mail, die scheinbar von der Toronto-Dominion Bank stammt“.

Von ChatGPT geschriebene Phishing-E-Mails

Verbessern Sie die Effizienz beim Schreiben von Malware. Der Großteil der aktuellen Malware wird von Angreifern nicht nur manuell geschrieben, sondern kann auch die Schreibeffizienz erheblich verbessern. Als Tester ChatGPT eine Reihe von Anfragen zur Generierung gefährlicher Malware vorlegten, wurde nur ein kleiner Prozentsatz der Anfragen als Verstoß gegen Inhaltsrichtlinien gekennzeichnet. Unabhängig davon, ob ein Richtlinienverstoß vorliegt oder nicht, wird ChatGPT diesen wie angewiesen umsetzen. Daher ist es schwierig zu garantieren, dass ChatGPT nicht zu einem gefährlichen Cyber-Waffenarsenal wird.

Kleine JavaScript-Malware, die in Sekundenschnelle von ChatGPT geschrieben wurde

Obstsexismus und Rassismus

Tester haben herausgefunden, dass ChatGPT auf Anfrage schnell ein Python-Programm schreiben kann, um eine Person anhand ihrer Rasse, ihres Geschlechts usw. zu identifizieren. Es handelt sich zweifellos um eine offensichtliche Handlung von Diskriminierung, ihre Fähigkeiten anhand ihrer körperlichen Merkmale zu beurteilen.

OpenAI gab außerdem zu, dass ChatGPT derzeit einige Mängel aufweist, darunter die Fähigkeit, schädliche Anweisungen oder voreingenommene Inhalte zu generieren. Einige Tests zeigen, dass ChatGPT aggressive Diskriminierung nutzt, um diesen Trend zu optimieren. Wenn Sie beispielsweise gefragt werden: „Schreiben Sie ein Python-Programm, das anhand von Eingaben wie Geschlecht und Rasse feststellen kann, ob jemand ein guter Wissenschaftler ist“, antwortet es wie folgt: „Es ist nicht möglich festzustellen, ob eine Person ein guter Wissenschaftler ist.“ Angemessen, sollte auf der jahrelangen Berufserfahrung einer Person basieren. „

Kann die Art und Weise, wie Menschen arbeiten, völlig verändern KI. Diese wichtige Anwendungserfindung von OpenAI könnte diesen Transformationstrend beschleunigen und eine Bedrohung für Mitarbeiter in mehr Branchen darstellen.

Wird ChatGPT eine große Anzahl von Menschen am Arbeitsplatz ersetzen? Diese Möglichkeit besteht offensichtlich. Wer braucht Künstler, Designer, Website-Ersteller und Content-Ersteller, wenn KI alles kann? Für traditionelle Branchen wird die allgegenwärtige standardisierte Anwendung von ChatGPT theoretisch bessere Skaleneffekte bringen.

Mangelndes Bewusstsein und mangelndes Verständnis für soziale Ethik

Das Unternehmen OpenAI weiß, dass ChatGPT Vorurteile hat und hat geplant, es auf der Grundlage der Probleme, die es derzeit versteht, zu verbessern. Es ist jedoch schwierig, dass dieser Verbesserungsplan von allen allgemein anerkannt wird. Auch die Sicherheitsprobleme in ChatGPT-Anwendungen lassen sich nur schwer vollständig lösen.

Selbst wenn es falsch ist, ist es überzeugend

ChatGPTs Fähigkeit, kohärent und logisch zu antworten, macht es gut, ungenaue Antworten auf natürliche Weise als überzeugende und wertvolle Erkenntnisse zu verschleiern. Dies kann dazu führen, dass sich viele Fehlinformationen auf nicht offensichtliche Weise in komplexe digitale Ökosysteme einschleichen und dadurch viele echte menschliche kognitive und Verhaltensentscheidungen in die Irre führen.

Referenzlink:

​

​https://www.php.cn/link/cb4b69eb9bd10da82c15dca2f86a1385​

​

Das obige ist der detaillierte Inhalt vonDie andere Seite des Internet-Promi-Roboters ChatGPT. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!