Der heiße GPT-4 ist da!

Am 14. März veröffentlichte das Unternehmen für künstliche Intelligenz OpenAI die aktualisierte Version GPT-4 von ChatGPT (GPT-3.5-Stufe), wodurch das Thema ChatGPT, das zuvor etwas still war, erneut zu einer „brisanten, heißen Diskussion“ führte. , ohne jegliche Spannung Es wurde zu einer heißen Suche auf sozialen Plattformen. Themen wie „KI wird irgendwann den Menschen ersetzen“ und „90 % der Menschen in Ländern mit starker GPP-4-Prüfungsfähigkeit“ erregen bei den Nutzern immer mehr Aufmerksamkeit.

Verglichen mit dem vorherigen ChatGPT kann dieses Upgrade von GPT-4 als „Schwergewicht“ bezeichnet werden: Es verwendet ein „supermultimodales Modell“ und die Antwortgenauigkeit wird erheblich verbessert , die Verarbeitungsobergrenze wurde auf 2,5 W-Wörter erhöht; die Kreativität wurde erheblich verbessert und kann subtilere Anweisungen verarbeiten ...

Im Vergleich zu ChatGPT ist GPT-4 so ausgezeichnet , aber das schreckliche Ergebnis war: Aufgrund der verrückten Bestellungen der Benutzer stürzte das OpenAI-Zahlungssystem ab.

Nachdem Chat weggeworfen wurde, ist GPT-4 noch leistungsfähiger

Wenn ChatGPT, das auf dem GPT-3.5-Modell basiert, immer noch ein „schlechter Student“ ist, der auf der Überholspur schwebt, dann wird die Stärke von GPT-4 erwartet Werde ein „Top-Student“ „Die Warteschlange ist nicht nur intelligenter, sondern auch schwieriger zu „betrügen“.

Nachdem das Präfix „Chat“ abgeschafft wurde, haben sich die Funktionen von GPT-4 erheblich verändert. Einfach ausgedrückt: Während OpenAI weiter in Richtung Deep Learning expandiert, hat GPT-4 einen großen Schritt in Richtung „menschlicher“ gemacht. Es hat sogar an der einheitlichen Anwaltsprüfung und den Zulassungsprüfungen für juristische Fakultäten teilgenommen wie LSAT, das zu den oberen 20 % gehört; es gibt auch Nutzer, die GPT-4 für Live-Übertragungen auf YouTube verwenden, um Artikel zu schreiben, Code zu schreiben, Steuern einzureichen, Gedichte zu schreiben, Witze zu erzählen ...

Durch das Testen von 26 Sprachen, GPT-4 übertrifft andere große Sprachmodelle wie GPT-3.5 in 24 Sprachen, darunter ressourcenarme Sprachen wie Lettisch, Walisisch und Suaheli, wobei die Genauigkeit der chinesischen Erkennung 80,1 % erreicht (siehe Abbildung unten).

OpenAI hat eine Zusammenfassung der „Cinderella“-Geschichte demonstriert, die mit GPT-4 in 26 Wörtern geschrieben wurde. Die ersten Buchstaben dieser 26 Wörter entsprechen der korrekten Reihenfolge der 26 Buchstaben von A bis Z, was zum Beweis ausreicht dass GPT -4 Starke Fähigkeiten im Wortschatz und in der Spracherstellung.

Aber das größte Update ist, dass GPT-4 die Bilderkennung unterstützt, die logische Antworten basierend auf dem Verständnis des Bildinhalts geben kann. Wenn ein Benutzer beispielsweise fragt, was das Besondere an dem Bild unten ist, kann GPT-4 es direkt als „einen Mann, der Kleidung auf dem Bügelbrett auf dem Dach eines fahrenden Taxis bügelt“ beschreiben.

In einem anderen Beispiel kann GPT-4 eine Zusammenfassung basierend auf dem „Verstehen“ des Papiers entsprechend den Benutzeranforderungen bereitstellen und eine prägnante Beschreibung eines bestimmten experimentellen Prozesses bereitstellen.

Darüber hinaus kann GPT-4 bis zu einem gewissen Grad auch beliebte lustige „Memes“ im Internet verstehen. Beispielsweise kann es beschreiben, dass das Lustige an dem Bild unten darin besteht, „einen veralteten großen VGA-Anschluss anzuschließen“. ein kleines modernes „Die Lächerlichkeit von Smartphone-Ladeanschlüssen“.

Wird GPT-4 zu einem scharfen Schwert in den Händen von Hackern?

Zuallererst müssen wir uns eines Problems bewusst sein: Wird das immer intelligentere GPT-4 noch schrecklichere Sicherheitsrisiken mit sich bringen oder zu einem „scharfen Schwert“ in den Händen von Cyberkriminellen werden?

In der ChatGPT-Version hat FreeBuf ausführlich über seinen Einsatz bei Cyberkriminalität und die damit verbundenen Sicherheitsrisiken für den Cyberspace gesprochen.

Eins sind die eigenen Risiken.

Sicherheitsexperten haben beispielsweise in den von ChatGPT generierten Inhalten Texte gefunden, die internen Unternehmensgeheimnissen sehr ähneln. Der Grund könnte darin liegen, dass Amazon-Mitarbeiter bei der Verwendung von ChatGPT zur Generierung von Code und Text die internen Dateninformationen des Unternehmens eingegeben haben. Dann werden solche Sicherheitsrisiken in GPT-4 immer noch bestehen und große Giganten werden GPT weiterhin verteidigen.

Auch bei der Netzwerksicherheitspolitik besteht bei GPT-4 die Gefahr, die rote Linie zu überschreiten. Zum Beispiel, ob es gegen den „Mindestdatensatz“ der DSGVO verstößt, ob es dem „Recht auf Vergessenwerden“ oder dem „Recht auf Löschung“ entspricht, ob die Verwendung öffentlicher Daten konform ist und ob die Erhebung akademischen und geistigen Eigentums erfolgt Die Informationen sind geeignet und stehen im Einklang mit den geltenden Gesetzen und Vorschriften.

Derzeit gibt es in meinem Land im „Cybersicherheitsgesetz“, im „Datenschutzgesetz“ und im „Gesetz zum Schutz personenbezogener Daten“ detaillierte Vorschriften zur Erhebung und Nutzung von Daten. Allein aus der aktuellen Situation ist ersichtlich, dass GPT-4 nicht alle Anforderungen erfüllen kann diese Anforderungen. Darüber hinaus wird das globale Rechtssystem in Zukunft weiter in Richtung „Datenschutz“ verfeinert, und GPT wird zu diesem Zeitpunkt einem stärkeren Compliance-Druck ausgesetzt sein.

Zweitens kann es bei der Verwendung von GPT-4 zum Bearbeiten von Code zu weiteren versteckten Schwachstellen kommen.

In der ChatGPT-3.5-Phase versuchen Unternehmen und Entwickler bereits, damit Code zu schreiben und Schwachstellen zu beheben. In einem Kaspersky-Experiment fanden Analysten heraus, dass ChatGPT zum Sammeln forensischer Informationen für Unternehmen verwendet werden kann, die keine EDR-Systeme (Endpoint Detection and Response) betreiben, Code-Verschleierung erkennen oder Code-Binärdateien zurückentwickeln.

Das intelligentere GPT-4 wird auch von vielen Menschen mit großen Hoffnungen erfüllt. Wenn immer mehr Entwickler GPT-4 zum Schreiben von Code verwenden, werden die versteckten Schwachstellen zu noch schrecklicheren Zeitbomben, wenn sie von Angreifern ausgenutzt werden den gesamten Netzwerksicherheitsbereich, insbesondere im Bereich der Lieferkettensicherheit, der erhöhte Wachsamkeit erfordert.

Abschließend erfahren Sie, wie Sie verhindern können, dass GPT-4 von Hackern ausgenutzt wird und so neuen Druck auf die Netzwerksicherheitsverteidigung ausübt.

Eine sehr offensichtliche Tatsache ist, dass es seit der ChatGPT-Phase immer mehr Fälle gibt, in denen GPT in der Schwarzindustrie, bei Cyberkriminalität, Hackerangriffen und anderen Bereichen eingesetzt wird, und dass es in Zukunft sogar zur Norm werden könnte.

Zum Beispiel haben Forscher von Cybernews einmal herausgefunden, dass ChatGPT von Hackern verwendet werden kann, um Sicherheitslücken in Websites zu finden. Mit ihrer Hilfe führten die Forscher einen Penetrationstest auf einer gewöhnlichen Website durch und kombinierten ihn mit den darin enthaltenen Vorschlägen und Codes Nach 45 Minuten ist der Hack abgeschlossen.

ChatGPT verfügt bereits über solche Fähigkeiten, ganz zu schweigen vom intelligenteren GPT-4? Es scheint schwierig, GPT-4 zu nutzen, um das Netzwerksicherheitssystem kurzfristig wesentlich zu stärken, aber sein Einsatz bei Cyberkriminalität steht unmittelbar bevor. Der Umgang mit ähnlichen Sicherheitsrisiken ist zu einem Thema geworden, das jetzt berücksichtigt werden muss.

Natürlich arbeitet OpenAI auch weiterhin intensiv an der Sicherheit. Beispielsweise stellten sie mehr als 50 Experten aus den Bereichen Docking-Risiken künstlicher Intelligenz, Cybersicherheit, Biorisiken, Vertrauen und Sicherheit sowie internationale Sicherheit ein, um kontroverse Tests des Modells durchzuführen und verschiedene Hochrisikoszenarien zu trainieren, um Leitlinien für Minderungsmaßnahmen bereitzustellen Modellentwicklung. Basis für Verbesserungen schaffen. Beispielsweise durch das Sammeln zusätzlicher Spezialdaten, um die Fähigkeit von GPT-4 zu verbessern, Anfragen zur Synthese gefährlicher Chemikalien abzulehnen.

Aber sich allein darauf zu verlassen, ist offensichtlich nicht in der Lage, die Sicherheitsanforderungen zu erfüllen. Dies bedeutet auch, dass wir die Sicherheitsfunktionen der künstlichen Intelligenz, die durch GPT-4 repräsentiert werden, in vielerlei Hinsicht verbessern müssen, einschließlich der Formulierung von Richtlinien und Vorschriften sowie der technischen Mittel das Risiko von Übeltaten usw. eindämmen.

Am Ende geschrieben

In jedem Fall hat der technologische Fortschritt einen unermesslichen Einfluss auf die menschliche Entwicklung, aber gleichzeitig müssen wir ein klares Verständnis der Risiken haben. Mit anderen Worten: Wir begrüßen GPT-4 mit einer positiven Einstellung, müssen aber bereit sein, mit Risiken umzugehen.

Wie ein Anführer des Zweiten Weltkriegs sagte: Wir können die Meinung anderer Menschen nicht ändern. Da sie sich auf den Krieg vorbereiten wollen, müssen wir uns auch auf den Krieg vorbereiten. Das Gleiche gilt für GPT-4. Wir können andere nicht dazu bringen, es zum „Bösen“ zu nutzen, aber wir können entscheiden, wie wir es zum „Guten“ nutzen.

Auch in den Händen der Netzwerksicherheit ist das Schwert der KI äußerst scharf.

Wir sind bereit!

Das obige ist der detaillierte Inhalt vonDer heiße GPT-4 ist da!. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!