GPT-4 hat sich so weit entwickelt, dass fast zehntausend Menschen eine Petition zur Blockierung unterzeichnet haben! Das Weiße Haus hielt eine Krisensitzung ab und die Aktien des ChatGPT-Konzepts stürzten ab

Die Bedrohung durch GPT-5 ist überwältigend geworden.

Nach der Geburt von GPT-4 haben die disruptiven Auswirkungen, die KI auf die menschliche Gesellschaft haben könnte, bereits viele Branchenführer erschreckt.

In letzter Zeit scheint es, dass die ganze Welt ChatGPT angreift.

Ein offener Brief zur Einstellung fortgeschrittener KI-Forschung und -Entwicklung wurde vor einiger Zeit gemeinsam von Musk, Turing-Award-Gewinner Bengio und anderen großen Namen initiiert. Jetzt ist die Zahl der Unterschriften auf über 9.000 gestiegen.

Unmittelbar danach forderte die US-amerikanische Non-Profit-Organisation Center for Artificial Intelligence and Digital Policy (CAIDP) auch die Federal Trade Commission (FTC) auf, zu untersuchen, ob OpenAI gegen Verbraucherschutzbestimmungen verstößt, und ihr die weitere Veröffentlichung von GPT zu verbieten -4.

Und Italien hat ChatGPT direkt landesweit verboten und OpenAI nur eine 20-tägige Anpassungsfrist eingeräumt. Wenn es keine qualifizierte Lösung finden kann, muss es eine Geldstrafe von bis zu 20 Millionen Euro zahlen.

Die Hektik, ChatGPT zu verbieten, erfasst die Welt

Interessant ist, dass seit Italien diese Initiative ergriffen hat, auch einige andere Länder bereit sind, Maßnahmen gegen ChatGPT vorzubereiten.

Datenschutzbehörden in Frankreich und Irland haben ihre italienischen Kollegen kontaktiert und um weitere Einzelheiten zu der Untersuchung gebeten.

Der deutsche Bundesdatenschutzbeauftragte Ulrich Kelber sagte: „Grundsätzlich ist es für Deutschland möglich, ähnliche Verfahren einzuführen.“

Darüber hinaus hat die Europäische Union auch einen Planentwurf zur Behandlung von ChatGPT als hoch vorgeschlagen -Risiko-KI-System.

Die Vereinigten Staaten haben ebenfalls Maßnahmen ergriffen

Und erst heute hielt US-Präsident Biden auch ein Treffen mit Technologieberatern im Weißen Haus ab, um die Risiken und Chancen zu besprechen, die KI für den Menschen und die Gesellschaft mit sich bringt und nationale Sicherheit.

Laut Reuters betonte Biden während einer Sitzung des President's Council of Advisors on Science and Technology (PCAST): „Meiner Meinung nach haben Technologieunternehmen die Verantwortung sicherzustellen, dass ihre Produkte sicher sind, bevor sie veröffentlicht werden.“

Auf die Frage, ob KI gefährlich sei, sagte er: „Es bleibt abzuwarten, ob es eine solche Möglichkeit gibt.“

Biden sagte: Welchen Schaden wird leistungsstarke Technologie ohne Schutzmaßnahmen anrichten? Das ist bereits offensichtlich in den Medien.

„Wir sehen, dass Technologie die psychische Gesundheit der Menschen beeinträchtigt und zu einem geringen Selbstwertgefühl und Verzweiflung über ihr Selbstbild führt. Diese Auswirkungen sind bei jungen Menschen besonders deutlich.“

Er erneuerte seine Forderung an den Kongress, ein parteiübergreifendes Datenschutzgesetz zu verabschieden, das die von Technologieunternehmen gesammelten personenbezogenen Daten begrenzen, Werbung für Jugendliche verbieten und Gesundheit und Sicherheit bei der Produktentwicklung Vorrang einräumen würde.

Betroffen von dieser Nachricht fielen die Aktienkurse von KI-Unternehmen stark, bevor Biden diese Sitzung einberufen hatte.

Der Aktienkurs der ChatGPT-Konzeptaktie C3.ai fiel weiter und schloss um 26,34 % bei 24,95 US-Dollar, mit einem Marktwert von 2,8 Milliarden US-Dollar, dem größten Intraday-Rückgang seit der Notierung der Aktie.

Seitdem Microsoft eine milliardenschwere Partnerschaft mit OpenAI angekündigt hat, hat sich C3.ai wie viele Unternehmen im KI-Bereich in letzter Zeit zu einem der angesagtesten Unternehmen an der Wall Street entwickelt Der Aktienkurs von C3.ai .ai ist um mehr als 130 % gestiegen.

Gates: Die Aussetzung der KI-Forschung und -Entwicklung wird „die Herausforderung nicht lösen“

Am 3. April Ortszeit diskutierte Gates in einem Interview mit Reuters öffentlich einen offenen Brief, der von Tausenden Experten unterzeichnet wurde,

Indem er ein Moratorium für KI forderte Die Entwicklung wird nicht „die Herausforderung lösen“, es ist am besten, sich darauf zu konzentrieren, wie die Entwicklung der künstlichen Intelligenz am besten genutzt werden kann. Es ist schwer zu verstehen, wie ein globales Moratorium für KI-Forschung und -Entwicklung erreicht werden kann.

Er fuhr fort: „Ich glaube nicht, dass es die Herausforderung lösen wird, eine bestimmte Gruppe zum Innehalten zu bitten. Offensichtlich haben diese Dinge enorme Vorteile ... Was wir tun müssen, ist, die kniffligen Bereiche zu identifizieren.

Gates ist ein starker Befürworter der künstlichen Intelligenz.

Am 21. März, einen Tag vor der Veröffentlichung des gemeinsamen offenen Briefes, veröffentlichte Gates einen Blogbeitrag mit dem Titel „Die Ära der künstlichen Intelligenz hat begonnen.“

Es wurde erwähnt, dass künstliche Intelligenz eingesetzt werden sollte, um einige der schlimmsten Ungleichheiten auf der Welt zu verringern.

In seinem Blog lobte er die künstliche Intelligenz: „Die KI-Ära hat begonnen und die Revolution der künstlichen Intelligenz ist genauso wichtig wie die Geburt von Mobiltelefonen und dem Internet. Dies sind die einzigen beiden revolutionären technologischen Fortschritte.“ in seinem Leben.“

Bisher hat Microsoft Milliarden von Dollar in OpenAI investiert. OpenAI entwickelt KI-Technologie für Microsoft Bing, Edge, Microsoft 365 und andere Produkte.

In einem Interview stellte Gates die Machbarkeit eines Moratoriums für die KI-Entwicklung in Frage und wollte wissen, wie man es umsetzen könne.

„Die Einzelheiten eines Moratoriums werden kompliziert und schwer durchzusetzen sein. Ich verstehe nicht ganz, von wem sie reden, wer aufhören könnte, ob jedes Land der Welt einem Stopp zustimmen wird und warum In diesem Bereich gibt es viele unterschiedliche Meinungen zu spät, um die Situation schnell zu stoppen.

Weil die heutige KI gelernt hat, sich weiterzuentwickeln!

Es gibt Beweise: GPT-4 verbessert sich!

Vor einiger Zeit hat der ehemalige Google Brain-Forschungsingenieur Eric Jang etwas Verrücktes entdeckt: GPT-4 kann seine eigenen Ergebnisse auf vernünftige Weise kritisieren.

Anstatt nach dem perfekten Hinweis für ein großes Sprachmodell (LLM) zu suchen (denken wir Schritt für Schritt darüber nach), lassen Sie das LLM seine eigene Ausgabe bewerten und seine eigenen Fehler sofort korrigieren.

Sogar der ehemalige Tesla AI-Direktor und OpenAI-Forschungswissenschaftler Andrej Karpathy lobte es als gutes Beispiel dafür, dass wir die vollen Fähigkeiten von GPT-4 noch nicht gesehen haben.

In dem Beispiel von Eric Jang sah ich einen Microsoft-Forscher twittern, dass GPT-4 einfach nicht in der Lage sei, „nicht reimende“ Gedichte zu schreiben.

Allerdings auf die erneute Frage, ob GPT-4 die Aufgabe abgeschlossen hat. Zu diesem Zeitpunkt entstand nach einer Entschuldigung ein Gedicht ohne Reim! Man kann von der vollen Punktzahl sprechen.

Dies beweist nur, dass GPT-4 die Fähigkeit zur „Reflexion“ besitzt.

Kürzlich haben Forscher der Northeastern University, des MIT und anderer Institutionen in den Vereinigten Staaten Reflexion vorgeschlagen. Diese Methode verleiht dem Agenten ein dynamisches Gedächtnis und die Fähigkeit zur Selbstreflexion.

Papieradresse: https://arxiv.org/abs/2303.11366

Um die Wirksamkeit der Methode zu überprüfen, bewerteten die Forscher die Fähigkeit des Agenten, Entscheidungsaufgaben zu erledigen die AlfWorld-Umgebung und die Möglichkeit, wissensintensive, suchbasierte Frage- und Antwortaufgaben in der HotPotQA-Umgebung zu erledigen.

Die Erfolgsquote bei diesen beiden Aufgaben beträgt 97 % bzw. 51 %.

Die Gesamtarchitektur des Reflexion-Agenten

Einige Internetnutzer sagten, dass Sie GPT-4 bitten können, über „Warum liegen Sie falsch?“ nachzudenken und eine neue Eingabeaufforderung für sich selbst zu generieren Diese Fehlerursache wird solange berücksichtigt, bis das Ergebnis korrekt ist, wodurch sich die Leistung von GPT-4 um erstaunliche 30 % verbessert.

Darüber hinaus wird in dem Papier darauf hingewiesen, dass Reflexion+GPT-4 beim Testen der Fähigkeit des Modells, Code zu schreiben, auch deutlich besser ist als herkömmliches GPT-4.

Es scheint, als hätte Eric Jang gesagt:

Wir können jetzt ein „Suffix-Hinweis-Projekt“ anstelle eines cleveren „Präfix-Hinweis-Projekts“ in Betracht ziehen. Dies wird LLM dazu ermutigen, Korrekturen und Inkonsistenzen in zuvor erstellten Lösungen zu finden.

Über die Fähigkeit von GPT-4, sich durch Selbstverbesserung intelligenter zu machen, hat ein Internetnutzer eine Videozusammenfassung erstellt.

Meta-Forscher haben im Februar ein neues Paper Toolformer veröffentlicht, das direkt auf die „Schwäche“ von ChatGPT abzielt und es großen Sprachmodellen ermöglicht, den selbstständigen Umgang mit Tools zu erlernen.

Papieradresse: https://arxiv.org/abs/2302.04761

Nach Metas Denkweise können große Sprachmodelle wie ChatGPT alles ausgleichen, was ihnen fehlt.

Wenn Sie beispielsweise nicht rechnen können, holen Sie einfach einen Taschenrechner heraus. Wenn Sie die neuesten Informationen benötigen, stellen Sie einfach eine Verbindung zur Suchmaschine her, um zu suchen Übersetze es.

Der Artikel wurde sofort ein Hit. Viele KI-Forscher sagten, dass dieser Artikel den Geist der Menschen geöffnet und große Sprachmodelle zum Ausgangspunkt für alles in der Zukunft gemacht habe.

In ähnlicher Weise hat das kürzlich von der Zhejiang University und Microsoft Research Asia veröffentlichte Papier „Jarvis“ HuggingGPT große Aufmerksamkeit in der Branche erregt.

Papieradresse: https://arxiv.org/abs/2303.17580

In dem Papier verwendet das vom Forscher vorgeschlagene HuggingGPT ChatGPT als Controller, um verschiedene KI-Modelle in der HuggingFace-Community zu verbinden Erledigen Sie verschiedene komplexe Aufgaben wie Multimodalität.

Einige Internetnutzer sagten, dass ich den starken Verdacht habe, dass die erste allgemeine künstliche Intelligenz (AGI) früher als erwartet erscheinen wird. Es wird sich auf eine „Kleber“-KI stützen, die eine Reihe enger künstlicher Intelligenz und praktischer Werkzeuge intelligent zusammenfügen kann.

Code automatisch schreiben

Kürzlich hat ein Entwickler ein Projekt erstellt, das es GPT-4 ermöglicht, automatisch Code zu generieren – Auto-GPT.

Sie können sogar Code ausführen. In späteren Verbesserungen kann Auto-GPT GPT-4 verwenden, um Code zu schreiben und Python-Skripte auszuführen. Dadurch kann es sich selbst rekursiv debuggen, weiterentwickeln und verbessern ...

Auto-GPT ermöglicht es den Menschen, die leistungsstarken Funktionen von GPT-4 besser zu verstehen, und einige Internetnutzer haben sogar ein Meme erstellt:

Andrej Karpathy sagte, meiner Meinung nach ist „AutoGPT“ die nächste Grenze des Prompt Engineering. Ein GPT-Aufruf ist wie eine Anweisung auf dem Computer. Sie können zu Programmen verkettet werden. Verwenden Sie Eingabeaufforderungen, um E/A-Geräte- und Tool-Spezifikationen zu definieren, kognitive Schleifen zu definieren, die Dateneingabe und -ausgabe kontextbezogen zu blättern und sie dann auszuführen.

Netizen: Die Singularität kommt

Einige Netizens sagten, dass dies im Grunde die Definition von Singularität sei.

Eine sich selbst verbessernde KI, das Einzige, was jetzt benötigt wird, ist, den Code des Modells ändern und autonom trainieren zu können (indem man im Internet surft und alles selbst beschriftet).

Einige Internetnutzer glauben sogar, dass der rasante Fortschritt der Technologie uns an einen Punkt gebracht hat, an dem es kein Zurück mehr gibt. Bis 2025 wird sich die Welt dramatisch verändert haben, im Guten wie im Schlechten.

Aus Fehlern zu lernen ist die Grundlage der Intelligenz.

Es scheint, dass GPT-4 sich selbst übertrifft und eine Super-KI werden will.

Laut den neuesten Nachrichten eines bestimmten großen Chefs ist OpenAI sehr klar, dass die jüngste schnelle Iteration seiner KI-Produkte äußerst heftige Reaktionen hervorgerufen hat, und sie begrüßen auch die öffentliche Aufsicht.

Der Verantwortliche sagte, dass das aktuelle Risiko pro Token noch nicht den kritischen Punkt erreicht habe, sodass der Missbrauch von GPT keinen großen Schaden anrichten werde. Die Roadmap zur KI-Ausrichtung wird in wenigen Monaten veröffentlicht.

Das obige ist der detaillierte Inhalt vonGPT-4 hat sich so weit entwickelt, dass fast zehntausend Menschen eine Petition zur Blockierung unterzeichnet haben! Das Weiße Haus hielt eine Krisensitzung ab und die Aktien des ChatGPT-Konzepts stürzten ab. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!