Tian Yuandong: Einige Gedanken zu GPT-4

OpenAI hat gestern GPT-4 veröffentlicht und es war wirklich gut, nachdem ich es ausprobiert hatte.

In Bezug auf die Story-Generierung, die mir am meisten am Herzen liegt, hat GPT-4 im Vergleich zu den von ChatGPT generierten Storys einen besseren Schreibstil und mehr Details und ist besser bei lebendigen und spezifischen Beschreibungen und der Handlung hat begonnen, einige interessante Wendungen zu nehmen. Natürlich bestehen einige der Probleme von ChatGPT immer noch, wie z. B. das mangelnde Gesamtlayout und die Fähigkeit zur Story-Planung, die fehlenden Charaktere, die langweilige Erzählentwicklung, der Fortsetzungsabsatz, der schnell in einem mittelmäßigen Ende endet usw., immer noch auf GPT-4.

Dem Leistungsbericht nach zu urteilen, hat das GRE-Schreiben im Vergleich zu GRE verbal, das nahezu die volle Punktzahl erreicht, nur 4 Punkte und das Advanced Placement English Writing hat nur 2 Punkte (3 Punkte bestanden) und von GPT-3 zu 4 Ich weiß nicht, ob der mangelnde Fortschritt mit diesen Problemen zusammenhängt.

Aber wie dem auch sei, GPT-4 kann uns schon heute bei vielen täglichen Arbeiten helfen. Es sind erst zehn Jahre vergangen, seit Deep Learning im Jahr 2013 explodierte. Wir verfügen über so leistungsstarke Tools, und ihre Entwicklungsgeschwindigkeit ist unvorstellbar.

Warum mögen manche Mathematikstudenten im Jahr 2017 Deep Learning nicht und verachten es sogar? In dieser Antwort waren einige kühne Vermutungen enthalten, wie zum Beispiel „Ich habe in der langen Nacht blind herumgefummelt, und die Sonne ist noch nicht erschienen.“ Nun scheinen diese Vorhersagen im Allgemeinen richtig zu sein, aber ich habe nicht damit gerechnet, dass dieser Tag kommen würde so bald.

Sobald eine Technologie zu einem universellen Werkzeug wie der Infinitesimalrechnung wird, sind die enormen Veränderungen zu erwarten, die sie mit sich bringen wird.

Wenn wir längerfristig denken, was wird in Zukunft passieren?

Auch ich habe mir rund um das Jahr 2020 einige Gedanken gemacht und diese in meine eigenen Science-Fiction-Romane einfließen lassen. Generell gilt: Wenn sich dieser Trend auf die Spitze treibt und selbst die Herstellung physischer Produkte unter Verwendung lokaler Materialien vollständig automatisiert werden kann, dann wird das Endergebnis „das sein, was man denkt, ist das, was man bekommt“: solange man sich etwas vorstellen kann Ding, es wird Es wird zu sehr geringen Kosten vor Ihnen erscheinen.

Solange die meisten sich wiederholenden Arbeiten unbegrenzt von Maschinen kopiert werden können, wird ihr Wert auf nahezu Null sinken und zu einem allgegenwärtigen öffentlichen Gut wie Wasser und Luft werden.

Unter diesen Bedingungen wird „Einzigartigkeit“ zu einem Wert und einer Bedeutung, die jeder schätzt. Vielleicht wird es bei der Beurteilung von Talenten künftig nicht mehr vorrangig um den Abschluss eines Studiums oder das Bestehen einer Prüfung gehen, sondern um die persönlichen Erfahrungen und Erfolge.

„Es besser zu machen als andere mit dem gleichen Ziel“ ist einzigartig, und „in eine Richtung zu gehen, die noch nie jemand zuvor gegangen ist“ ist ebenfalls einzigartig. Dazu gehören nicht nur von Gleichaltrigen anerkannte akademische Leistungen, wie das Lösen von Problemen, die niemand lösen kann, und das Schaffen und Erkunden einer neuen akademischen Richtung, sondern auch einzigartige Erfahrungen, Einsichten, Denkweisen und sogar drei Ansichten, wie zum Beispiel eine Person Welche Ansichten, Einsichten und Einsichten wird ein Programmierer, der die Antarktis erkundet hat, über die Welt haben? Wie wird ein Geschichtsstudent, der einst eine selbstgebaute Rakete für den Mondflug baute, die Kontrolle verlor und auf wundersame Weise gerettet wurde, diese Erfahrung in seiner Autobiografie erzählen?

Diese Rederechte in enger Verbindung mit persönlichen Merkmalen werden es jedem ermöglichen, eine einzigartige ökologische Nische in der menschlichen Gesellschaft zu besetzen und zum ultimativen Anker des „Menschen“ zu werden. Selbst wenn das Bewusstsein hochgeladen und in Zukunft digitale Zwillinge verwirklicht werden können, kann diese einzigartige Persönlichkeit nicht kopiert werden – solange genau dasselbe Individuum zwei wird und beginnt, unterschiedliche externe Signalstimulationen zu empfangen, werden sich ihre inneren Zustände je nach Zustand ändern Update beginnt die Flugbahn zu divergieren, wodurch sie wieder einzigartig wird.

Im Allgemeinen nutzt jeder sein eigenes „Tao“, um seine Entscheidungen zu beweisen, und aufgrund seiner früheren Entscheidungen sammelt er seine eigenen einzigartigen Eigenschaften an. Es ist unmöglich, im Voraus zu beurteilen, wer besser ist als wen, da die Berechnung dieser Urteilsfunktion selbst erfordert, dass der Einzelne seinen eigenen Weg geht. Und wenn unzählige Menschen zusammenkommen, die auf ihrer eigenen Richtung bestehen, werden weiterhin verschiedene wunderbare Ideen entstehen. Einige davon haben sich in der Praxis als richtig erwiesen, was andere beeinflussen und Anhänger anziehen wird. Und eine vielfältige und integrative Welt, die all diese Menschen umfasst, wird voller Motivation für Fortschritt sein.

Ich gehe zu weit.

Was bedeutet für Forscher die Entstehung von GPT-4?

Wir haben zwei extreme Möglichkeiten: Die eine besteht darin, die Tür zu schließen, nicht zuzuhören oder zuzusehen, die alte Denkträgheit zu nutzen, um den Forschungsweg zu konzipieren, oder wir können zu 100 % davon abweichen Geben Sie jetzt die bisherigen Forschungsideen auf, zerreißen Sie alle Lehrbücher und glauben Sie, dass Rechenleistung das A und O ist und große Modelle und große Datenmengen alles sind.

Ich halte diese beiden Einstellungen für unerwünscht. Das Paradigma der Forschung muss sich ändern. Es geht nicht mehr darum, spezifisches Wissen zu entdecken, sondern den Mechanismus des Modelllernens zu untersuchen und den Ursprung seiner Lernfähigkeit zu suchen. Beispielsweise können vorhandene Modelle durch umfangreiches Datentraining viele Konzepte automatisch erlernen.

Aber wie lernt das Modell dieses Konzept schneller und besser? Wie wird es aus den Daten entdeckt, vom Modell erfasst und während des Trainings kontinuierlich gestärkt? Wie entstehen fortgeschrittene Konzepte? Wie erfassen bestehende Modelle diese Konzepte und mit welchem ​​Mechanismus? Ich denke, dass dies auf lange Sicht wirklich bedeutsame Grundlagenforschungsrichtungen sein könnten, und sie sind auch das letzte Ventil, um die Metaphysik der „künstlichen Intelligenz“ wirklich in Wissenschaft umzuwandeln.

Natürlich sollte man sagen, dass man diese auf einer Skala von Jahrzehnten betrachten muss. Um diese Studien durchzuführen, braucht man viel Grundwissen, ausreichend Geduld und eine gute Fähigkeit, neue Dinge anzunehmen, die über das eigene hinausgehen kognitiver Umfang. Es kann in den ursprünglichen Arbeitsablauf und die Forschungsideen integriert werden.

Dies kann als mein einzigartiges „Dinghai Shenzhen“ in der Forschung angesehen werden, und ich hoffe, dass ich weitermachen kann.

Das obige ist der detaillierte Inhalt vonTian Yuandong: Einige Gedanken zu GPT-4. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!