OpenAI-Mitbegründer Karpathy hat einen Artikel veröffentlicht: „Autonomes Fahren als Beispiel nehmen, um AGI zu erklären!“ Der Originaltext wurde gelöscht, bitte setzen Sie ihn jetzt in ein Lesezeichen

Für „allgemeine künstliche Intelligenz“ gab OpenAI-Wissenschaftler Karpathy eine Erklärung.

Vor ein paar Tagen veröffentlichte Karpathy in seinem persönlichen Blog einen Artikel mit dem Titel „Studieren zum autonomen Fahren als Fall von AGI“.

Ich weiß nicht warum, aber er hat diesen Artikel gelöscht. Zum Glück gibt es ein Netzwerk-Backup.

Wie wir alle wissen, ist Karpathy nicht nur eines der Gründungsmitglieder von OpenAI, sondern auch der ehemalige Senior Director of AI und Leiter des Bereichs Autopilot für autonomes Fahren bei Tesla.

Er nutzte autonomes Fahren als Fallstudie, um AGI zu untersuchen. Die Ansichten dieses Artikels sind in der Tat lesenswert.

Autonomes Fahren

Der Ausbruch von LLM hat zahlreiche Diskussionen darüber ausgelöst, wann AGI eintreffen wird und sogar, wie es aussehen könnte.

Manche Menschen blicken voller Hoffnung und Optimismus in die Zukunft von AGI. Und manche Menschen sind voller Angst und Pessimismus.

Leider sind viele Diskussionen zu abstrakt, sodass die Meinungen der Menschen nicht miteinander übereinstimmen.

Daher bin ich immer auf der Suche nach konkreten Analogien und historischen Präzedenzfällen, um dieses Thema konkreter anzugehen.

Besonders wenn ich gefragt werde „Wie wird Ihrer Meinung nach AGI aussehen“, verwende ich persönlich gerne das autonome Fahren als Beispiel. In diesem Artikel möchte ich erklären, warum. Beginnen wir mit einer allgemeinen Definition von AGI:

AGI: Ein autonomes System, das die menschlichen Fähigkeiten bei den meisten wirtschaftlich wertvollen Aufgaben übertrifft.

Bitte beachten Sie, dass es in dieser AGI-Definition zwei spezifische Anforderungen gibt.

Erstens handelt es sich um ein völlig autonomes System, d. h. es arbeitet eigenständig und ohne oder mit geringer menschlicher Aufsicht.

Zweitens arbeitet es autonom an den wirtschaftlich wertvollsten Arbeiten. Für diesen Teil der Daten verweise ich persönlich gerne auf den Occupational Index des U.S. Bureau of Labor Statistics.

Ein System, das diese beiden Eigenschaften gleichzeitig besitzt, nennen wir es AGI.

Was ich in diesem Artikel vorschlagen möchte, ist, dass die jüngste Entwicklung unserer autonomen Fahrfähigkeiten eine sehr gute frühe Fallstudie der Dynamik einer zunehmend automatisierten Gesellschaft ist, die auf das, was AGI aussehen wird, ausgeweitet werden kann wie im Allgemeinen und das Studium der Gefühle.

Der Grund meiner Meinung nach ist, dass dieses Feld mehrere Merkmale aufweist. Man kann einfach sagen: „Das ist eine große Sache“: Autonomes Fahren ist sehr einfach zu verstehen und in der Gesellschaft weit verbreiteter.

Es nimmt einen großen Teil der Wirtschaftsskala ein und beschäftigt eine große Menge menschlicher Arbeitskraft. Autofahren ist ein recht komplexes Problem, aber wir haben die Automatisierung bereits erreicht und sie hat in der Gesellschaft große Aufmerksamkeit erregt.

Natürlich gibt es auch andere Branchen, die eine weitgehende Automatisierung erreicht haben, aber entweder kenne ich sie persönlich nicht, oder ihnen fehlen einige der oben genannten Eigenschaften.

L2-Level-Automatisierung

Die Automatisierung des Fahrens gilt im Bereich der KI als sehr herausforderndes Problem und kann nicht über Nacht gelöst werden.

Es entsteht durch den Prozess der schrittweisen Automatisierung von Fahraufgaben. Dieser Prozess umfasst viele Stufen der „toolbasierten KI“.

Im Hinblick auf die Fahrzeugautomatisierung sind viele Autos derzeit mit Fahrassistenzsystemen der Stufe L2 ausgestattet. Das heißt, eine KI, die mit menschlichen Fahrern zusammenarbeiten kann, um die Reise vom Startpunkt bis zum Ziel abzuschließen.

Obwohl L2 noch nicht vollständig autonom ist, kann L2 bereits viele grundlegende Aufgaben beim Fahren bewältigen.

Manchmal kann der gesamte Vorgang sogar automatisch abgeschlossen werden, beispielsweise beim automatischen Parken.

Der Mensch übernimmt dabei vor allem eine Aufsichtsfunktion und kann jederzeit sogar übernehmen, direkt fahren oder übergeordnete Anweisungen (z. B. Spurwechselwünsche) erteilen.

In manchen Aspekten (z. B. Spurmitte halten und schnelle Entscheidungen treffen) übertrifft die Leistung von KI sogar die von Menschen, bleibt aber in einigen seltenen Situationen dennoch zurück.

Dies ähnelt sehr vielen KI-Tools, die wir in anderen Branchen gesehen haben, insbesondere mit den jüngsten technologischen Durchbrüchen von LLM.

Wenn ich als Programmierer beispielsweise GitHub Copilot verwende, um einen Codeabschnitt automatisch zu vervollständigen, oder GPT-4 verwende, um eine komplexere Funktion zu schreiben, übergebe ich die grundlegende Aufgabe tatsächlich an das automatisierte System.

Aber auch hier kann ich jederzeit eingreifen und bei Bedarf Anpassungen vornehmen.

Mit anderen Worten: Copilot und GPT-4 sind so etwas wie „sekundäre“ Automatisierungstools im Bereich der Programmierung.

Es gibt viele ähnliche „sekundäre“ Automatisierungslösungen in der gesamten Branche, aber nicht alle basieren auf großen Modellen, von TurboTax über Amazon-Lagerroboter bis hin zu Übersetzung, Schreiben, Kunst, Recht und verschiedenen „toolbasierten KI“ im Marketing und anderen Bereichen.

Vollständig autonomes Fahren

Mit der Zeit erreichen einige Systeme neue Höhen der Zuverlässigkeit und werden wie Waymo heute.

Sie realisieren nach und nach das „vollautonome Fahren“.

Jetzt können Sie in San Francisco einfach die App öffnen und ein selbstfahrendes Auto von Waymo rufen, das Sie abholt und sicher an Ihr Ziel bringt.

Das ist wirklich erstaunlich. Sie müssen nicht wissen, wie man fährt, und Sie müssen nicht auf die Straßenverhältnisse achten. Sie müssen sich nur bequem zurücklehnen und ein Nickerchen machen, und das System bringt Sie vom Startpunkt zum Zielpunkt .

Wie viele Menschen, mit denen ich gesprochen habe, bevorzuge ich persönlich Waymo gegenüber Uber und nutze es fast ausschließlich für den innerstädtischen Transport.

Sie werden ein stabileres und vorhersehbareres Fahrerlebnis haben, der Fahrvorgang verläuft reibungslos und Sie können Musik hören, ohne sich darum zu kümmern, was der Fahrer denkt, wenn er Ihnen zuhört.

„Compound Economy“

Obwohl selbstfahrende Technologie Realität geworden ist, entscheiden sich immer noch viele Menschen für die Nutzung von Uber. Warum?

Erstens wissen viele Menschen einfach nicht, dass sie Waymo als Transportmittel wählen können. Selbst wenn sie es wissen, fehlt vielen Menschen immer noch das Vertrauen in automatisierte Systeme und sie lassen sich lieber von menschlichen Fahrern steuern.

Aber auch wenn manche Menschen autonomes Fahren akzeptieren, bevorzugen sie vielleicht immer noch menschliche Fahrer, weil sie beispielsweise die Unterhaltung mit dem Fahrer und die Interaktion mit anderen genießen.

Es ist nicht nur eine persönliche Präferenz. An den wachsenden Wartezeiten in der aktuellen Anwendung lässt sich erkennen, dass Waymo vor dem Problem steht, dass das Angebot die Nachfrage übersteigt. Die Zahl der auf dem Markt befindlichen Fahrzeuge reicht bei weitem nicht aus, um die Nachfrage zu decken.

Ein Grund dafür könnte sein, dass Waymo beim Management und der Überwachung von Risiken und der öffentlichen Meinung sehr vorsichtig ist.

Andererseits ist Waymo meines Wissens nach durch die Regulierungsbehörden eingeschränkt und darf nur eine bestimmte Anzahl von Fahrzeugen auf der Straße einsetzen. Ein weiterer limitierender Faktor ist, dass Waymo Uber nicht über Nacht vollständig ersetzen kann.

Sie müssen Infrastruktur aufbauen, Autos produzieren und den Betrieb erweitern.

Ich persönlich denke, dass dasselbe mit der Automatisierung in anderen Wirtschaftszweigen passieren wird – einige Leute/Unternehmen werden sie sofort übernehmen, aber viele Leute (1) verstehen die Technologien nicht und (2) selbst wenn sie es tun, Sie werden ihnen nicht vertrauen. (3) Selbst wenn sie vertrauen, sind sie immer noch eher bereit, mit Menschen zusammenzuarbeiten.

Aber darüber hinaus übersteigt die Nachfrage das Angebot, und AGI wird aus denselben Gründen denselben Einschränkungen unterliegen, darunter Selbstbeschränkung der Entwickler, regulatorische Einschränkungen und Ressourcenknappheit, wie beispielsweise die Notwendigkeit, mehr GPU-Rechenzentren zu bauen.

Globalisierung der Technologie

Wie ich bereits bei den Ressourcenbeschränkungen angedeutet habe, ist der weltweite Einsatz dieser Technologie sehr kostspielig, erfordert viel Personal und lässt sich nur langsam vorantreiben.

Heute kann Waymo nur in San Francisco und Phoenix fahren, aber die Technologie selbst ist vielseitig und skalierbar, sodass das Unternehmen möglicherweise bald nach Los Angeles, Austin und an andere Orte expandiert.

Selbstfahrende Autos können auch durch andere Umweltfaktoren eingeschränkt sein, beispielsweise durch das Fahren bei starkem Schneefall. In einigen seltenen Fällen kann sogar eine Rettung durch den Bediener erforderlich sein.

Darüber hinaus erfordert der Ausbau der technischen Möglichkeiten auch einen hohen Ressourcenaufwand und ist nicht kostenlos.

Waymo muss beispielsweise vor dem Betreten einer anderen Stadt Ressourcen investieren, z. B. in das Zeichnen von Straßenkarten, die Planung des gesamten Wahrnehmungspfads und die Steuerung von Algorithmen zur Anpassung an bestimmte Sondersituationen oder örtliche Vorschriften.

Wie unsere Arbeitsmetapher zeigt, können viele Jobs nur unter bestimmten Umständen automatisiert werden, und die Skalierung erfordert viel Arbeit.

In beiden Fällen ist die autonome Fahrtechnologie selbst universell und skalierbar, und ihre Anwendungsaussichten werden sich im Laufe der Zeit allmählich erweitern.

Soziale Reaktion: Es wurde bald eine „vorüberziehende Wolke“

Im Hinblick auf den Prozess der schrittweisen Integration der autonomen Fahrtechnologie in die Gesellschaft finde ich eines besonders interessant:

Noch vor ein paar Jahren, Leute waren immer noch begeistert. Es wurde diskutiert und war mit Zweifeln und Bedenken behaftet, und die Debatte darüber, ob es erfolgreich funktionieren könnte oder ob es überhaupt machbar sei, erregte großes Interesse. Doch mittlerweile ist autonomes Fahren keine Zukunftsmusik mehr, sondern Wirklichkeit geworden.

Es handelt sich nicht nur um einen Forschungsprototyp, sondern um ein vollautomatisches Transportmittel, das für Geld gekauft werden kann.

Im aktuellen Anwendungsbereich hat die autonome Fahrtechnologie vollständige Autonomie erreicht.

Allerdings scheint dies insgesamt nicht die Aufmerksamkeit vieler Menschen auf sich zu ziehen. Die meisten Menschen, mit denen ich spreche (auch aus der Technikbranche!), sind sich dieser Entwicklung nicht einmal bewusst.

Wenn Sie mit Waymo durch die Straßen von San Francisco fahren, werden Sie viele Leute treffen, die neugierige Blicke darauf werfen. Sie werden erst überrascht sein und dann neugierig starren.

Danach werden sie ihr Leben weiterleben.

Wenn die selbstfahrende Technologie auch in anderen Branchen vollständige Autonomie erreicht, wird die Welt möglicherweise nicht turbulent sein.

Den meisten Menschen ist diese Veränderung zunächst vielleicht gar nicht bewusst. Wenn sie es bemerken, schauen sie es vielleicht nur neugierig an und schütteln es dann ab, wobei die Reaktionen von Verleugnung bis hin zu Akzeptanz reichen.

Einige Leute könnten darüber verärgert sein und sogar Protestaktionen ergreifen, wie zum Beispiel das Aufstellen von Verkehrskegeln vor Waymo-Autos.

Natürlich sind wir derzeit noch weit davon entfernt, dieses Phänomen in vollem Umfang zu erleben. Aber wenn es passiert, erwarte ich, dass es weitgehend vorhersehbar ist.

Wirtschaftliche Auswirkungen

Wenn wir über Beschäftigung sprechen, lässt sich nicht leugnen, dass Waymo eindeutig die Position des Fahrers ersetzt hat.

Aber gleichzeitig sind dadurch auch viele Jobs entstanden, die es vorher nicht gab, und diese Positionen sind relativ weniger sichtbar – etwa Annotatoren, die Trainingsdaten für neuronale Netze sammeln, oder Kundendienstmitarbeiter, die Autos bei Problemen aus der Ferne unterstützen sowie die für den Bau verantwortlichen Personen und das Personal, das den Fuhrpark wartet usw.

Was zuerst geboren wurde, war eine völlig neue Branche von Sensoren und zugehöriger Infrastruktur, die für den Bau dieser hochentwickelten High-Tech-Autos konzipiert war.

Genau wie die allgemeine Sicht der Menschen auf die Arbeit werden sich viele Positionen ändern, einige werden verschwinden, aber es werden auch viele neue entstehen.

Dies ist eigentlich eine Änderung der Arbeitsform und keine einfache Reduzierung der Positionen, obwohl die Reduzierung der Positionen die intuitivste Änderung ist.

Obwohl es schwer zu sagen ist, dass die Gesamtbeschäftigung im Laufe der Zeit nicht zurückgehen wird, ist die Veränderungsrate viel langsamer, als man einfach erwarten würde.

Wettbewerbsumfeld

Abschließend möchte ich noch über das Wettbewerbsumfeld im Bereich des autonomen Fahrens sprechen.

Vor ein paar Jahren schossen nach Regenfällen Unternehmen für selbstfahrende Autos wie Pilze aus dem Boden. Aber heute, da die Menschen allmählich die Komplexität dieser Technologie erkennen (ich persönlich glaube, dass die Automatisierung auf der Grundlage der aktuellen künstlichen Intelligenz und Computertechnologie immer noch sehr schwierig ist), hat dieser Bereich eine umfassende Konsolidierung erfahren.

Unter ihnen ist Waymo das erste Unternehmen, das die Zukunft des autonomen Fahrens vollständig demonstriert hat.

Trotzdem gibt es immer noch einige Unternehmen, die noch aufholen, wie zum Beispiel Cruise, Zoox und mein persönlicher Favorit, Tesla.

Ich möchte es hier aufgrund meiner Erfahrungen und Mitwirkung in diesem Bereich kurz erwähnen. Meiner Meinung nach besteht das ultimative Ziel der Branche des autonomen Fahrens darin, vollständig autonomes Fahren auf globaler Ebene zu erreichen.

Waymo hat sich für die Strategie entschieden, zunächst autonomes Fahren zu realisieren und dann weltweit zu expandieren, während Tesla seine autonome Fahrtechnologie zunächst weltweit einsetzte und dann schrittweise verbesserte.

Offensichtlich stehen diesen beiden Unternehmen völlig unterschiedliche Anpassungen bevor: Das eine arbeitet hauptsächlich an Software, das andere an Hardware.

Derzeit bin ich mit ihren Produkten sehr zufrieden. Persönlich bin ich voll von der Technologie selbst.

Ähnlich mögen auch viele andere Branchen eine Phase des schnellen Wachstums und der Expansion durchlaufen (wie der Bereich des autonomen Fahrens um 2015), aber letztendlich werden möglicherweise nur wenige Unternehmen in diesem Wettbewerb überleben.

In diesem Prozess werden viele praktische KI-Hilfstools (wie die aktuelle L2 ADAS-Funktion) und einige offene Plattformen (wie Comma) weit verbreitet sein.

Künstliche Allgemeine Intelligenz (AGI)

Das Obige ist meine allgemeine Vision für die zukünftige Entwicklung der Künstlichen Allgemeinen Intelligenz (AGI).

Stellen Sie sich vor, dass sich solche Veränderungen in unterschiedlicher Geschwindigkeit über die gesamte Wirtschaft ausbreiten werden, begleitet von vielen unvorhersehbaren Wechselwirkungen und Kettenreaktionen.

Obwohl diese Idee vielleicht nicht perfekt ist, denke ich, dass es sich um ein Modell handelt, an das man sich erinnern sollte und das als Referenz nützlich ist.

Aus memetischer Sicht ist AGI weit entfernt von der Art von Superintelligenz, die sich unserer Kontrolle entzieht, sich im Cyberspace rekursiv verstärkt, tödliche Krankheitserreger oder Nanobots erzeugt und letztendlich die Galaxie in graues Zeug verwandelt.

Im Vergleich dazu ähnelt es eher der Entwicklung der autonomen Fahrtechnologie – einer Automatisierungstechnologie, die schnell voranschreitet und die Gesellschaft verändern kann. Seine Entwicklungsgeschwindigkeit wird in vielerlei Hinsicht begrenzt sein, einschließlich qualifizierter Arbeitskräfteressourcen, Informationen, Materialien, Energie und Regulierung.

Dabei ist die Gesellschaft sowohl Beobachter als auch Teilnehmer.

Die Welt wird nicht zusammenbrechen, sondern sich anpassen, verändern und neu aufbauen.

Was das autonome Fahren selbst betrifft, wird die Verkehrsautomatisierung die Sicherheit erheblich verbessern, die Stadt wird frischer und ruhiger und die Parkplätze und geparkten Autos auf beiden Straßenseiten werden nach und nach verschwinden und mehr Platz schaffen.

Ich persönlich freue mich auf alle möglichen Veränderungen, die die künstliche allgemeine Intelligenz (AGI) mit sich bringt.

Heiße Diskussion unter Internetnutzern

Kurz gesagt, Karpathy betrachtet AGI eher als die Entwicklung des autonomen Fahrens. Diese spezifische Analogie hat bei vielen Internetnutzern Diskussionen ausgelöst.

„Zu sehen, wie der Typ, der FSD nicht liefern konnte, sich entschied, FSD mit AGI zu vergleichen, gab mir tatsächlich die Gewissheit, dass wir noch Jahrzehnte vor uns haben.“

Ja, er scheint das „G“ vergessen zu haben. Ich erinnere mich, dass Norvig vor Jahrzehnten in seinen Schriften über künstliche Intelligenz einmal gesagt hat, dass „Intelligenz“ nicht Allmacht bedeutet. Damit ein intelligenter Agent nützlich ist, reicht es aus, ein kleines Problem zu lösen. Meiner Meinung nach kommt G daher.

Und jetzt sind wir plötzlich wieder bei der vorherigen engen Definition? Ich sehe immer noch keinen Weg von LLM und autonomem Fahren zu AGI.

Natürlich kann die Entwicklung von AGI schrittweise und langsam erfolgen, so wie wir Waymo beim Bau selbstfahrender Autos gesehen haben. Dies ist jedoch nur eine von vielen Möglichkeiten, und Sie können AGI auch auf sehr unterschiedliche Weise auftauchen sehen, beispielsweise durch die Skalierung von LLM im großen Maßstab.

Das obige ist der detaillierte Inhalt vonOpenAI-Mitbegründer Karpathy hat einen Artikel veröffentlicht: „Autonomes Fahren als Beispiel nehmen, um AGI zu erklären!“ Der Originaltext wurde gelöscht, bitte setzen Sie ihn jetzt in ein Lesezeichen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!