Karpathy, co-fondateur d'OpenAI, a publié un article : Prendre la conduite autonome comme exemple pour expliquer l'AGI ! Le texte original a été supprimé, veuillez le mettre en signet maintenant

Pour "l'intelligence artificielle générale", Karpathy, scientifique d'OpenAI, a donné une explication.

Il y a quelques jours, Karpathy a publié un article sur son blog personnel "Étudier la conduite autonome comme cas d'AGI".

Je ne sais pas pourquoi, mais il a supprimé cet article Heureusement, il existe une sauvegarde réseau.

Comme nous le savons tous, Karpathy n'est pas seulement l'un des membres fondateurs d'OpenAI, mais aussi l'ancien directeur principal de l'IA et responsable de la conduite autonome Autopilot chez Tesla.

Il a utilisé la conduite autonome comme étude de cas pour étudier l'AGI. Les points de vue de cet article valent en effet la peine d'être lus. L'épidémie de

Autonomous Driving

LLM a suscité de nombreuses discussions sur le moment où l'AGI arrivera, et même à quoi elle pourrait ressembler.

Certaines personnes sont pleines d'espoir et optimistes quant à l'avenir d'AGI. Et certaines personnes sont pleines de peur et de pessimisme.

Malheureusement, de nombreuses discussions sont trop abstraites, ce qui rend les opinions des gens incohérentes.

Je suis donc toujours à la recherche d'analogies concrètes et de précédents historiques pour aborder ce sujet en termes plus concrets.

Surtout, lorsqu'on me demande « À votre avis, à quoi ressemblera l'AGI », j'aime personnellement utiliser la conduite autonome comme exemple. Dans cet article, je veux expliquer pourquoi. Commençons par une définition commune de l'AGI :

AGI : Un système autonome qui dépasse les capacités humaines dans les tâches les plus rentables.

Veuillez noter qu'il y a deux exigences spécifiques dans cette définition AGI.

Tout d’abord, c’est un système totalement autonome, c’est à dire qu’il fonctionne tout seul avec peu ou pas de supervision humaine.

Deuxièmement, elle opère de manière autonome sur les travaux les plus économiquement intéressants. Pour cette partie des données, j'aime personnellement me référer à l'indice professionnel du Bureau of Labor Statistics des États-Unis.

Un système qui possède ces deux propriétés à la fois, nous l'appelons AGI.

Ce que je veux suggérer dans cet article, c'est que le développement récent de nos capacités de conduite autonome est une très bonne première étude de cas sur la dynamique d'une société de plus en plus automatisée qui peut être étendue à ce à quoi ressemblera l'AGI. comme en général et l'étude des sentiments.

La raison pour laquelle je le pense est que ce domaine présente plusieurs caractéristiques. On peut simplement dire « c'est un gros problème » : la conduite autonome est très facile à comprendre et plus courante dans la société.

Elle occupe une grande partie de l’échelle économique et emploie une grande quantité de main d’œuvre humaine. La conduite automobile est un problème assez complexe, mais nous avons déjà atteint l'automatisation et cela a attiré une grande attention de la part de la société.

Bien sûr, il existe d'autres industries qui ont atteint une automatisation à grande échelle, mais soit je ne les connais pas personnellement, soit il leur manque certains des attributs ci-dessus.

Automatisation de niveau L2

L'automatisation de la conduite est considérée comme un problème très difficile dans le domaine de l'IA et ne peut être résolu du jour au lendemain.

Il est formé grâce au processus d'automatisation progressive des tâches de conduite. Ce processus implique de nombreuses étapes de « l'IA basée sur des outils ».

En termes d'automatisation des véhicules, de nombreuses voitures sont actuellement équipées de systèmes d'aide à la conduite de niveau L2. C’est-à-dire une IA capable de collaborer avec des conducteurs humains pour terminer le voyage du point de départ à la destination.

Bien qu'il ne soit pas encore totalement autonome, L2 peut déjà gérer de nombreuses tâches de base en conduite.

Parfois, il peut même terminer automatiquement l'ensemble du processus d'opération, comme le stationnement automatique.

Dans ce processus, les humains jouent principalement un rôle de supervision et peuvent même prendre le relais à tout moment, conduire directement ou émettre des instructions de haut niveau (comme des demandes de changement de voie).

Dans certains aspects (comme garder les voies centrées et prendre des décisions rapides), les performances de l'IA dépassent même celles des humains, mais elles restent insuffisantes dans de rares situations.

Cela ressemble beaucoup à de nombreux outils d’IA que nous avons vus dans d’autres secteurs, en particulier avec les récentes avancées technologiques de LLM.

Par exemple, en tant que programmeur, lorsque j'utilise GitHub Copilot pour compléter automatiquement un morceau de code, ou que j'utilise GPT-4 pour écrire une fonction plus complexe, je confie en fait la tâche de base au système automatisé.

Mais encore une fois, je peux toujours intervenir et faire des ajustements si nécessaire.

En d'autres termes, Copilot et GPT-4 sont comme des outils d'automatisation "secondaires" dans le domaine de la programmation.

Il existe de nombreuses solutions d'automatisation « secondaires » similaires dans l'industrie, mais toutes ne sont pas basées sur de grands modèles, de TurboTax aux robots d'entrepôt d'Amazon, en passant par la traduction, l'écriture, l'art, le droit, diverses « IA basées sur des outils » dans le marketing et dans d'autres domaines.

Conduite entièrement autonome

Au fil du temps, certains systèmes atteignent de nouveaux sommets de fiabilité et deviennent comme Waymo aujourd'hui.

Ils réalisent progressivement la « conduite entièrement autonome ».

Maintenant, à San Francisco, vous pouvez simplement ouvrir l'application et héler une voiture autonome Waymo, qui viendra vous chercher et vous livrera en toute sécurité à votre destination.

C'est vraiment incroyable. Vous n'avez pas besoin de savoir conduire et vous n'avez pas besoin de prêter attention aux conditions routières. Il vous suffit de vous asseoir confortablement et de faire une sieste, et le système vous emmènera du point de départ au point d'arrivée. .

Comme beaucoup de personnes à qui j'ai parlé, je préfère personnellement Waymo à Uber, et je l'utilise presque exclusivement pour le transport en centre-ville.

Vous vivrez une expérience de voyage plus stable et prévisible, le processus de conduite sera fluide et vous pourrez écouter de la musique sans vous soucier de ce que pense le conducteur lorsqu'il vous écoute.

« Économie composée »

Bien que la technologie de conduite autonome soit devenue une réalité, de nombreuses personnes choisissent encore d'utiliser Uber. Pourquoi?

Tout d’abord, beaucoup de gens ne savent tout simplement pas qu’ils peuvent choisir Waymo comme outil de transport. Même s’ils le savent, de nombreuses personnes n’ont toujours pas suffisamment confiance dans les systèmes automatisés et préfèrent être conduites par des conducteurs humains.

Cependant, même si certaines personnes acceptent la conduite autonome, elles peuvent toujours préférer les conducteurs humains, comme profiter de la conversation avec le conducteur et de l'interaction avec les autres.

Ce n’est pas seulement une préférence personnelle, comme le montrent les temps d’attente croissants dans l’application actuelle, Waymo est confronté à un problème de pénurie d’approvisionnement. Le nombre de véhicules sur le marché est bien insuffisant pour répondre à la demande.

Cela s'explique peut-être en partie par le fait que Waymo est très prudent dans la gestion et la surveillance des risques et de l'opinion publique.

D'autre part, à ma connaissance, Waymo est restreint par les régulateurs et ne peut déployer qu'un certain nombre de véhicules dans les rues. Un autre facteur limitant est que Waymo ne peut pas remplacer complètement Uber du jour au lendemain.

Ils doivent construire des infrastructures, produire des voitures et étendre leurs opérations.

Personnellement, je pense que la même chose se produira avec l'automatisation dans d'autres secteurs de l'économie - certaines personnes/entreprises les adopteront immédiatement, mais beaucoup de gens (1) ne comprennent pas les technologies, et (2) même s'ils les comprennent, ils ne leur feront pas confiance. (3) Même s'ils font confiance, ils sont toujours plus disposés à coopérer avec les humains.

Mais au-delà de cela, la demande dépasse l'offre, et l'AGI sera soumise aux mêmes contraintes pour les mêmes raisons, notamment la retenue des développeurs, les contraintes réglementaires et le manque de ressources, comme la nécessité de construire davantage de centres de données GPU.

Mondialisation de la technologie

Comme je l'ai déjà laissé entendre à propos des contraintes de ressources, le déploiement mondial de cette technologie est très coûteux, nécessite beaucoup de main d'œuvre et est lent à promouvoir.

Aujourd'hui, Waymo ne peut conduire qu'à San Francisco et Phoenix, mais la technologie elle-même est polyvalente et évolutive, de sorte que l'entreprise pourrait bientôt s'étendre à Los Angeles, Austin et ailleurs.

Les voitures autonomes peuvent également être limitées par d'autres facteurs environnementaux, comme la conduite dans de fortes chutes de neige. Dans de rares cas, cela peut même nécessiter le sauvetage d'un opérateur.

De plus, l'expansion des capacités techniques nécessite également beaucoup de coûts en ressources et n'est pas gratuite.

Par exemple, Waymo doit investir des ressources avant d'entrer dans une autre ville, comme dessiner des plans de rues, planifier le chemin de perception global et contrôler les algorithmes pour s'adapter à certaines situations particulières ou réglementations locales.

Comme le montre notre métaphore du travail, de nombreux emplois ne peuvent être automatisés que dans certaines circonstances, et leur mise à l'échelle nécessitera beaucoup de travail.

Dans les deux cas, la technologie de conduite autonome elle-même est universelle et évolutive, et ses perspectives d’application s’élargiront progressivement au fil du temps.

Réaction sociale : c'est rapidement devenu un "nuage passager"

Concernant le processus d'intégration progressive de la technologie de conduite automatique dans la société, une chose que je trouve particulièrement intéressante est -

Il y a quelques années à peine, les gens étaient toujours enthousiastes. Le projet a été discuté et semé de doutes et d'inquiétudes, et le débat sur la réussite ou même la faisabilité du projet est devenu un sujet d'intérêt général. Mais aujourd’hui, la conduite autonome n’est plus un rêve d’avenir, c’est bel et bien une réalité.

Ce n'est pas seulement un prototype de recherche, mais un mode de transport entièrement automatisé qui peut être acheté avec de l'argent.

Dans le champ d'application actuel, la technologie de conduite autonome a atteint une autonomie complète.

Cependant, dans l’ensemble, cela ne semble pas attirer l’attention de trop de gens. La plupart des gens à qui je parle (y compris dans le domaine de la technologie !) ne sont même pas au courant de cette évolution.

Lorsque vous conduisez Waymo dans les rues de San Francisco, vous verrez de nombreuses personnes lui jeter des regards curieux. Ils seront d’abord surpris, puis regarderont avec curiosité.

Après cela, ils continueront leur vie.

Lorsque la technologie de conduite autonome atteint également une autonomie totale dans d'autres secteurs, le monde ne sera peut-être pas turbulent.

La plupart des gens ne réalisent peut-être même pas ce changement au début. Lorsqu’ils le remarquent, ils peuvent simplement le regarder avec curiosité, puis l’ignorer, avec des réactions allant du déni à l’acceptation.

Certaines personnes peuvent être bouleversées par cela et même prendre des mesures de protestation, comme placer des cônes de signalisation devant les voitures Waymo.

Bien sûr, pour l’instant, nous sommes encore loin d’assister à ce phénomène pleinement joué. Mais quand cela se produira, je m’attends à ce que ce soit largement prédictif.

Impact économique

Quand on parle d'emploi, force est de constater que Waymo a clairement remplacé le poste de conducteur.

Mais en même temps, cela a également engendré de nombreux emplois qui n'existaient pas auparavant, et ces postes sont relativement moins visibles - comme les annotateurs qui collectent des données de formation pour les réseaux neuronaux, le personnel du service client qui assiste à distance les voitures en cas de problèmes. , et les personnes responsables du bâtiment et le personnel qui entretient la flotte, etc.

Ce qui est né en premier, c'est une toute nouvelle industrie de capteurs et d'infrastructures associées conçues pour construire ces voitures sophistiquées et de haute technologie.

Tout comme la vision générale du travail, de nombreux postes vont changer, certains vont disparaître, mais de nombreux nouveaux vont également apparaître.

Il s'agit en fait d'un changement de forme de travail, plutôt que d'une simple réduction de postes, bien que la réduction de postes soit le changement le plus intuitif.

Bien qu’il soit difficile de dire que l’emploi global ne diminuera pas avec le temps, le rythme du changement est beaucoup plus lent que ce à quoi on pourrait s’attendre.

Environnement concurrentiel

Enfin, je veux parler de l'environnement concurrentiel dans le domaine de la conduite autonome.

Il y a quelques années, les constructeurs de voitures autonomes surgissaient comme des champignons après la pluie. Mais aujourd’hui, à mesure que les gens réalisent progressivement la complexité de cette technologie (je crois personnellement que l’automatisation est encore très difficile compte tenu de l’intelligence artificielle et de la technologie informatique actuelles), ce domaine a connu une consolidation à grande échelle.

Parmi eux, Waymo est devenue la première entreprise à démontrer pleinement l'avenir de la conduite autonome.

Malgré cela, certaines entreprises sont encore en train de rattraper leur retard, comme Cruise, Zoox et ma préférée, Tesla.

Je voudrais le mentionner brièvement ici, en me basant sur mon expérience et ma participation dans ce domaine. À mon avis, l’objectif ultime de l’industrie de la conduite autonome est de parvenir à une conduite entièrement autonome à l’échelle mondiale.

Waymo a choisi la stratégie consistant à réaliser d'abord la conduite autonome, puis à se développer à l'échelle mondiale, tandis que Tesla s'est d'abord déployée à l'échelle mondiale puis a progressivement amélioré sa technologie de conduite autonome.

Évidemment, ces deux sociétés seront confrontées à des ajustements complètement différents : l'une travaille principalement sur les logiciels, et l'autre travaille sur le matériel.

À l'heure actuelle, je suis très satisfait de leurs produits. Personnellement, je suis pleinement favorable à la technologie elle-même.

De même, de nombreuses autres industries peuvent également traverser une phase de croissance et d'expansion rapides (comme le domaine de la conduite autonome vers 2015), mais en fin de compte, il se peut que seules quelques entreprises survivent dans cette compétition.

Dans ce processus, de nombreux outils auxiliaires pratiques de l'IA (tels que la fonction actuelle L2 ADAS) et certaines plates-formes ouvertes (telles que Comma) seront largement utilisés.

Intelligence générale artificielle (AGI)

Ce qui précède est ma vision générale du développement futur de l'intelligence générale artificielle (AGI).

Imaginez que de tels changements se propagent à l’ensemble de l’économie à des vitesses différentes, accompagnés de nombreuses interactions imprévisibles et réactions en chaîne.

Bien que cette idée ne soit peut-être pas parfaite, je pense que c'est un modèle à retenir et utile à titre de référence.

D'un point de vue mémétique, l'AGI est loin d'être le genre de superintelligence qui échappe à notre contrôle, s'améliore de manière récursive dans le cyberespace, crée des agents pathogènes mortels ou des nanobots et transforme finalement la galaxie en une substance grise.

En comparaison, cela ressemble davantage au développement de la technologie de conduite autonome - une technologie d'automatisation qui progresse rapidement et peut changer la société. Sa vitesse de développement sera limitée à de nombreux égards, notamment les ressources en main-d'œuvre instruite, l'information, les matériaux, l'énergie et la réglementation.

En cela, la société est à la fois observatrice et participante.

Le monde ne s'effondrera pas, mais s'adaptera, changera et se reconstruira.

En ce qui concerne la conduite autonome elle-même, l'automatisation de la circulation améliorera considérablement la sécurité, la ville deviendra plus fraîche et plus fluide, et les parkings et les voitures garées occupant les deux côtés de la route disparaîtront progressivement, laissant plus d'espace.

J'attends personnellement avec impatience tous les changements possibles apportés par l'intelligence artificielle générale (AGI).

Discussion animée parmi les internautes

En bref, Karpathy considère l'AGI comme davantage le développement de la conduite autonome. Cette analogie spécifique a déclenché des discussions parmi de nombreux internautes.

"Voir le gars qui ne pouvait pas délivrer de FSD décider de comparer le FSD à l'AGI m'a en fait donné l'assurance qu'il nous reste encore des décennies."

Ouais, il semble avoir oublié le "G". Je me souviens que Norvig a dit un jour dans ses écrits sur l'intelligence artificielle il y a des décennies que « intelligence » ne signifie pas toute-puissance. Pour qu'un agent intelligent soit utile, il suffit de résoudre un petit problème. À mon avis, c'est de là que vient G.

Et maintenant, nous revenons soudainement à la définition étroite précédente ? Je ne vois toujours pas de chemin entre le LLM et la conduite autonome vers l'AGI.

Bien sûr, le développement de l'AGI peut être progressif et lent, tout comme nous avons vu Waymo construire des voitures autonomes. Mais ce n’est qu’une manière parmi tant d’autres, et vous pouvez également voir l’AGI apparaître de manières très différentes, par exemple en mettant à l’échelle un LLM à grande échelle.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!