Révélation exclusive : la mystérieuse marraine de 35 ans derrière ChatGPT a rendu à elle seule cette IA de niveau divin populaire

Quand OpenAI a soudainement décidé de lancer ChatGPT fin novembre 2022, les employés ont été choqués.

Les employés qui développaient GPT-4 à l'époque ont soudainement reçu l'ordre d'emballer GPT-3.5 et d'en faire un chatbot dès que possible.

Quelques jours plus tard, ChatGPT a été mis en ligne sans aucune publicité. Cependant, en quelques dizaines de jours, ChatGPT a semblé faire boule de neige et se répandre dans le monde entier.

Les médias se sont penchés sur les coulisses de la naissance de cette IA de premier ordre.

Récemment, ils ont découvert Mira Murati, la CTO de 35 ans d'OpenAI et la marraine de ChatGPT.

Ces jours-ci, l'attention des médias s'est déplacée de Sam Altman, le père de ChatGPT, à Mira Murati.

Surtout les reportages fréquents des médias étrangers sur elle au cours des deux derniers mois, ce qui est particulièrement accrocheur.

Mais elle est si mystérieuse qu'elle n'a même pas de page d'accueil Wikipédia.

Il est indéniable qu’elle est désormais devenue l’une des personnalités les plus influentes du monde de la technologie. Et ce n’est pas un hasard si elle en est arrivée là.

Le mystérieux CTO d'OpenAI

Selon les informations circulant sur Internet, Mira Murati est née dans une famille d'enseignants de lycée albanais et a ensuite obtenu un baccalauréat en génie mécanique du Dartmouth College.

En 2013, Murati a officiellement rejoint Tesla et était responsable du développement du Model X.

C'est durant cette année qu'elle s'est intéressée à l'IA.

À cette époque, Tesla développait une première version du logiciel d'aide à la conduite à intelligence artificielle Autopilot et développait également des robots à intelligence artificielle pour les usines. Cela a amené Murati à réfléchir à d'autres applications du monde réel.

Par la suite, Murati a occupé le poste de vice-président des produits et de l'ingénierie chez Leap Motion pendant deux ans.

Leap Motion est une société de logiciels et de matériel informatique qui produit des contrôleurs permettant aux utilisateurs de manipuler des objets numériques avec des mouvements de la main tout en étant connectés à un PC ou un Mac.

Pendant le mandat de Murati chez Leap Motion, la société a lancé un nouveau logiciel conçu pour le suivi des mains en VR.

En tant que vice-présidente des produits et de l'ingénierie, elle espère que l'interaction entre les utilisateurs et les ordinateurs pourra être "aussi intuitive que jouer avec un ballon". Mais elle s’est vite rendu compte que la technologie basée sur la réalité virtuelle n’avait pas encore été acceptée par le public.

Murati a soigneusement réfléchi à ses prochaines étapes et elle a conclu que « d'énormes progrès technologiques » doivent être utilisés pour résoudre les plus grands défis du monde.

En 2018, Murati a rejoint OpenAI en tant que vice-président de l'intelligence artificielle appliquée et des partenariats.

À cette époque, OpenAI a accéléré le rythme et formulé un plan plus ambitieux que sa force actuelle.

En 2019, OpenAI est passée d'une organisation à but non lucratif à une organisation à but lucratif.

Par la suite, Murati a gravi les échelons et est devenu vice-président principal des produits et des partenariats chez OpenAI.

Elle est devenue directrice de la technologie il y a 10 mois.

Depuis que Murati a été nommé directeur de la technologie, OpenAI a lancé certains des produits d'IA vedettes les plus en vogue, tels que DALL-E 2 et ChatGPT.

Ces produits ont également amené le monde entier à regarder OpenAI avec admiration. Tout le monde se rend compte que la technologie OpenAI peut créer une valeur économique inimaginable pour le monde.

Le 24 février, Sam Altman, PDG d'OpenAI et père de ChatGPT, a publié la feuille de route de l'AGI pour garantir que l'AGI profite à toute l'humanité et vise directement un monde super-intelligent.

Il ne fait aucun doute que si l'intelligence artificielle générale (AGI) - l'intelligence artificielle au niveau humain - est réellement réalisée, l'économie mondiale pourrait changer radicalement du jour au lendemain, et qu'en suivra-t-il ? structure sociale, système politique et même structure du pouvoir international.

Évidemment, l'impact perturbateur que ChatGPT peut avoir sur la société humaine et dont les gens discutent actuellement n'est pas une exagération.

Et Murati peut se laisser entrer dans OpenAI et devenir une personne ayant le pouvoir d'influencer le monde. Chaque pas qu'il fait n'est pas aléatoire.

Pas à pas, atteignant le sommet

En travaillant chez Leap Motion, Murati s'est profondément rendu compte que la réalité virtuelle n'avait pas encore été acceptée par le public. Afin de trouver une technologie pour résoudre les plus grands défis du monde, elle a rejoint OpenAI en 2018. .

Cette fois, elle a définitivement fait le bon choix.

Chez OpenAI, elle a trouvé de nombreuses personnes partageant les mêmes idées qui partagent sa conviction que l'AGI deviendra une technologie qui changera le monde.

Ici, Murati découvre une organisation en constante évolution. Les meilleurs laboratoires d'intelligence artificielle au monde exploitent des volumes de données à l'échelle d'Internet et des superordinateurs personnalisés pour entraîner leurs modèles, et leurs méthodes de force brute produisent des résultats.

Au début, OpenAI était petite, mais l'équipe s'agrandit. Ils se rendent compte que la puissance de calcul dont les entreprises ont besoin est de plus en plus coûteuse. La commercialisation est à la fois une nécessité économique et un moyen d’exposer leur technologie au monde.

En 2019, l'organisation à but non lucratif s'est restructurée en une startup à but lucratif avec une société mère à but non lucratif, nommant l'ancien président de Y Combinator, Sam Altman, au poste de PDG. Il a répondu aux attentes et a rapidement levé 1 milliard de dollars auprès de Microsoft.

Alors qu'OpenAI entame un nouveau voyage, Murati est vice-président de l'intelligence artificielle appliquée et des partenariats.

OpenAI est confronté au problème central des grands modèles de langage (ou des algorithmes qui traitent et génèrent du texte sur les réseaux de neurones). Selon le concurrent d'OpenAI Patrick Hebron, vice-président de la recherche et du développement chez Stable Diffusion, les grands modèles de langage sont comme le génie scellé. .

Par exemple, Mozart n'était pas Mozart jusqu'à ce que quelqu'un lui tende un instrument.

De même, bien que le modèle de langage de base d’OpenAI ait un énorme potentiel, il a encore besoin de l’aide de partenaires externes pour être exposé plus rapidement.

Dans le même temps, d'autres laboratoires d'IA explorent également la manière d'utiliser des modèles de langage à grande échelle pour développer des produits. Par exemple, Google Duplex est une version robot vocale de Google Assistant qui peut aider les gens à passer des appels téléphoniques et à prendre des rendez-vous.

En comparaison, OpenAI se concentre davantage sur la manière de rendre le modèle mieux adapté aux intentions humaines. (L'échec ultérieur de Google était annoncé ici.)

À cette époque, Murati a également été promue directrice de la supervision de la recherche, et elle s'est retrouvée au cœur de ce travail.

Plus précisément, afin de réaliser un véritable GPT « Chat », OpenAI doit permettre au modèle de comprendre la valeur du dialogue humain. Une grande partie du langage est subjective : quelles chansons sont bonnes ? Quel type de restaurant est considéré comme haut de gamme ? Sans retour humain, il serait difficile pour un modèle de langage de comprendre ces concepts, et encore moins de comprendre une blague.

Afin de transmettre ces valeurs humaines​​à GPT, OpenAI a déployé une série d'efforts. Il embauche des sous-traitants pour évaluer les résultats de GPT et rédiger de meilleurs résultats, ainsi que les propres employés d'OpenAI pour faire de même.

Il a trouvé des partenaires prêts à partager leurs données expérimentales. Il établit une opération de sécurité qui tente de prédire la manière dont les utilisateurs peuvent compromettre le système. Les données de tous ces processus sont ensuite réinjectées dans une couche d’algorithme qui peut se placer au-dessus du modèle de langage.

La dernière étape consiste à créer une interface de barre de recherche sur le système et à la nommer ChatGPT. Cette étape est la plus simple.

C'est ainsi qu'est né le modèle linguistique le plus populaire et le plus performant. Selon les mots de Murati, ils ont obtenu un chatbot qui était « plus susceptible de faire ce que vous voulez qu'il fasse ».

Interview de Greylock : Dr Li Feifei, co-directeur de Stanford HAI, et Mira Murati, directrice de la technologie d'OpenAI

Mais ChatGPT n'est que le début.

OpenAI dispose d'un portefeuille d'applications diversifié Depuis le début, OpenAI a conçu un large portefeuille de produits.

"L'une des raisons pour lesquelles nous voulions créer Dall-E était de comprendre le monde plus profondément et de permettre à ces modèles de comprendre le monde comme nous le faisons", a déclaré Murati.

Selon elle, les modèles d'intelligence artificielle formés avec l'apprentissage multimodal (c'est-à-dire un apprentissage qui inclut du texte, des images, de l'audio, de la vidéo et même de la robotique) sont la clé pour réaliser des percées à long terme.

L'astuce consiste à relier ces projets futurs aux produits d'ici et maintenant.

Participer à un événement organisé par GIRL GEEK

"Vous pouvez réaliser des progrès technologiques dans le vide sans contact avec le monde réel. Mais alors la question est : allez-vous vraiment dans la bonne direction ?"

De l'avis de Murati, si l'AGI se construit uniquement dans le cadre du portée du laboratoire, l’impact social provoqué par son émergence sera encore plus inquiétant.

Ajuster de grands modèles de langage grâce à l'apprentissage par renforcement et au feedback humain est le moyen le plus efficace de résoudre les futurs défis de l'AGI, et c'est également un moyen d'engager le public dans le dialogue.

De plus, bien que Murati ait confiance dans les capacités d'OpenAI, elle ne semble pas être comme le PDG Sam Altman, qui parle souvent d'histoires de science-fiction telles que l'AGI générant une conscience pour faire la une des journaux.

Pour Murati, la conscience est une idée philosophique, pas une idée scientifique.

Murati souhaite réinventer le test de Turing pour déterminer si les ordinateurs peuvent penser comme les humains et effectuer un large éventail de tâches cognitives.

Mais plus important encore, elle souhaite que les systèmes OpenAI apprennent de vrais humains.

Concernant les informations personnelles de Murati, nous savons pour l'instant seulement qu'elle est fan du classique de science-fiction "2001 : L'Odyssée de l'espace", du poète Rainer Maria Rilke et du groupe de rock Radiohead

Les trois personnalités de Bing l'ont aussi contributions

Hier, les utilisateurs ont découvert que Bing AI avait soudainement le choix entre trois « personnalités » : la créativité, l'équilibre et la précision.

Derrière cela, il y a aussi la promotion d'employés d'OpenAI comme Murati.

Selon Fast Company, au siège d'OpenAI à San Francisco, l'équipe de direction de six personnes derrière ChatGPT se réunit chaque semaine pour des réunions régulières.

Un matin de fin janvier, la première question de la réunion ordinaire était de savoir comment l'équipe pouvait faire en sorte que ChatGPT équilibre précision et créativité dans les réponses.

Murati, en tant que CTO, a été le premier à prendre la parole lors de la réunion ordinaire et a demandé ce que l'équipe savait de la corrélation entre l'exactitude de ChatGPT et son imagination.

Liam Fedus, ancien physicien des particules et scientifique de Google Brain, aujourd'hui chercheur sur OpenAI, a déclaré : « Il existe de plus en plus de preuves que notre modèle de base est très doué en écriture créative, mais parce qu'OpenAI est, à certains égards, le passage à un modèle plus utile pourrait avoir lui a fait perdre certaines de ses capacités. "Murati a écouté attentivement les réponses, a pris des notes et a prévu de lancer de nouvelles expériences dans les semaines à venir pour tester la précision et la créativité du modèle.

Cet axe d'enquête touche des milliards de dollars et des millions d'emplois.

Si la crédibilité de ChatGPT ne peut être prouvée, le statut d’OpenAI en tant que startup la plus prometteuse de la Silicon Valley depuis des décennies pourrait être menacé.

Maintenant, nous pouvons voir qu'après l'intégration du modèle de type ChatGPT dans Bing de Microsoft, il teste et explore également l'itinéraire du produit étape par étape sur la base des commentaires réels du marché.

Après que ChatGPT soit devenu populaireAvant, Murati montait rarement sur scène, mais avec la récente explosion de l'AIGC, OpenAI est devenu un symbole à la pointe de la tendance de l'époque, et Murati est apparu davantage aux yeux du public.

Il y a quatre mois déjà, elle est apparue dans l'émission « The Daily Show » de Cui Wa pour discuter de l'impact que ces puissants outils d'IA peuvent avoir sur les humains.

En 2021, OpenAI a embauché le chercheur en ML Jan Leike, qui dirige désormais une équipe d'alignement, marquant ainsi l'accent accru mis sur la formation avec l'apprentissage par renforcement par feedback humain (RLHF).

Sur Twitter, Murati a interagi en étroite collaboration avec Leike, et ils ont discuté de l'importance d'intégrer les commentaires lors de la formation des modèles d'IA.

Lors de discussions avec CogX il y a huit mois déjà, Murati a expliqué : « Nous voulons que ces modèles suivent nos instructions explicites, mais nous voulons également qu'ils suivent nos instructions implicites, nous ne voulons donc pas qu'ils génèrent Any des stéréotypes, ou des réactions toxiques. Nous voulons qu'ils soient à peu près cohérents avec ce que nous voulons, qui peut être assez vague. Pour atteindre cet objectif, nous avons besoin d'un retour artificiel sur le modèle pour rendre l'intention plus claire.

Toujours dans cette discussion, elle a salué les progrès apportés par l'IA, mais a également admis franchement qu'elle ne savait pas si les outils d'IA remplaceraient les humains.

"Nous ne savons pas si AGI nous remplacera complètement ou nous aidera à faire ce que nous faisons. On ne sait toujours pas comment le travail humain va changer à l'avenir et à quoi ressemblera le système économique

"Mais." Dans l'ensemble, je pense que l'IA aura un impact très positif sur l'humanité, car elle peut résoudre des problèmes très difficiles dans le monde réel, comme faire face au changement climatique ou traiter des maladies incurables. "

Dans "The Daily Show" de Cui Wa ", Murati a adopté une approche plus évasive, qualifiant les applications d'OpenAI d'"assistants humains" qui deviendront ce que "la société les façonnera".

Sam Altman, PDG et fondateur d'OpenAI, a une attitude tout aussi vague en ce qui concerne les questions éthiques liées à ChatGPT.

Et Murati a également admis que "la question de savoir quel impact exact l'AGI aura sur les humains" est trop grande et trop ouverte, et elle ne peut pas encore y répondre.

Dans une récente interview accordée au magazine Time, Murati a également appelé les décideurs politiques à commencer à réglementer l'IA.

« Il est important pour OpenAI et les entreprises comme elle de sensibiliser le public à l’IA de manière contrôlée et responsable. Mais nous sommes un petit groupe et nous devons tirer davantage parti du système. Au-delà de la technologie, comme les régulateurs, les gouvernements et toutes les autres forces. Aujourd'hui, le prochain grand modèle de langage d'OpenAI, GPT-4, se prépare également à être lancé. Il est évidemment possible qu'il ait attiré la même attention que ChatGPT, sinon plus, mais. Murati estime que « moins de battage médiatique serait mieux ».

Mais il ne fait aucun doute que Murati et son équipe continueront de remuer le monde à chaque pas qu'ils franchissent.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!