Pourquoi ChatGPT est-il populaire, mais OpenAI n’a pas reçu une grande attention ?

Big Data Digest Produced

Auteur : Caleb

Je pense que tout le monde a vu à quel point ChatGPT est populaire maintenant.

Selon les statistiques de Brett Winton, futuriste en chef d'ARK Venture Capital, il a fallu moins de deux mois pour que l'activité quotidienne de ChatGPT dépasse les 10 millions. À titre de comparaison, il aura fallu 355 jours au dernier logiciel phénoménal, Instagram, pour réaliser cet exploit.

À la mi-janvier, le New York Times a rapporté qu'Antony Aumann, professeur de philosophie à la Northern Michigan University, avait été surpris de lire ceci alors qu'il notait un cours sur les religions du monde. Un « meilleur article de la classe ». À l’aide de paragraphes concis, d’exemples bien placés et d’arguments rigoureux, les élèves explorent les implications morales de l’interdiction de la burqa. Cependant, lors de l'interrogatoire d'Aumann, l'étudiant a admis que l'article avait été rédigé en utilisant ChatGPT.

Il existe de nombreux exemples similaires.

C'est justement avec l'explosion de ChatGPT à l'échelle mondiale qu'OpenAI a été rapidement poussé à la « pointe » de l'opinion publique.

On peut dire qu'OpenAI mène actuellement la course aux armements des chatbots. En prenant ChatGPT comme exemple, la publication de sa coopération de plusieurs milliards de dollars avec Microsoft a non seulement incité Google et Amazon à déployer de toute urgence l'intelligence artificielle dans leurs gammes de produits, mais OpenAI a également coopéré avec Bain pour introduire l'apprentissage automatique dans les opérations de Coca-Cola. et prévoit de s'étendre à d'autres entreprises partenaires.

Il ne fait aucun doute que l’intelligence artificielle d’OpenAI est devenue une grosse affaire, mais en fait, c’est quelque peu différent du plan initial d’OpenAI.

« L'avenir de l'humanité devrait être déterminé par les humains »

Vendredi dernier, le PDG d'OpenAI, Sam Altman, a publié un article de blog intitulé « Planification pour l'AGI et au-delà » (Planification pour l'AGI et au-delà).

Lien de l'article : ​​https://www.php.cn/link/3187b1703c3b9b19bb63c027d8efc2f1​​# 🎜 🎜#

Dans l'article, il affirme que l'intelligence artificielle générale (AGI) d'OpenAI est actuellement loin de répondre aux exigences. Beaucoup de gens doutent qu'elle puisse profiter à l'humanité entière et qu'elle « ait le potentiel d'apporter des avantages incroyables à tout le monde ». . » de nouvelles capacités ».

Altman a utilisé un langage large et idéaliste pour affirmer que le développement de l'intelligence artificielle ne devrait pas s'arrêter, "l'avenir de l'humanité devrait être déterminé par les humains", ce qui pointait implicitement vers OpenAI.

Presque pendant la période où ChatGPT est devenu populaire, cet article de blog et les actions récentes d'OpenAI rappellent constamment à chacun à quel point le ton et la mission d'OpenAI ont changé par rapport à sa création.

À ses débuts, OpenAI n'était qu'une organisation à but non lucratif. Bien que la société se soit toujours concentrée sur le développement d'AGI, lors de sa création, elle a promis de ne pas rechercher de profits et de partager gratuitement le code de développement.

Et aujourd'hui, ces promesses sont introuvables.

La motivation d'OpenAI est devenue vitesse et profit

En 2015, Altman, Musk, Peter Thiel et Reid Hoffman ont annoncé la création d'une organisation de recherche à but non lucratif OpenAI. Dans sa déclaration fondatrice, OpenAI a annoncé que ses recherches s’engagent à « faire progresser l’intelligence artificielle de la manière la plus susceptible de bénéficier à l’ensemble de l’humanité, sans être contrainte par la génération de rendements financiers ». Le blog déclare également que « puisque notre recherche n'a aucune obligation financière, elle peut mieux se concentrer sur les impacts humains positifs » et encourage tous les chercheurs à partager « des articles, des articles de blog ou du code, nos brevets (le cas échéant) seront partagés avec le monde ». »

Huit ans plus tard, nous sommes confrontés à une entreprise qui n'est ni transparente ni animée par un impact humain positif. Au lieu de cela, comme le pensent de nombreux critiques, dont Musk, la motivation d’OpenAI était la vitesse et le profit.

Dans le même temps, OpenAI sort une technologie. Bien sûr, il y a des pièges, mais il existe toujours une volonté d’accentuer l’automatisation du lieu de travail au détriment des travailleurs humains. Google, par exemple, a souligné les gains d’efficacité apportés par l’intelligence artificielle qui complète automatiquement le code, entraînant le licenciement de milliers de travailleurs.

Au début d'OpenAI, les médias et les praticiens l'envisageaient comme un moyen ouvert de mener des recherches fondamentales sur l'intelligence artificielle avec un objectif incertain. Le co-fondateur Greg Bockman a déclaré un jour : « Notre objectif maintenant... est de faire la meilleure chose possible. C'est un peu vague. »

Cela a également contribué de manière invisible au changement de direction de l’entreprise en 2018. À cette époque, OpenAI cherchait une orientation en matière de ressources en capital, en déclarant : « Notre principale responsabilité fiduciaire est envers les humains. Nous prévoyons que nous aurons besoin de mobiliser des ressources importantes pour mener à bien notre mission. »

En mars 2019, OpenAI avait complètement abandonné son titre d'organisation à but non lucratif et avait créé un département « à profit plafonné ». Cela permet à OpenAI de commencer à accepter des investissements et offrira aux investisseurs des bénéfices plafonnés à 100 fois leur investissement.

Cette décision a été considérée comme une concurrence avec les grandes entreprises technologiques telles que Google, et peu de temps après, l'entreprise a également reçu un investissement d'un milliard de dollars de Microsoft, comme prévu. Dans un article de blog annonçant la création de l'entreprise à but lucratif, OpenAI a continué à utiliser la même rhétorique, déclarant que sa mission est de « garantir que l'intelligence artificielle générale profite à toute l'humanité ».

Mais comme l’écrit la carte mère, il est difficile de croire que les investisseurs en capital-risque puissent sauver l’humanité alors que leur objectif principal est le profit.

OpenAI est-il toujours digne de la confiance du public ?

En 2019, OpenAI a fait face à une réaction négative du public lorsqu'elle a annoncé et publié le modèle de langage GPT-2.

Initialement, la société a déclaré qu'elle ne publierait pas le code source du modèle formé en raison de « préoccupations concernant les applications malveillantes de la technologie ». Si cela reflète en partie son engagement à développer une intelligence artificielle bénéfique, ce n’est pas non plus très « ouvert ».

Les critiques voulaient savoir pourquoi OpenAI ne publierait pas un outil après l'avoir annoncé, et beaucoup pensaient qu'il s'agissait simplement d'un coup publicitaire. Ce n'est que trois mois plus tard qu'OpenAI a publié le modèle sur GitHub, affirmant que cette action constituait « une base importante pour une diffusion responsable de l'intelligence artificielle, en particulier lorsqu'il s'agit de modèles génératifs puissants ».

Selon la journaliste d'investigation Karen Hao, qui a passé plusieurs jours au sein de l'entreprise en 2020, la culture interne d'OpenAI a commencé à ne plus refléter un processus de développement de l'IA minutieux et axé sur la recherche, mais à se concentrer davantage sur l'avancée. a également conduit à des accusations selon lesquelles il contribuerait au « cycle de battage médiatique sur l’intelligence artificielle ». Les salariés sont également désormais tenus de garder le silence sur le travail à accomplir afin de se conformer aux nouveaux statuts de l'entreprise.

"Il existe un décalage entre ce que l'entreprise soutient publiquement et la façon dont elle opère à huis clos. Au fil du temps, elle a permis à une concurrence féroce et à une pression financière croissante d'éroder ses idéaux fondateurs de transparence, d'ouverture et de collaboration."

Mais dans l'ensemble, le lancement de GPT-2 est sans aucun doute un événement à célébrer pour OpenAI, et c'est également une pierre angulaire importante du développement de l'entreprise à ce jour. "Cela fait définitivement partie du cadre de la réussite", a déclaré Miles Brundage, aujourd'hui directeur de la recherche politique, lors d'une conférence. "Cette partie de l'histoire ressemble à ceci : nous avons fait quelque chose d'ambitieux, et maintenant certaines personnes le reproduisent. devrait également être une explication des avantages de cette innovation ».

Depuis lors, OpenAI a conservé la partie hype de la formule de version GPT-2, mais a supprimé l'ouverture. En 2020, GPT-3 a été officiellement lancé et rapidement sous licence « exclusive » à Microsoft. Le code source de GPT-3 n'a pas encore été publié, bien qu'OpenAI se prépare actuellement intensivement pour GPT-4 ; le modèle n'est ouvert au public que via l'API de ChatGPT, et OpenAI a également lancé une couche payante pour garantir l'accès au modèle ; .

Bien sûr, cela nécessite certaines considérations. Le premier est l’argent. "La commercialisation de la technologie nous aide à financer nos recherches en cours sur l'IA, notre sécurité et notre travail politique", a déclaré OpenAI dans un blog d'annonce d'API. La deuxième raison est la tendance à aider les grandes entreprises. « Il est difficile pour quiconque, sauf pour les grandes entreprises, de bénéficier de la technologie sous-jacente. » Enfin, la société affirme également que la publication via une API plutôt que via l'open source est plus sûre car la société peut gérer des scénarios d'abus.

"Vous n'arrêtez pas de nous dire que l'AGI est rapide, mais il n'y a même pas de définition cohérente sur votre site Web", a déclaré l'informaticien Timnit Gebru sur Twitter.

Emily M. Bender, professeur de linguistique à l'Université de Washington, a tweeté : « Ils ne veulent pas résoudre de vrais problèmes dans le monde réel (ce qui nécessiterait de céder le pouvoir). Ils veulent croire qu'ils sont des dieux et qu'ils ne le peuvent pas. créez seulement une « superintelligence », et ayez la grâce de le faire d’une manière qui soit « cohérente » avec l’humanité ».

Cette IA sera-t-elle partagée de manière responsable, développée ouvertement, sans but lucratif, comme l’envisageait initialement l’entreprise ? Ou sera-t-il précipité, avec de nombreux défauts troublants, mais surtout pour générer des revenus pour OpenAI ? OpenAI gardera-t-il son avenir de science-fiction en source fermée ?

Après avoir été combiné avec ChatGPT, le chatbot Bing de Microsoft est dans un état « obsédé », trompant et réprimandant constamment les utilisateurs et diffusant des informations erronées. OpenAI ne peut pas détecter de manière fiable le texte généré par son propre chatbot, même si les enseignants s'inquiètent de plus en plus du fait que les étudiants utilisent l'application pour tricher.

Les gens ont également facilement jailbreaké des modèles de langage, ignorant les garde-fous qu'OpenAI a mis autour d'eux, le robot plantant lors de la saisie de mots et d'expressions aléatoires. Personne ne peut dire clairement pourquoi, car OpenAI ne partage pas le code du modèle sous-jacent et, dans une certaine mesure, il est peu probable qu’OpenAI lui-même comprenne pleinement son fonctionnement.

Avec tout cela à l’esprit, nous devrions tous examiner attentivement si OpenAI mérite la confiance qu’elle demande au public de lui accorder, à laquelle elle n’a pas répondu de manière substantielle.

Rapports associés :​​https://www.php.cn/link/b4189d9de0fb2b9cce090bd1a15e3420​​

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!