Patron de GPT-4 : Pas de panique, j'ai un plan, l'avenir d'AGI est vraiment prometteur !

Le chatbot d’OpenAI a choqué le monde.

Mais lorsque les gens réalisent que cette technologie est aussi un moyen de diffuser de la désinformation et de persuader les gens de faire des choses dangereuses, certains critiques accusent Ultraman de comportement imprudent.

De nombreux leaders de l'industrie, chercheurs en intelligence artificielle et universitaires considèrent ChatGPT comme un changement technologique fondamental, aussi important que la naissance du navigateur Web ou de l'iPhone. Mais rares sont ceux qui peuvent s’entendre sur l’avenir de la technologie.

Certaines personnes pensent que cela entraînera une utopie où chacun aura tout le temps et l’argent dont il a besoin. D’autres pensent que cela pourrait détruire l’humanité. D’autres passent une grande partie de leur temps à affirmer que la technologie ne sera jamais aussi puissante que tout le monde le prétend, insistant sur le fait que ni le nirvana ni la fin du monde ne sont encore loin.

Au cours de la semaine dernière, plus d'un millier d'experts en intelligence artificielle et de leaders technologiques ont appelé OpenAI et d'autres entreprises à suspendre leurs travaux sur des systèmes tels que ChatGPT, affirmant qu'ils « entraînent de profondes conséquences sur la société et l'humanité ». " risque".

En tant que PDG d'OpenAI, Altman incarne d'une manière ou d'une autre chacun de ces points de vue apparemment contradictoires alors qu'il espère pousser cette technologie étrange, puissante et imparfaite dans le futur, tout en équilibrant d'innombrables possibilités.

Cela signifie qu'il est constamment critiqué de toutes parts. Mais Greg Brockman, président d'OpenAI, pense que c'est approprié : "Si vous mettez les gens des deux extrêmes également mal à l'aise, alors vous faites quelque chose de bien."

Robert Oppenheimer, leader du projet Manhattan, estime que l'atomique. la bombe est inévitable pour le progrès scientifique, et Ultraman et Oppenheimer partagent le même anniversaire. En parlant de la technologie d'OpenAI, Altman l'a également cité disant : « La technologie existe parce que c'est possible. » Il pense que l'intelligence artificielle se produira d'une manière ou d'une autre, et qu'elle fera des choses que même lui ne peut pas imaginer. nous pouvons trouver des moyens d’atténuer les dommages qu’elle peut causer.

Cette attitude reflète la propre trajectoire de développement d’Ultraman. Il a progressé assez régulièrement vers le succès et la richesse, grâce à des compétences personnelles efficaces. Il est logique qu’il pense que de bonnes choses vont se produire.

Cependant, il a également déclaré que s'il se trompe, il existe une issue de secours : dans son contrat avec des investisseurs tels que Microsoft, le conseil d'administration d'OpenAI se réserve le droit d'arrêter la technologie à tout moment.

Auto-pull

Ultraman est une personne vivant dans une contradiction. Il est végétarien mais élève des vaches.

Quand il parle de la technologie développée par son entreprise, il estime que la technologie « résoudra certains de nos problèmes les plus urgents, améliorera véritablement le niveau de vie et trouvera de meilleures utilisations pour la volonté et la créativité humaines

Cependant ». , il n'est pas entièrement sûr des problèmes que cela résoudra. Dans le même temps, il craint également que cette technologie puisse causer de graves dommages si elle tombait entre les mains de gouvernements autoritaires.

Kelly Sims, partenaire de la société de capital-risque Thrive Capital qui a travaillé avec Altman en tant que conseiller du conseil d'administration d'OpenAI, a déclaré qu'il avait l'impression de se disputer constamment avec lui-même : « Dans les conversations, il était lui-même des deux côtés du débat. "

La question est de savoir si les deux camps d'Ultraman sont finalement compatibles : est-il logique d'être en avance si cela peut se terminer par un désastre ? Ultraman est bien sûr déterminé à voir comment cela se produira.

En tant que président de l'accélérateur de startups de la Silicon Valley et investisseur d'amorçage Y Combinator de 2014 à 2019, il a conseillé un flux constant de nouvelles entreprises et a judicieusement investi dans plusieurs qui sont désormais des noms connus, notamment Airbnb, Reddit et Stripe.

Il est fier de pouvoir identifier si une technologie peut connaître une croissance exponentielle.

L'argent ne m'intéresse pas

De nombreuses personnes dans la Silicon Valley ont leur richesse personnelle immobilisée dans diverses entreprises publiques et privées, et Altman est comme eux. Et sa richesse n’est pas étonnante.

Il n'a aucune action dans OpenAI. Le seul argent qu'il gagne grâce à l'entreprise est un salaire annuel d'environ 65 000 $ et une petite partie de l'ancien investissement de Y Combinator dans l'entreprise.

Paul Graham, le fondateur de Y Combinator, est son partenaire et mentor. Il a expliqué les motivations d'Altman de cette façon :

« Pourquoi ferait-il un travail qui ne le rendra pas plus riche ? Beaucoup de gens feront cela une fois qu'ils auront assez d'argent, et l'autre réponse est qu'il aime le pouvoir "

Bill Gates doit être comme ça

À la fin des années 1990, au 19ème siècle. Le corps étudiant de John Burroughs. , une école préparatoire privée du nom du naturaliste et philosophe américain, est en proie à l'homophobie.

Au début du 21e siècle, Altman, un étudiant de 17 ans, a commencé à changer la culture de l'école, convainquant les enseignants un par un d'afficher des panneaux « espace sûr » sur les portes des salles de classe en guise de déclaration de soutien aux étudiants homosexuels comme lui.

Georgeann Kepchar, qui enseigne le cours avancé d'informatique de l'école, considère Altman comme l'un de ses étudiants en informatique les plus doués : « Il a de la créativité et une vision, et combiné à de l'ambition et de la force de caractère, il peut convaincre les autres de travailler avec Altman m'a également raconté qu'il avait demandé un jour à un professeur particulièrement homophobe d'afficher un panneau d'espace sûr après sa première année. Il a travaillé dans le laboratoire d'intelligence artificielle et de robotique du professeur Andrew Ng, qui a ensuite fondé le laboratoire. laboratoire phare d'intelligence artificielle de Google. Mais il a dit qu'il avait plus appris en jouant au poker le soir pendant son bref séjour à Stanford qu'en participant à d'autres activités universitaires, et que le poker lui avait appris à voir les gens et à évaluer les risques.

"Comment remarquer des tendances chez les gens au fil du temps, comment prendre des décisions avec des informations très imparfaites, comment décider quand cela vaut la peine d'obtenir plus d'informations, c'est un jeu génial

Graham, qui a." a travaillé avec Altman pendant une décennie, voit le même pouvoir de persuasion chez le natif de Saint-Louis : "Il a une capacité innée à convaincre les gens de faire des choses. Si ce n'est pas inné, au moins il avait cette capacité avant l'âge de 20 ans. Quand J'ai rencontré Sam pour la première fois, il avait 19 ans et je me suis dit : "Bill Gates doit être comme ça". son successeur, ce qui a choqué les gens de la Silicon Valley car il ne s'agit pas d'embaucher des codeurs, des ingénieurs ou des intelligences artificielles. Le chercheur, qui est celui qui fixe l'agenda, construit l'équipe et conclut l'affaire.

En tant que président de YC, Altman a presque renoncé à l'expansion de l'entreprise, a créé un nouveau fonds d'investissement et un nouveau laboratoire de recherche, et a augmenté le nombre d'entreprises auxquelles l'entreprise fournit des services de conseil à des centaines chaque année.

Il a également commencé à travailler sur plusieurs projets en dehors des sociétés d'investissement, notamment OpenAI, une organisation à but non lucratif qu'il a fondée en 2015 avec un groupe de personnes dont Musk. YC était de plus en plus inquiet qu'Ultraman s'épuise, il a donc décidé de recentrer son attention sur un projet qui, comme il le disait, aurait un réel impact sur le monde : l'intelligence artificielle.

Selon son frère, il pense être l'une des rares personnes à pouvoir changer le monde grâce à la recherche sur l'intelligence artificielle.

En 2019, juste au moment où la recherche sur OpenAI commençait à décoller, M. Altman a saisi l'opportunité, a démissionné de son poste de président de Y Combinator et s'est concentré sur une entreprise de moins de 100 employés et ne savait même pas comment payer les salaires de l'entreprise.

En un an, il a transformé OpenAI en une organisation à but non lucratif avec une branche à but lucratif. De cette façon, il pourrait rechercher des fonds pour construire une machine capable de faire tout ce que le cerveau humain peut faire.

Il a rencontré le PDG de Microsoft, Satya Nadella, lors d'un rassemblement annuel de dirigeants technologiques, souvent appelé « Camp d'été des milliardaires », et a ensuite personnellement négocié l'accord avec Nadella et le directeur de la technologie de Microsoft, Kevin Scott.

M. Brockman, président d'OpenAI, a déclaré que le talent d'Altman réside dans la compréhension des besoins des gens : « Il essaie vraiment de trouver ce qui est le plus important pour une personne, puis de trouver un moyen de le lui donner. un algorithme qu'il utilise encore et encore.

L'accord place OpenAI et Microsoft au centre d'un mouvement prêt à tout remodeler, des moteurs de recherche aux applications de messagerie en passant par les tuteurs en ligne. Et la rapidité avec laquelle cela se produit a surpris même ceux qui suivent cette technologie depuis des décennies.

Au milieu de cet engouement, Ultraman reste toujours aussi calme. Scott, le CTO de Microsoft, estime qu'Ultraman finira par devenir aussi grand que Steve Jobs, Bill Gates et Mark Zuckerberg.

"Ces personnes ont laissé une marque indélébile sur le tissu de l'industrie technologique, et peut-être aussi sur le tissu mondial. Je pense que Sam va faire partie de ces personnes."

Le long chemin vers construire un rêve

Yudkowsky et son travail ont joué un rôle clé dans la création d'OpenAI et de DeepMind. Il a également contribué à la naissance d’une vaste communauté en ligne de rationalistes et d’altruistes efficaces qui croient que l’intelligence artificielle constitue un risque existentiel et craignent qu’elle ne détruise un jour le monde.

Des chercheurs de nombreux laboratoires d'intelligence artificielle de premier plan, dont OpenAI, appartiennent à ce groupe très influent. Ils ne voient pas cela comme de l’hypocrisie : beaucoup d’entre eux pensent que, parce qu’ils sont les mieux placés pour développer cette technologie, ils comprennent mieux que d’autres les dangers.

Altman estime que les altruistes efficaces ont joué un rôle important dans l'essor de l'intelligence artificielle et peuvent alerter les industries des dangers. Il pense également qu'ils exagèrent les dangers.

Pendant qu'OpenAI développait ChatGPT, de nombreuses autres sociétés, dont Google et Meta, développaient une technologie similaire. Mais ce sont Ultraman et OpenAI qui ont choisi de partager cette technologie avec le monde.

De nombreux acteurs du domaine ont critiqué cette décision, arguant qu'elle déclenche une course à la diffusion d'une technologie qui peut mal tourner, être inventée et qui peut rapidement être utilisée pour diffuser rapidement de la désinformation.

Vendredi, le gouvernement italien a temporairement interdit l'utilisation de ChatGPT dans le pays, invoquant des préoccupations concernant la vie privée et l'exposition des mineurs à des contenus dangereux.

Ultraman estime que plutôt que de développer et de tester cette technologie entièrement à huis clos avant de la publier entièrement, il serait plus sûr de la partager progressivement afin que chacun puisse mieux comprendre les risques et comment y faire face.

Ce sera un "décollage très lent", a-t-il déclaré. Il a déclaré qu’il ne pouvait pas imaginer un monde dans lequel l’intelligence humaine serait inutile. S’il avait tort, il pensait pouvoir réparer les fautes humaines.

Il a reconstruit OpenAI pour en faire ce qu'il appelle une entreprise rentable. Cela lui a permis d’obtenir des milliards de dollars de financement en promettant des bénéfices à des investisseurs comme Microsoft. Mais ces bénéfices sont plafonnés et tout revenu supplémentaire sera réinvesti dans l’organisation à but non lucratif OpenAI fondée en 2015.

Sa grande idée est qu'OpenAI captera la majeure partie de la richesse mondiale en créant AGI, puis redistribuera cette richesse au peuple.

Cependant, il ne sait pas comment redistribuer les richesses. Il pense que dans ce nouveau monde, l'argent peut signifier différentes choses, mais "je pense qu'AGI peut aider à résoudre ce problème

".

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!