Demis Hassabis : l’IA est plus puissante que nous l’imaginions

​Récemment, Demis Hassabis, le fondateur de DeepMind, était l'invité du podcast de Lex Fridman et a parlé de nombreux points intéressants.

Au début de l'interview, Hassabis a déclaré sans ambages que le test de Turing est obsolète car il s'agit d'une référence proposée depuis des décennies et que le test de Turing est basé sur les actions et les réactions humaines. Le paragraphe précédent se produisait. À l'époque, un ingénieur de Google avait qualifié le système d'IA de « farce » de conscience : les chercheurs parlaient à un modèle de langage et cartographiaient leurs propres perceptions sur le jugement du modèle, qui perdait son objectivité.

Depuis sa création en 2015, le développement de DeepMind dans le domaine de l'intelligence artificielle n'a cessé de surprendre le monde : du programme de jeu AlphaGo au modèle de prédiction des protéines AlphaFold, les avancées technologiques de l'apprentissage par renforcement profond ont résolu des problèmes majeurs qui Les problèmes scientifiques qui préoccupent les scientifiques depuis de nombreuses années sont fascinants.

Dans cette interview avec Hassabis, il a également évoqué un point intéressant, à savoir que l'IA dépasse les limites de l'intelligence humaine. Même si les humains se sont peut-être habitués à ce monde tridimensionnel avec le temps, l'IA pourrait être capable d'acquérir l'intelligence de comprendre le monde à partir de douze dimensions et de se débarrasser de la nature des outils, car il existe encore de nombreuses lacunes dans notre compréhension humaine du monde. le monde.

Ce qui suit est une interview de Demis Hassabis :

1 Des jeux à l'IA

Lex Fridman : Quand avez-vous commencé à aimer la programmation ?

Demis Hassabis : J'ai commencé à jouer aux échecs quand j'avais environ 4 ans. Quand j'avais 8 ans, j'ai utilisé les gains que j'avais gagnés dans un match d'échecs pour acheter mon premier ordinateur, un spectre zx. sur le livre de programmation. Je suis tombé amoureux des ordinateurs lorsque j'ai commencé à les utiliser pour créer des jeux. Je pensais qu'ils étaient magiques et qu'ils étaient une extension de votre esprit. Vous pouviez leur demander d'effectuer une tâche et lorsque vous vous réveilliez le lendemain, celle-ci était déjà résolue.

Bien sûr, toutes les machines font cela dans une certaine mesure, augmentant nos capacités naturelles, comme les voitures nous permettant de nous déplacer plus vite que nous ne pouvons courir. Mais l’intelligence artificielle est l’expression ultime de tout l’apprentissage que les machines peuvent réaliser, c’est pourquoi mes pensées se sont naturellement étendues également à l’intelligence artificielle.

Lex Fridman : Quand êtes-vous tombé amoureux de l’intelligence artificielle ? Quand ai-je commencé à comprendre qu’il peut non seulement écrire des programmes et effectuer des opérations mathématiques pendant son sommeil, mais qu’il peut également effectuer des tâches plus complexes que des opérations mathématiques ?

Demis Hassabis : Il peut être grossièrement divisé en plusieurs étapes.

J'étais capitaine de l'équipe d'échecs des jeunes Quand j'avais environ 10 ou 11 ans, j'avais prévu de devenir joueur d'échecs professionnel. C'était mon premier rêve. À l’âge de 12 ans, j’ai atteint le niveau de Grand Maître et j’étais la deuxième joueuse d’échecs au monde, derrière Judith Pologer. Lorsque j'essaie d'améliorer mes compétences aux échecs, je dois d'abord améliorer mon processus de réflexion. Comment le cerveau trouve-t-il ces idées ? Pourquoi fait-il des erreurs ? Comment améliorer ce processus de réflexion ?

Comme les ordinateurs d'échecs du début au milieu des années 80, j'étais habitué à avoir une version de marque de Kasparov qui, bien que moins puissante qu'aujourd'hui, pouvait être améliorée en s'entraînant avec. J'ai pensé à l'époque, c'est incroyable, quelqu'un a programmé cet échiquier pour jouer aux échecs. J'ai acheté un exemplaire de "The Chess Computer Handbook" de David Levy, publié en 1984. C'était un livre très intéressant et m'a permis de bien comprendre comment sont créés les programmes d'échecs.

Légende : Kasparov, ancien joueur d'échecs professionnel soviétique et russe, grand maître d'échecs

Mon premier programme d'intelligence artificielle a été programmé par mon Amiga. J'ai écrit un programme pour jouer à l'Olympiad Luo en pensée inversée, c'est un jeu légèrement plus simple que celui-ci. échecs, mais j'y ai utilisé tous les principes de la programmation d'échecs, à savoir la recherche alpha-bêta, etc.

La deuxième étape était un jeu appelé "Theme Park" que j'ai conçu quand j'avais environ 16 ou 17 ans, qui impliquait une simulation d'IA dans le jeu. Même si c'était simple selon les normes d'IA d'aujourd'hui, cela réagirait à la façon dont vous. jouez en tant que joueur, c'est pourquoi il est également connu sous le nom de jeu bac à sable.

Lex Fridman : Pouvez-vous nous parler de certains de vos principaux liens avec l'IA ? Que faut-il pour créer un système d’IA dans un jeu ?

Demis Hassabis : Je me suis entraîné aux jeux quand j'étais enfant, puis je suis passé par une phase de conception de jeux et d'écriture d'IA pour les jeux. Tous les jeux que j’ai écrits dans les années 1990 avaient l’intelligence artificielle comme élément central. La raison pour laquelle j'ai fait cela dans l'industrie du jeu vidéo est qu'à cette époque, je pensais que l'industrie du jeu vidéo était à la pointe de la technologie. Des gens comme John Carmack et Quake semblaient le faire dans les jeux vidéo. Nous en récoltons encore les bénéfices, comme les GPU, qui ont été inventés pour l’infographie mais qui se sont révélés plus tard importants pour l’IA. Je pensais donc à l’époque que le jeu possédait une intelligence artificielle de pointe.

Au début, j'ai participé à un jeu appelé "Noir et Blanc", qui est l'exemple le plus profond de l'application de l'apprentissage par renforcement dans les jeux informatiques. Vous pouvez entraîner un petit animal de compagnie dans le jeu, et il apprendra de la façon dont vous le traitez mal, il deviendra méchant envers vos villageois et la petite tribu que vous gérez. Mais si vous le traitez bien, il deviendra gentil.

Lex Fridman : La cartographie du bien et du mal dans le jeu m'a fait réaliser que vous pouvez déterminer le résultat grâce aux choix que vous faites. Les jeux peuvent apporter ce genre de signification philosophique.

Demis Hassabis : Je pense que les jeux sont un média unique dans le sens où, en tant que joueur, vous ne vous contentez pas de consommer passivement du divertissement, vous participez réellement activement en tant que représentant. Je pense donc que c'est pour cela que les jeux ont plus de substance, à certains égards, que d'autres médias, comme les films, les livres, etc.

Nous avons réfléchi profondément à l’IA depuis le début, en utilisant les jeux comme terrain d’essai pour des algorithmes d’IA éprouvés et ouverts. C'est aussi la raison pour laquelle Deepmind a initialement utilisé un grand nombre de jeux comme plate-forme de test principale, car les jeux sont très efficaces et il est facile d'avoir des indicateurs pour voir comment le système d'IA s'améliore, l'orientation de sa réflexion, et s'il apporte des améliorations progressives.

Lex Fridman : En supposant que nous ne puissions pas construire une machine capable de battre les humains aux échecs, on pourrait penser que le Go est un jeu incassable en raison de la complexité des combinaisons. Mais finalement, les chercheurs en IA ont construit cette machine et les humains ont réalisé que nous ne sommes pas aussi intelligents que nous le pensions.

Demis Hassabis : C'est un voyage de réflexion intéressant, surtout quand je le comprends de deux points de vue (créateur d'IA et joueur de jeu), cela semble encore plus magique et un peu doux-amer à la fois.

Kasparov qualifie les échecs de « mouche des fruits » intelligente. J'aime bien cette description car les échecs sont étroitement liés à l'IA depuis le début. Je pense que tous les praticiens de l’IA, y compris Turing et Shannon, et tous les ancêtres du domaine, ont essayé d’écrire un programme d’échecs. Shannon a écrit le premier document de programme sur les échecs en 1949. Turing a également écrit un programme d'échecs célèbre, mais comme l'ordinateur était trop lent à fonctionner, il a utilisé un crayon et du papier pour exécuter le programme manuellement et a parlé avec des amis.

DeepBlue est un grand moment, combinant tout ce que j'aime dans les échecs, les ordinateurs et l'intelligence artificielle. En 1996, il bat Garry Kasparov. Après cela, j'ai été plus impressionné par l'esprit de Kasparov que par DeepBlue, car Kasparov est un esprit humain et non seulement il peut être au même niveau qu'un ordinateur pour jouer aux échecs, mais Kasparov peut également faire tout ce qu'un humain peut faire, comme monter un faire du vélo, parler le multilinguisme, participer à des activités politiques, et bien plus encore.

DeepBlue, bien qu'il ait eu ses moments dans les échecs, consiste en réalité à distiller les connaissances d'un grand maître d'échecs dans un programme qui ne peut rien faire d'autre. Je pense donc qu'il manque quelque chose d'intelligent dans le système, c'est pourquoi nous avons essayé de créer AlphaGo.

Lex Fridman : Parlons brièvement du côté humain des échecs. Du point de vue de la conception d’un jeu, vous avez suggéré que les échecs sont attrayants parce que c’est un jeu. Pourriez-vous s'il vous plaît expliquer s'il existe une tension créatrice entre le fou (le fou aux échecs) et le chevalier (le chevalier aux échecs) ? Qu’est-ce qui rend les jeux attrayants et capables de traverser les siècles ?

Demis Hassabis :J'y pense aussi. En fait, de nombreux excellents joueurs d’échecs ne réfléchissent pas nécessairement à cette question du point de vue d’un concepteur de jeux.

Pourquoi les échecs sont-ils si attrayants ? Je pense qu'une raison clé est la dynamique des différentes positions, vous pouvez dire si elles sont fermées ou ouvertes, penser à la différence de mouvement du fou et du chevalier, et les échecs ont évolué pour équilibrer ces deux, environ 3 points.

Lex Fridman : Vous pensez donc que la dynamique est toujours là et que le reste des règles tente de stabiliser le jeu.

Demis Hassabis :C'est peut-être un peu comme une situation de poule et d'œuf, mais les deux atteignent un bel équilibre. L'évêque, le chevalier et le chevalier ont des pouvoirs différents, mais leur valeur dans l'univers entier est égale. Ils ont été équilibrés par les humains au cours des cent dernières années, ce qui, je pense, donne au jeu une tension créative.

Lex Fridman : Pensez-vous que les systèmes d'IA peuvent inciter les humains à concevoir des jeux ?

Demis Hassabis : C'est une question intéressante. Si la créativité est définie comme le fait de proposer quelque chose d’original et d’utile dans un but précis, alors le niveau de créativité le plus bas est comme une expression interpolée, et les systèmes d’IA de base ont cette capacité. Montrez-lui des millions de photos de chats, puis montrez-moi un chat normal. C'est ce qu'on appelle l'interpolation.

Aussi comme AlphaGo, il peut déduire. Après avoir joué des millions de parties contre lui-même, AlphaGo a proposé de nouvelles idées géniales, telles que réaliser 37 mouvements dans le jeu, offrant une stratégie à laquelle les humains n'avaient jamais pensé, même si nous jouons à ce jeu depuis des centaines et des milliers d'années. .

Il existe un autre niveau au-dessus de cela, à savoir si vous pouvez sortir des sentiers battus et faire une véritable innovation. Pourriez-vous inventer les échecs au lieu de proposer un coup ? Les échecs, ou quelque chose de similaire aux échecs ou au Go, pourraient-ils être inventés ?

Je pense que l'IA sera capable de le faire un jour, mais la question est maintenant de savoir comment attribuer cette tâche à un programme. Nous ne sommes pas encore capables de concrétiser des concepts abstraits de haut niveau dans des systèmes d’intelligence artificielle, et il leur manque encore quelque chose en termes de véritable compréhension des concepts de haut niveau ou des concepts abstraits. Dans l’état actuel des choses, ils peuvent être combinés et composés, et l’IA peut effectuer des interpolations et des inférences, mais aucune n’est véritablement une invention.

Lex Fridman : Proposer des ensembles de règles et les optimiser, et développer des objectifs complexes autour de ces ensembles de règles, est quelque chose que nous sommes actuellement incapables de faire. Mais est-il possible de prendre un ensemble spécifique de règles, de l'exécuter et de voir combien de temps il faut au système d'IA pour apprendre à partir de zéro ?

Demis Hassabis : En fait, j'y ai pensé, c'est incroyable pour un game designer. S'il existait un système qui jouait à votre jeu des dizaines de millions de fois, il serait peut-être capable de mettre en œuvre des règles d'équilibrage automatique du jour au lendemain. Les unités ou les règles du jeu peuvent être ajustées via des équations ou des paramètres pour rendre le jeu plus équilibré. C'est un peu comme donner un ensemble de base et l'explorer via une recherche par méthode Monte Carlo ou quelque chose comme ça, ce serait un outil super puissant.

Alors que pour l'équilibrage automatique, des milliers d'heures d'entraînement sur des centaines de jeux sont souvent nécessaires, l'équilibrage de jeux comme StarCraft, Blizzard, etc. est stupéfiant et nécessite des testeurs année après année. Il est donc concevable qu'à un moment donné, ces choses deviennent suffisamment efficaces, vous souhaiterez peut-être le faire du jour au lendemain.

Lex Fridman : Pensez-vous que nous vivons dans une simulation ?

Demis Hassabis : Oui. Nick Bostrom a été le premier à proposer la théorie de la simulation, mais je n'y crois pas vraiment. Dans un sens, nous sommes dans une sorte de jeu informatique, ou nos descendants sont en quelque sorte en train de remodeler la planète au 21e siècle.

La meilleure façon de comprendre la physique et l'univers est de la comprendre d'un point de vue informatique en tant qu'univers d'information. En fait, l'information est l'unité la plus fondamentale de la réalité. Par rapport à la matière ou à l'énergie, les physiciens diraient E=mc², qui est la base de l'univers. Mais je pense que l’information est probablement le moyen le plus fondamental de décrire l’univers, et qu’elle peut elle-même spécifier la bonne matière, énergie ou matière. On peut donc dire que nous sommes dans une sorte de simulation. Mais je ne suis pas d'accord avec ces idées qui consistent à jeter des milliards de simulations.

Lex Fridman : Sur la base de votre compréhension du terme général machine, de votre compréhension des ordinateurs, pensez-vous qu'il y a quelque chose dans l'univers au-delà des capacités des ordinateurs ? Vous n'êtes pas d'accord avec Roger Penrose (physicien mathématicien) ?

Demis Hassabis : Roger Penrose est très célèbre et a participé à de nombreux excellents débats. J'ai lu son livre classique "Le nouveau cerveau de l'empereur" et il explique que la conscience dans le cerveau nécessite davantage de choses quantiques. Dans mon travail, j'ai également beaucoup réfléchi à ce que nous faisons, en poussant les machines de Turing ou l'informatique classique à leurs limites. Quelles sont les limites de l’informatique classique ? J'ai également étudié les neurosciences, raison pour laquelle j'ai choisi cette orientation pour mon doctorat, afin de voir s'il existe une présence quantique dans le cerveau d'un point de vue neuroscientifique ou biologique.

Jusqu'à présent, la plupart des neuroscientifiques et des biologistes diraient qu'il n'existe aucune preuve de systèmes ou d'effets quantiques dans le cerveau, dont la plupart peuvent être expliqués à l'aide de la théorie classique et des connaissances en biologie. Mais en même temps, commencer par ce que les machines de Turing peuvent faire, y compris les systèmes d’IA, est un processus continu, surtout au cours de la dernière décennie. Je ne parierais pas jusqu'où peuvent aller les machines universelles de Turing et les paradigmes informatiques classiques, mais peut-être que ce qui se passe dans le cerveau peut être imité sur une machine sans avoir recours à des éléments métaphysiques ou quantiques.

2Al pour la science

Lex Fridman : Parlons maintenant d'AlphaFold, pensez-vous que la pensée humaine vient de cette bouillie informatique biologique semblable à un réseau neuronal, plutôt que de travailler directement mentalement ?

Demis Hassabis : À mon avis, le plus grand miracle de l'univers est qu'il n'y a que quelques kilos de bouillie à l'intérieur de nos crânes, qui sont aussi le cerveau et l'objet le plus complexe de l'univers actuellement connu. Je pense que c'est une machine incroyablement efficace, et c'est l'une des raisons pour lesquelles j'ai toujours voulu créer de l'IA. En créant des agents comme l’IA et en les comparant à l’esprit humain, nous pourrons peut-être nous aider à nous interroger historiquement sur le caractère unique de l’esprit et ses véritables secrets, la conscience, les rêves, la créativité, l’émotion et tout le reste.

Il existe désormais des tonnes d'outils pour ce faire. Tous les outils de neurosciences que les machines FMI peuvent enregistrer, et il existe également une puissance de calcul IA pour construire des systèmes intelligents. C’est incroyable ce que l’esprit humain peut faire. Le fait que les humains créent des choses comme des ordinateurs, réfléchissent et étudient ces problèmes témoigne de l’esprit humain et nous aide à comprendre plus clairement l’univers et l’esprit humain. On pourrait même dire que nous sommes peut-être le mécanisme par lequel l’univers tente et comprend sa propre beauté.

En regardant les choses sous un autre angle, les éléments de base de la biologie peuvent également être utilisés pour comprendre l'esprit et le corps humains. Il est étonnant de simuler et de construire des modèles à partir des éléments de base, et vous pouvez construire des modèles plus grands et plus complexes. ceux-ci, ou même la biologie humaine dans son ensemble.

Il existe également un problème considéré comme impossible à résoudre, à savoir le repliement des protéines, et AlphaFold résout le problème du repliement des protéines, qui constitue l'une des plus grandes avancées de l'histoire de la biologie structurale. Les protéines sont essentielles à toute vie et chaque fonction du corps en dépend.

Les protéines sont spécifiées par leur séquence génétique (également connue sous le nom de séquence d'acides aminés), qui peut être considérée comme leurs éléments de base. Ils se replient en une structure tridimensionnelle dans le corps et dans la nature, et cette structure tridimensionnelle détermine sa fonction dans le corps. De plus, si vous êtes intéressé par des médicaments ou des maladies et que vous souhaitez utiliser un composé médicamenteux pour bloquer l’action d’une protéine, la condition préalable est de comprendre la structure tridimensionnelle du site de liaison à la surface de la protéine.

Légende : En juillet 2021, DeepMind a rendu public pour la première fois les résultats de la prédiction AlphaFold via une base de données établie en coopération avec le Laboratoire européen de biologie moléculaire (EMBL). La base de données initiale contient 98 % de toutes les protéines humaines

. Lex Fridman : L’essence du problème du repliement des protéines est la suivante : pouvez-vous obtenir une chaîne de lettres unidimensionnelle à partir d’une séquence d’acides aminés ? Les structures tridimensionnelles peuvent-elles être prédites instantanément par calcul ? Cela constitue un défi majeur en biologie depuis plus de 50 ans. Christian Anfinsen, lauréat du prix Nobel, a déclaré pour la première fois en 1972 qu'il spéculait qu'il était possible de passer d'une séquence d'acides aminés à une structure tridimensionnelle.

Demis Hassabis : Cette phrase de Christian Anfinsen a ouvert l'ensemble des 50 domaines marginaux de la biologie computationnelle, dans lesquels ils sont piégés et pas très bien réalisés.

Avant l'émergence d'AlphaFold, tout cela se faisait de manière expérimentale. Il était très difficile de cristalliser des protéines comme les protéines membranaires, et des microscopes électroniques ou des analyseurs de cristaux à rayons X coûteux doivent être utilisés pour les obtenir. et visualiser leurs structures. Avec AlphaFold, deux personnes peuvent prédire des structures tridimensionnelles en quelques secondes.

Lex Fridman : Il existe un ensemble de données, il est formé sur cet ensemble de données et comment cartographier les acides aminés. Incroyablement, ce petit ordinateur de chimie peut effectuer des calculs de manière distribuée et très rapidement.

Demis Hassabis : Peut-être devrions-nous discuter de l'origine de la vie. En fait, la protéine elle-même est une étonnante petite machine biologique et animale. Cyrus Levinthal, le scientifique qui a proposé le paradoxe de Levinthal, a calculé approximativement que la protéine moyenne peut avoir une longueur de 2 000 bases d'acides aminés et peut avoir 10 à 300 méthodes différentes de repliement des protéines. Et dans la nature, la physique résout ce problème d’une manière ou d’une autre, et les protéines se replient dans votre corps en quelques millisecondes, voire une seconde.

Lex Fridman : La séquence a une façon unique de se former, elle trouve le moyen de rester stable au milieu de vastes possibilités. Dans certains cas, il peut y avoir des problèmes comme un dysfonctionnement, mais la plupart du temps, il s'agit d'une cartographie unique qui n'est pas évidente.

Demis Hassabis : Si la santé a généralement une cartographie unique, alors lorsque vous êtes malade, quel est exactement le problème ? Par exemple, une hypothèse concernant la maladie d'Alzheimer était que la bêta-amyloïde se repliait dans le mauvais sens, ce qui entraînerait un mauvais repliement et un enchevêtrement dans les neurones.

Donc, pour comprendre la santé, le fonctionnement et la maladie, vous devez comprendre comment ils sont structurés et il est très important de savoir ce que font ces choses. L’étape suivante est que lorsque les protéines interagissent avec quelque chose, elles changent de forme. Donc en biologie, ils ne sont pas forcément statiques.

Lex Fridman : Peut-être pouvez-vous donner quelques solutions à AlphaFold, qui est un véritable système physique contrairement au jeu. Qu’est-ce qui est très difficile à résoudre là-dedans ? Quelles solutions sont pertinentes ?

Demis Hassabis : AlphaFold est le système le plus complexe et probablement le plus significatif que nous ayons construit à ce jour.

Nous avons initialement conçu AlphaGo et AlphaZero pour qu'ils soient liés aux jeux, mais le but ultime n'est pas seulement de cracker des jeux, mais de les utiliser pour guider les systèmes d'apprentissage généraux et résoudre des défis du monde réel. Nous souhaitons travailler davantage sur des défis scientifiques tels que le repliement des protéines, et AlphaFold est notre premier élément de preuve important.

En termes de données, le nombre d'innovations nécessite environ 30 algorithmes de composition différents, qui sont mis en place pour déchiffrer le repliement des protéines. Certaines des grandes innovations concernent la physique et la biologie évolutive, mettant en place un codage en dur pour contraindre des éléments tels que les angles de liaison dans les protéines, mais sans affecter le système d'apprentissage, afin que le système puisse toujours apprendre la physique à partir des exemples.

En supposant qu'il n'existe qu'environ 150 000 protéines, même après 40 ans d'expériences, seules environ 50 000 structures protéiques seront découvertes. L'ensemble de formation est beaucoup plus petit que ce qui est généralement utilisé, mais diverses techniques comme l'auto-extraction sont utilisées. Par conséquent, lorsque vous utilisez AlphaFold pour faire des prédictions très fiables, il est crucial qu'AlphaFold fonctionne en le réinsérant dans l'ensemble d'entraînement pour agrandir l'ensemble d'entraînement.

En fait, beaucoup d'innovation est nécessaire pour résoudre ce problème, ce qu'AlphaFold produit est un histogramme, une matrice de distances par paires entre toutes les molécules de la protéine, elles doivent être un processus d'optimisation distinct pour créer la structure tridimensionnelle. Pour rendre AlphaFold véritablement de bout en bout, il peut passer directement de la séquence de bases des acides aminés à la structure tridimensionnelle, en sautant les étapes intermédiaires.

Il ressort également de l'apprentissage automatique que plus il est de bout en bout, meilleur est le système. Le système est meilleur pour apprendre les contraintes que les concepteurs humains. Dans ce cas, une structure 3D est préférable à une étape intermédiaire où il faut passer manuellement à l’étape suivante. La meilleure approche consiste à laisser les gradients et l’apprentissage circuler tout au long du système, du point final au résultat final souhaité jusqu’à l’entrée.

Lex Fridman : Concernant l'idée d'AlphaFold, cela pourrait être la première étape d'un long voyage en biologie. Pensez-vous que la même méthode peut prédire la structure et la fonction de systèmes biologiques plus complexes, les interactions multi-protéines ; il sert de point de départ, peut-il simuler des systèmes de plus en plus grands, simulant éventuellement des choses comme le cerveau humain et le corps humain ? Pensez-vous qu’il s’agit d’une vision à long terme ?

Demis Hassabis : Bien sûr, une fois que nous avons un système biologique suffisamment puissant, traiter les maladies et comprendre la biologie est la priorité absolue de ma liste de choses à faire, ce qui est l'une des raisons pour lesquelles j'ai personnellement promu AlphaFold, AlphaFold Just the début.

AlphaFold résout l'énorme problème de la structure des protéines, mais la biologie est dynamique et tout ce que nous étudions est une liaison protéique liquide. Mon rêve est de réagir avec des molécules, de construire des voies et finalement de former une cellule virtuelle. J'ai parlé à de nombreux amis biologistes, dont Paul Nurse, biologiste au Crick Institute. Pour la biologie et la découverte de maladies, construire une cellule virtuelle est incroyable car vous pouvez faire de nombreuses expériences sur la cellule virtuelle, puis aller en laboratoire pour la vérifier au stade final.

En termes de découverte de nouveaux médicaments, il faut environ 10 ans entre l’identification d’une cible et l’obtention d’un candidat-médicament. Si la plupart du travail peut être effectué dans des cellules virtuelles, le temps peut être raccourci d’un ordre de grandeur. Pour réaliser des cellules virtuelles, il faut développer une compréhension des interactions des différentes parties de la biologie. Toutes les quelques années, nous en parlons à Paul. Après AlphaFold l’année dernière, j’ai dit que c’était enfin le moment où nous pouvions le faire, et Paul était tellement excité. Nous avons une certaine collaboration avec son laboratoire. Sur la base d'AlphaFold, je pense qu'il y aura des progrès incroyables en biologie. On peut également constater qu'il existe déjà des communautés qui font cela après qu'AlphaFold soit open source.

Je pense qu'un jour, les systèmes d'IA pourront peut-être résoudre des problèmes comme la relativité générale, et pas seulement en traitant du contenu sur Internet ou en santé publique. Il sera très intéressant de voir ce qu’il pourra proposer. Cela ressemble un peu à notre débat précédent sur la créativité pour inventer le Go, plutôt que de simplement proposer un bon mouvement de Go. S’il voulait remporter un prix comme le prix Nobel, il aurait fallu inventer le Go, plutôt que de le laisser dicter par un scientifique ou un créateur humain.

Lex Fridman : Beaucoup de gens pensent que la science repose sur les épaules de géants, et la question est de savoir jusqu'où en êtes-vous réellement sur les épaules de géants ? Il s’agit peut-être simplement d’absorber différents types de résultats passés qui, en fin de compte, fournissent des idées révolutionnaires sous un nouveau jour.

Demis Hassabis : C'est un grand mystère. Je crois qu'au cours des dix dernières années et même des prochaines décennies, de nombreuses nouvelles avancées majeures apparaîtront à l'intersection de différents domaines. De nouvelles connexions seront découvertes entre. domaines connexes. On pourrait même affirmer que la pensée profonde est une discipline transversale entre la pensée neuroscientifique et la pensée en ingénierie de l’IA.

Lex Fridman : Vous avez un article sur le "Contrôle magnétique du plasma tokamak grâce à l'apprentissage par renforcement profond", vous cherchez donc à utiliser l'apprentissage par renforcement profond pour résoudre la fusion nucléaire et contrôler le plasma à haute température. Pouvez-vous expliquer pourquoi l’IA peut enfin résoudre ce problème ?

Demis Hassabis : Au cours des deux dernières années, notre travail a été très intéressant et fructueux. Nous avons lancé plusieurs de mes projets de rêve, qui sont des projets liés au domaine scientifique que j'ai collectés au fil des années. Si nous pouvons contribuer à faire avancer ce projet, cela pourrait avoir un impact transformateur, et le défi scientifique lui-même est une question très intéressante.

Actuellement, la fusion nucléaire est confrontée à de nombreux défis, principalement dans les domaines de la physique, des matériaux, de la science et de l'ingénierie, ainsi que de la manière de construire ces réacteurs de fusion nucléaire à grande échelle et de contenir le plasma.

Nous travaillons avec l'Ecole Polytechnique Fédérale de Lausanne (EPFL) et l'Institut Polytechnique Suisse, et ils disposent d'un réacteur d'essai qu'ils sont prêts à nous laisser utiliser. C'est un réacteur de test incroyable où ils tentent toutes sortes d'expériences assez folles. Ce que nous examinons, c'est que, lorsque l'on entre dans un nouveau domaine tel que la fusion nucléaire, quels sont les goulots d'étranglement ? En partant des premiers principes, quels sont les problèmes sous-jacents qui entravent le fonctionnement de la fusion nucléaire ?

Dans ce cas, le contrôle du plasma est parfait. Ce plasma a une température de 1 million de degrés Celsius, soit plus chaud que le soleil, et évidemment aucun matériau ne peut le contenir. Il doit donc y avoir un champ magnétique supraconducteur très puissant, mais le problème est que le plasma est assez instable, comme si de nombreuses étoiles étaient contenues dans un réacteur, prédisant à l'avance ce que fera le plasma, vous pouvez le contrôler en déplaçant le champ magnétique dans des millions de secondes Que va-t-il faire ensuite.

Si vous le considérez comme un problème de prédiction d'apprentissage par renforcement, cela semble parfait, il existe des contrôleurs qui peuvent déplacer le champ magnétique et le couper, mais auparavant c'était un contrôleur traditionnel. J'aurais aimé qu'il y ait une règle contrôlable selon laquelle ils ne pouvaient pas réagir au plasma sur le moment, ils devaient être codés en dur.

Lex Fridman : L'IA résout enfin la fusion nucléaire.

Demis Hassabis : L'année dernière, nous avons publié un article dans Nature sur la résolution de ce problème, en fixant le plasma dans une forme spécifique. C'est en fait presque comme sculpter le plasma sous différentes formes, le contrôler et le maintenir là pendant un temps record. Il s’agit d’un problème non résolu dans la fusion nucléaire.

Il est important de l'inclure dans la structure et de l'entretenir, il existe également différentes formes plus propices à la production d'énergie, appelées gouttes, etc. Nous discutons avec de nombreuses startups de la fusion pour voir quels sont les prochains problèmes qui peuvent être résolus dans le domaine de la fusion.

Lex Fridman : Il y a aussi quelque chose de fascinant dans le titre de l'article, Repousser la frontière des fonctions de densité en résolvant des problèmes d'électrons fractionnaires. Pouvez-vous expliquer ce travail ? L’IA sera-t-elle capable de modéliser et de simuler des systèmes de mécanique quantique arbitraires à l’avenir ?

Demis Hassabis : Les gens ont essayé d'écrire des approximations de la fonction de densité et des descriptions de nuages ​​​​d'électrons, en observant comment deux éléments interagissent lorsqu'ils sont assemblés. Et ce que nous essayons de faire, c'est d'apprendre une simulation, d'apprendre une fonction chimique qui peut décrire davantage de types de chimie.

Jusqu'à présent, l'IA peut exécuter des simulations coûteuses, mais uniquement pour des molécules très petites et très simples, nous ne pouvons pas simuler de gros matériaux. Ainsi, pour créer des approximations fonctionnelles pour décrire ce que font les électrons après avoir montré leurs équations, toute la science et les propriétés des matériaux sont régies par la façon dont les électrons interagissent les uns avec les autres.

Lex Fridman : Résumer la simulation à travers des fonctions pour se rapprocher des résultats réels de la simulation. La difficulté de cette tâche réside dans l'exécution de simulations complexes et l'apprentissage de la tâche de cartographie à partir des conditions initiales et des paramètres de simulation.

Demis Hassabis : C'est délicat, mais la bonne nouvelle c'est que nous y sommes parvenus, nous pouvons faire beaucoup de simulations, des simulations de dynamique moléculaire, sur un cluster informatique, qui génère beaucoup de données. Dans ce cas, des données sont générées. C'est pourquoi nous utilisons des émulateurs de jeux pour générer des données, car vous pouvez créer autant de données que vous le souhaitez. S'il y a des ordinateurs libres dans le cloud, nous pouvons effectuer ces calculs.

3L'IA et les humains

Lex Fridman : Comment comprenez-vous l'origine de la vie ?

Demis Hassabis : Je pense que l'utilisation ultime de l'IA est d'accélérer la science à l'extrême. C'est un peu comme un arbre de la connaissance. Si vous imaginez que c’est toute la connaissance qu’il y a à acquérir dans l’univers, mais jusqu’à présent, nous n’en avons qu’effleuré la surface. L’IA accélérera ce processus et explorera autant que possible cet arbre de connaissances.

Lex Fridman : L'intuition me dit que l'arbre de la connaissance humaine est très petit, compte tenu de nos limites cognitives. Même avec les outils, il y a encore beaucoup de choses que nous ne comprenons pas. C’est peut-être la raison pour laquelle les systèmes non humains peuvent aller plus loin.

Demis Hassabis : Oui, très probablement.

Mais d’abord, ce sont deux choses différentes. Par exemple, que comprenons-nous aujourd'hui, que peut comprendre l'esprit humain, qu'est-ce que tout ce que nous voulons comprendre, voici trois concentriques, vous pouvez les considérer comme trois arbres plus grands, ou explorer plus de branches de cet arbre. Nous explorerons davantage avec l’IA.

Maintenant, la question est la suivante : si vous réfléchissez à la totalité des choses que nous pouvons comprendre, il peut y avoir certaines choses qui ne peuvent pas être comprises, comme des choses en dehors de la simulation ou des choses en dehors de l'univers.

Lex Fridman : Parce que le cerveau humain s'est habitué avec le temps à l'état de ce monde tridimensionnel.

Demis Hassabis : Mais nos outils peuvent aller au-delà de cela. Ils peuvent être à 11 ou 12 dimensions.

L'exemple que je donne toujours, c'est quand je jouais aux échecs avec Gary Kasparov, nous parlions d'échecs et de trucs comme ça, si tu étais bon aux échecs, tu ne pouvais pas penser aux mouvements de Gary, mais il pouvait te les expliquer. Vous pouvez considérer cela comme un raisonnement post hoc. Il y a une autre explication, peut-être que vous ne pouvez pas inventer cette chose, mais vous pouvez la comprendre et l'apprécier, tout comme vous appréciez Vivaldi ou Mozart et appréciez sa beauté.

Lex Fridman : Je veux poser des questions plus folles. Par exemple, pensez-vous qu’il existe des civilisations extraterrestres au-delà de la Terre ?

Demis Hassabis : Mon opinion personnelle est que nous sommes seuls en ce moment. Nous disposons déjà de divers télescopes astronomiques et d'autres technologies de détection qui tentent de trouver des signaux provenant d'autres civilisations dans l'espace. Si de nombreuses civilisations extraterrestres font cela en même temps, nous devrions alors entendre des sons bruyants provenant de l'espace. Mais le fait est que nous n’avons reçu aucun signal.

Beaucoup de gens diront qu'il existe des civilisations extraterrestres dans le monde, mais nous ne les avons pas vraiment recherchées correctement, ou nous avons peut-être recherché la mauvaise bande d'ondes, ou nous avons peut-être utilisé le mauvais équipement, et nous ne nous en sommes pas rendu compte. que les extraterrestres existent. La forme est très différente, etc. Mais je ne suis pas d’accord avec ces points de vue. Nous avons en fait fait beaucoup d’explorations. S’il existe réellement autant de civilisations extraterrestres, nous aurions dû les découvrir depuis longtemps.

Fait intéressant, si la terre est une civilisation solitaire, du point de vue des Grands Filtres, c'est assez réconfortant, ce qui signifie que nous sommes passés par les Grands Filtres.

Pour en revenir à la question que vous venez de poser sur l'origine de la vie, la vie est née de choses incroyables, et personne ne sait comment ces choses se sont produites. Je ne serais pas surpris de voir une forme de vie unicellulaire, comme des bactéries, ailleurs que sur Terre. Mais compte tenu de sa capacité à capturer les mitochondries et à les mettre à notre disposition, l’émergence d’une vie multicellulaire est d’une difficulté sans précédent.

Légende : La théorie du grand filtre mentionnée par Demis Hassabis

Lex Fridman : Pensez-vous que la conscience est nécessaire pour avoir une véritable intelligence ?

Demis Hassabis :Je pense personnellement que la conscience et la sagesse sont doublement séparées , nous pouvons donc atteindre la conscience sans intelligence, et vice versa.

Par exemple, de nombreux animaux sont conscients d'eux-mêmes et peuvent également socialiser et rêver. Ils peuvent être définis comme ayant un certain degré de conscience d'eux-mêmes, mais ils n'ont aucune intelligence. Mais en même temps, ces intelligences artificielles qui sont très intelligentes dans une certaine tâche, elles peuvent très bien jouer aux échecs ou effectuer d’autres tâches, mais elles n’ont aucune conscience d’elles-mêmes.

Lex Fridman : Il y a quelque temps, un ingénieur de Google pensait qu'un certain modèle de langage était sensible. Avez-vous déjà rencontré un modèle de langage sensible ? Si un système est « perçu », comment comprenez-vous cette situation ?

Demis Hassabis : Je ne pense pas qu'aucun système d'IA au monde soit conscient ou sensible. C'est mon véritable sentiment lorsque j'interagis avec l'IA au quotidien. La soi-disant perception est davantage une projection de notre cerveau lui-même. Puisqu’il s’agit d’un modèle de langage et qu’elle est étroitement liée à la sagesse, il est facile pour les gens d’anthropomorphiser le système. C’est pourquoi je pense que le test de Turing est imparfait, car il est basé sur des réactions et des jugements humains.

Nous devrions parler de conscience avec des philosophes de premier plan comme Daniel Dennett et David Charmers, et d'autres qui réfléchissent profondément à la conscience. Il n’existe actuellement aucune définition généralement acceptée de la conscience. Si je devais le dire, je pense que la définition de la conscience est le sentiment qui survient lorsque l’information est traitée.

Lex Fridman : Permettez-moi de poser une question sombre et personnelle. Vous avez parlé de créer le système de super intelligence artificielle le plus puissant au monde. Comme le dit le vieil adage, le pouvoir absolu corrompt, et vous avez plus de chances d’en faire partie parce que vous êtes le plus susceptible de contrôler le système. Envisageriez-vous cela ?

Demis Hassabis : Je pense tout le temps aux défenses contre cette corruption.

Les outils ou technologies qui sont dans le meilleur intérêt de l'humanité nous permettent d'entrer dans un monde radical où nous sommes confrontés à de nombreux défis difficiles. L’IA peut nous aider à résoudre des problèmes, conduisant finalement l’humanité à la prospérité ultime et même à trouver des extraterrestres. Le créateur de l'IA, la culture sur laquelle s'appuie l'IA, les valeurs de l'IA et le constructeur du système d'IA affecteront tous son développement. Même si un système d’IA apprend tout seul, une grande partie de ses connaissances emportera avec lui les résidus de certaines cultures et valeurs préexistantes de son créateur.

Les différentes cultures nous ont rendus plus divisés que jamais. Peut-être que lorsque nous entrerons dans une ère d’extrême abondance et que les ressources seront moins rares, nous n’aurons pas besoin d’une concurrence féroce, mais pourrons plutôt passer à une meilleure coopération.

Lex Fridman : Lorsque les ressources sont sévèrement limitées, certaines atrocités se produisent.

Demis Hassabis : La rareté des ressources est l'une des causes de la compétition et de la destruction. Tous les humains veulent vivre dans un monde aimable et sûr, nous devons donc résoudre le problème de la rareté.

Mais cela ne suffit pas pour parvenir à la paix car il y a d'autres choses qui créent la corruption. L’IA ne doit pas être gérée par une seule personne ou organisation. Je pense que l’IA devrait appartenir au monde, aux humains, et que chacun devrait avoir son mot à dire sur l’IA.

Lex Fridman : Avez-vous des conseils à donner aux étudiants du secondaire et des étudiants ? Si les jeunes ont le désir de travailler dans l'IA ou veulent avoir un impact sur le monde à part entière, comment peuvent-ils obtenir une carrière qu'ils sont vraiment ? fier de ? Comment trouver sa vie idéale ?

Demis Hassabis : J'aime toujours dire deux choses aux jeunes. La première chose est : où est votre véritable passion ? Les jeunes devraient explorer le monde autant que possible. Quand nous sommes jeunes, nous avons suffisamment de temps et pouvons prendre les risques de l'exploration. Trouver des liens entre les choses à votre manière est, je pense, un excellent moyen de trouver votre passion.

La deuxième phrase est : connaissez-vous vous-même. Il faut beaucoup de temps pour comprendre quelle est la meilleure façon de travailler, quel est le meilleur horaire de travail, quelle est la meilleure façon d’apprendre et comment gérer le stress. Les jeunes doivent se tester dans différents environnements, essayer d'améliorer leurs faiblesses, découvrir leurs compétences et leurs forces uniques, puis les perfectionner. Ce sont vos futures valeurs dans ce monde.

Si vous pouvez combiner ces deux choses, trouver votre passion et développer vos propres compétences uniques et puissantes, alors vous gagnerez une énergie incroyable et ferez une énorme différence dans le monde.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!