Comment résoudre le problème du « bon sens » de l’intelligence artificielle

​Traducteur | Li Rui

Critique | Sun Shujuan

Ces dernières années, l'apprentissage profond a fait de grands progrès dans certains des domaines les plus difficiles de l'intelligence artificielle, notamment la vision par ordinateur, la reconnaissance vocale et le traitement du langage naturel.

Cependant, les systèmes d'apprentissage profond n'ont toujours pas résolu certains problèmes. Parce que les systèmes d’apprentissage profond ne sont pas efficaces pour gérer de nouvelles situations, ils nécessitent de grandes quantités de données pour s’entraîner et commettent parfois des erreurs bizarres qui déroutent même leurs créateurs.

Certains scientifiques pensent que ces problèmes peuvent être résolus en créant des réseaux neuronaux de plus en plus grands et en les entraînant sur des ensembles de données de plus en plus volumineux. Certaines personnes pensent également que le domaine de l’intelligence artificielle a besoin d’un peu de « bon sens » de la part des humains.

Dans leur nouveau livre "Machines Like Us", les informaticiens Ronald J. Brachman et Hector J. Levesque proposent leurs réflexions et leurs solutions possibles à cette pièce manquante du puzzle de l'intelligence artificielle qu'est le "bon sens". Un problème qui a intrigué les chercheurs depuis des décennies. Dans une interview avec les médias industriels, Brachman a expliqué ce qu’est et n’est pas le bon sens, pourquoi les machines n’ont pas de bon sens et comment le concept de « représentation des connaissances » peut guider la communauté de l’intelligence artificielle dans la bonne direction. Le concept de « représentation des connaissances » existe depuis des décennies mais a été abandonné lors de l’engouement pour l’apprentissage profond.

Bien qu'encore coincé dans le domaine des hypothèses, le livre Machines Like Us offre une nouvelle perspective sur les domaines potentiels de recherche, grâce à deux personnes profondément impliquées dans l'intelligence artificielle depuis les années 1970.

Les bons systèmes d'IA font des erreurs étranges

Brachman a déclaré : « Avec l'extraordinaire enthousiasme pour l'apprentissage profond au cours des 10 à 12 dernières années, de nombreuses recherches ont été menées sur la capacité des systèmes basés sur l'apprentissage profond à faire ce que nous espérions à l'origine. "

Au début de l'intelligence artificielle, la vision était de créer un système autonome et autonome, peut-être sous la forme d'un robot, qui pourrait fonctionner avec peu ou pas. aucune intervention humaine. Faire les choses de manière indépendante dans certaines circonstances.

Brachman a déclaré : « De nos jours, alors que de nombreuses personnes sont enthousiasmées par ce que l'apprentissage profond peut réaliser, la portée de la recherche s'est considérablement réduite, en particulier dans le domaine industriel, un financement important et le recrutement de talents ont favorisé la recherche basée sur l'expérience. ou formés sur des exemples. Avec une telle attention portée aux systèmes que beaucoup prétendent être proches de l'intelligence artificielle générale, ou de la « bonne vieille intelligence artificielle » (GOFAI) ou des approches symboliques sont complètement dépassées ou inutiles"

Il est évident que , bien qu'impressionnant, les systèmes d'apprentissage profond sont confrontés à des problèmes déroutants qui n'ont pas encore été résolus. Les réseaux de neurones sont sensibles aux attaques contradictoires, dans lesquelles des modifications spécialement conçues des valeurs d'entrée amènent le modèle d'apprentissage automatique à apporter des modifications soudaines et erronées à ses sorties. L’apprentissage profond a également du mal à comprendre les relations simples de cause à effet et est très mauvais pour concevoir des concepts et les assembler. Les grands modèles de langage ont récemment suscité un intérêt particulier, mais commettent parfois des erreurs très stupides en générant un texte cohérent et impressionnant.

Brachman a déclaré : "La perception des gens de ces erreurs commises par l'intelligence artificielle est qu'elles semblent stupides et ignorantes, et les humains commettent rarement de telles erreurs. Mais l'important est que les raisons de ces erreurs sont quelque peu difficiles à expliquer

." Ces erreurs ont amené Brachman et Levesque à réfléchir sur ce qui manque dans la technologie d'IA actuelle et sur ce qui est nécessaire pour compléter ou remplacer les systèmes de réseaux neuronaux de formation basés sur des exemples.

Brachman a déclaré : « Si vous y réfléchissez, ce qui manque clairement à ces systèmes, c'est ce que les humains appellent le bon sens, c'est-à-dire la capacité de voir des choses qui sont évidentes pour de nombreuses personnes et d'arriver rapidement à des conclusions simples et évidentes, et de tirer des conclusions simples et évidentes. être capable de prendre des décisions lorsque vous vous arrêtez de faire quelque chose dont vous réalisez immédiatement qu'il est ridicule ou qu'il s'agit d'un mauvais choix. »

Qu'est-ce que le bon sens ?

La communauté de l'IA parle de bon sens depuis ses débuts. En fait, l’un des premiers articles sur l’intelligence artificielle rédigé par John McCarthy en 1958 s’intitulait « Programmes dotés de bon sens ».

Brachman a déclaré : « Cela n'a rien de nouveau, et ce n'est pas un nom que nous avons inventé, mais le domaine a perdu de vue le sens fondamental de ce que disaient les pionniers de l'intelligence artificielle si nous comprenons mieux ce qu'est le bon sens et ce qu'il signifie. pour l'avoir, cela nous sera bénéfique. Plus important encore, sur la manière dont cela fonctionne et comment il serait mis en œuvre, on trouve peu d'indications dans la littérature psychologique. " Dans le livre Machines Like Us, Brachman et Levesque se tournent vers le bon sens. comme « la capacité d’utiliser efficacement des connaissances ordinaires, quotidiennes et expérientielles pour atteindre des objectifs ordinaires, routiniers et pratiques ».

Le bon sens est essentiel à la survie. Les humains et les animaux supérieurs ont évolué pour apprendre par l’expérience, développant des compétences de routine et de pilotage automatique qui leur permettent de gérer la plupart des situations auxquelles ils sont confrontés quotidiennement. Mais la vie quotidienne est bien plus que la simple routine que les gens voient encore et encore. Les gens sont souvent confrontés à des situations nouvelles qu’ils n’ont jamais vues auparavant. Certaines d’entre elles peuvent être très différentes de la normale, mais la plupart du temps, les gens voient les choses un peu différemment de ce à quoi ils sont habitués. Dans les discussions sur l’IA, on parle parfois de « longue traîne ».

Brachman a déclaré : « À notre avis, lorsque ces routines sont interrompues, le bon sens est en fait la première chose activée, permettant aux gens de comprendre rapidement de nouvelles situations, de se souvenir de ce qu'ils ont fait auparavant et d'ajuster rapidement leur mémoire, et de l'appliquer à de nouvelles situations et passer à autre chose. »

À certains égards, le bon sens est quelque peu différent du paradigme de pensée à double système popularisé par le psychologue et lauréat du prix Nobel Daniel Kahneman. Le bon sens n’est pas la pensée rapide et automatique du Système 1 qui effectue la plupart des tâches quotidiennes que les gens peuvent effectuer sans concentration particulière (par exemple, se brosser les dents, attacher des chaussures, boutonner des boutons, conduire dans une zone familière). Il faut une pensée positive pour sortir de la routine actuelle.

En même temps, le bon sens n'est pas la pensée du Système 2. La pensée du Système 2 est un mode de pensée lent qui nécessite une concentration totale et une réflexion étape par étape (par exemple, planifier un voyage de six semaines, concevoir un logiciel, résoudre des problèmes complexes). équations mathématiques) .

Brachman dit : « Les gens peuvent réfléchir profondément afin de faire face aux défis. Ce type de réflexion fatigue le cerveau et le ralentit. Le bon sens permet aux gens d'éviter cette situation dans presque toutes les situations de la vie quotidienne, car elle ne nécessite pas de réflexion approfondie. sur ce qu'il faut faire ensuite. »

Dans leur ouvrage publié, Brachman et Levesque soulignent que le bon sens est un « phénomène cognitif superficiel » qui opère plus rapidement qu'une analyse réfléchie et méthodique.

"S'il faut beaucoup de réflexion pour comprendre, ce n'est pas du bon sens. Nous pouvons considérer cela comme une 'pensée réflexive', et la 'réflexion' est tout aussi importante que la 'réflexion'",

IA sans commun sens Les dangers auxquels nous sommes confrontés

Le bon sens requiert prévisibilité, confiance, explicabilité et responsabilité.

Brachman a déclaré : « La plupart des gens ne font pas d'erreurs étranges. Bien que les gens puissent faire des choses stupides, ils peuvent éviter de telles erreurs après réflexion. Bien que les humains ne soient pas parfaits, certaines erreurs sont commises dans une certaine mesure. Le défi de l'IA des systèmes dépourvus de bon sens est qu'ils peuvent commettre des erreurs lorsqu'ils atteignent les limites de leur formation. Brachman a déclaré que les erreurs étaient complètement imprévisibles et inexplicables.

Brachman a déclaré : "Les systèmes d'IA sans bon sens n'ont pas cette perspective, aucun recours pour s'empêcher de faire des choses étranges, et ils deviennent fragiles. Lorsqu'ils font des erreurs, ces erreurs ne signifient rien pour eux

." Ces erreurs peuvent aller d’inoffensives, comme un mauvais étiquetage d’une image, à extrêmement nuisibles, comme amener une voiture autonome à rouler dans la mauvaise voie.

Brachman et Levesque écrivent dans le livre : « Si le problème rencontré par un système d'IA est de jouer aux échecs, et que sa préoccupation est de gagner la partie, alors le bon sens n'entrera pas en jeu pour eux, et lorsque les gens jouent aux échecs. le sens entrera en jeu. »

Ainsi, alors que les systèmes d’IA entrent dans des applications sensibles dans des domaines ouverts, comme la conduite automobile ou la collaboration avec des humains, ou même la participation à des conversations ouvertes, le bon sens jouera un rôle très critique. Il se passe toujours quelque chose de nouveau et d’excitant dans ces domaines.

Brachman et Levesque écrivent dans leur livre Machines Like Us : « Si nous voulons que les systèmes d'intelligence artificielle soient capables de gérer de manière raisonnable des événements courants dans le monde réel, nous devons faire plus que simplement comprendre ce qui s'est déjà produit. L'expertise dérivée de l'échantillonnage de choses. Prédire l'avenir en se basant uniquement sur l'observation et l'intériorisation de ce qui s'est passé dans le passé ne fonctionnera pas. "

Revisiter l'intelligence artificielle symbolique

La plupart des scientifiques conviennent que les systèmes d'IA actuels manquent de bon sens. Cependant, des désaccords surviennent souvent lorsqu’il s’agit de solutions. Une tendance populaire continue de rendre les réseaux de neurones de plus en plus grands. Il est prouvé que les réseaux neuronaux plus vastes continuent d’apporter des améliorations progressives. Dans certains cas, les grands réseaux neuronaux font preuve de compétences d’apprentissage sans effort, effectuant des tâches pour lesquelles ils n’ont pas été formés.

Cependant, il existe également de nombreuses études et expériences qui montrent que davantage de données et de calculs ne résolvent pas le problème des systèmes d'intelligence artificielle sans bon sens, mais les cachent simplement dans des pondérations numériques et des opérations matricielles plus grandes et plus confuses.

Brachman a déclaré : « Ces systèmes remarquent et internalisent des corrélations ou des modèles. Ils ne forment pas de « concepts ». Même si ces systèmes interagissent avec le langage, ils imitent simplement le comportement humain sans la psychologie et les concepts sous-jacents que les gens pensent posséder.

Brachman et Levesque préconisent la création d'un système qui code les connaissances de bon sens et une compréhension du monde de bon sens.

Ils écrivent dans le livre : « La connaissance du bon sens concerne les choses dans le monde et les propriétés qu'elles possèdent, médiatisées par ce que nous appelons les structures conceptuelles. Il s'agit des diverses choses qui peuvent exister et des diverses propriétés qu'elles peuvent avoir. d'idées. Les connaissances seront utilisées à travers des représentations symboliques et en effectuant des opérations de calcul sur ces structures symboliques. Les décisions de bon sens sur ce qu'il faut faire reviennent à utiliser ces connaissances représentationnelles pour réfléchir à la manière d'atteindre les objectifs et à ce qu'il faut faire face aux situations observées.

Brachman et Levesque estiment que le domaine doit regarder en arrière et revisiter certains de ses travaux antérieurs sur l'intelligence artificielle symbolique afin d'apporter du bon sens aux ordinateurs. Ils appellent cela l’hypothèse de la « représentation des connaissances ». Ce livre explique comment construire des systèmes de représentation des connaissances (KR) et comment combiner différents éléments de connaissances pour former des formes plus complexes de connaissances et de raisonnement.

Selon l'hypothèse de la représentation des connaissances (KR), la représentation des connaissances du sens commun sera divisée en deux parties : « L'une est un modèle du monde qui représente l'état du monde, et l'autre est un modèle conceptuel qui représente l'état du monde. structure, et c'est un modèle qui peut être utilisé pour représenter le monde. Un cadre général pour classer les projets "

Brachman a déclaré:" Notre point de vue est de revenir à certaines des premières réflexions sur l'intelligence artificielle, où certaines sortes de symboles. et les programmes de manipulation de symboles (ce que les gens appelaient autrefois des moteurs d'inférence) peuvent être codés et utilisés. La connaissance de base du monde que les gens appellent le bon sens : une physique intuitive ou naïve, une compréhension de base de la façon dont les humains et les autres agents se comportent, ont des intentions et ont des intentions. les croyances, le fonctionnement du temps et des événements, les causes et les effets, etc. C'est ce que nous apprenons au début. Toutes les connaissances acquises en deux ans peuvent en réalité avoir un impact causal sur le comportement de la machine. et aussi faire toutes les choses comme la compositionnalité et présenter les choses familières de manière nouvelle "

Brachman a souligné que les hypothèses avancées dans le livre peuvent être réfutées à l'avenir.

Brachman a déclaré : « À long terme, qu'il s'agisse de pré-construire, de pré-coder toutes ces connaissances ou de laisser le système d'IA apprendre d'une manière différente, je ne sais pas. Mais en tant qu'hypothèse et en tant qu'hypothèse. expérimenter, je pense que la prochaine étape pour l'IA. Une première étape devrait être d'essayer de construire ces bases de connaissances et de faire en sorte que le système les utilise pour faire face aux événements inattendus de la vie quotidienne, en faisant des suppositions approximatives sur la façon de gérer des situations familières et inconnues. »

L'hypothèse de Brachman et Levesque s'appuie sur des efforts antérieurs pour créer des systèmes à grande échelle. Basé sur des bases de connaissances symboliques de bon sens telles que Cyc, le projet remonte aux années 1980 et a collecté des millions de règles et de concepts sur le monde.

Brachman a déclaré : "Je pense que nous devons aller encore plus loin. Nous devons nous concentrer sur la manière dont les machines décisionnelles autonomes utilisent ces éléments dans les contextes décisionnels quotidiens. C'est une chose d'accumuler des connaissances factuelles et d'être capables de répondre à des types dangereux. de questions ; mais dans ce domaine, travailler dans un monde bruyant et être capable de répondre de manière rationnelle et rapide aux surprises imprévues est une tout autre affaire "

L'apprentissage automatique a-t-il un rôle dans le bon sens ? Brachman a déclaré que les systèmes basés sur l'apprentissage automatique continueront à jouer un rôle clé dans la perception de l'intelligence artificielle.

Il a déclaré : « Je ne pousserais pas à utiliser le calcul des prédicats de premier ordre pour traiter les pixels sur une rétine artificielle ou des systèmes d'exploitation symboliques pour le traitement du signal à vitesse de traitement. Ces systèmes d'apprentissage automatique sont très efficaces pour les tâches de reconnaissance de faible niveau sensoriel. , qui ne sont pas encore compris à quel point les choses se situent dans la chaîne cognitive, mais ils n'arrivent pas jusqu'au bout car ils ne forment pas de concepts et de liens entre ce que les gens voient dans la scène et le langage naturel »

Réseaux de neurones et Les systèmes de symboles. La combinaison est une idée qui est devenue de plus en plus importante ces dernières années. Gary Marcus, Luis Lamb et Joshua Tenenbaum, entre autres, proposent le développement de systèmes « neuro-symboliques » qui combineraient le meilleur des systèmes symboliques et basés sur l'apprentissage pour relever les défis actuels de l'intelligence artificielle.

Bien que Brachman soit d'accord avec une grande partie du travail effectué dans le domaine, il a également déclaré que la vision actuelle de l'intelligence artificielle hybride nécessite quelques ajustements.

Il a déclaré : « Je pense que tout système neurosymbolique actuel aura du mal à expliquer la différence entre le bon sens et le raisonnement symbolique plus structuré et plus profond qui sous-tend les mathématiques, une planification lourde et une analyse approfondie. J'espère que ce que vous voyez dans ce monde hybride de l'IA est. en tenant vraiment compte du bon sens, en laissant la machine utiliser le bon sens comme le fait un humain et en lui faisant faire les mêmes choses que les humains. problème de sens

​

​

​, par Ben Dickson​

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!