L’intelligence artificielle ne devrait pas être un outil de lecture des pensées

Le 10 mai, à Tokyo, au Japon, les participants discutaient lors de la 7e Conférence japonaise sur l'intelligence artificielle. Source de l'image Visual Chine

China Youth Daily·Zhao Tingting, journaliste stagiaire du China Youth Daily

Allongé à plat dans un appareil d'imagerie par résonance magnétique fonctionnelle (IRMf), le journaliste de CNN Donny O'Sullivan pouvait à peine entendre le bruit mécanique. Il portait des écouteurs spéciaux et écoutait des extraits du livre audio "Le Magicien d'Oz". Pendant ce temps, un modèle d'intelligence artificielle fait des prédictions basées sur l'activité électrique de son cerveau et ce qu'il écoute, pour comprendre ses pensées et ses perceptions.

Récemment, des scientifiques de l'Université du Texas à Austin ont utilisé la technologie IRMf pour surveiller l'activité cérébrale de trois sujets tout en écoutant des histoires. Ils ont utilisé GPT-1, le premier modèle de langage d'OpenAI, construit sur une vaste base de données de livres et de sites Web. En analysant ces données, l’IA peut apprendre la façon dont les humains parlent et pensent.

Alexander Huth, professeur adjoint de neurosciences et d'informatique à l'Université du Texas à Austin, a participé à l'étude. Au cours de l'expérience, O'Sullivan a découvert que l'intelligence artificielle a encore certaines limites dans le processus d'interprétation des pensées humaines. Par exemple, la scène dans son esprit de Dorothy, la protagoniste du "Magicien d'Oz", marchant le long de la route de briques jaunes. n'a pas été interprété.

CNN a expliqué que le modèle d'intelligence artificielle doit d'abord analyser l'activité cérébrale des participants lorsqu'ils entendent des mots spécifiques, après avoir acquis suffisamment de connaissances, il est possible de faire des prédictions en surveillant l'activité cérébrale humaine. Cela pousse de nombreuses personnes à pousser un soupir de soulagement : « L'intelligence artificielle ne peut pas facilement lire nos pensées

.

« Nous sommes réticents à utiliser le terme « lecture dans les pensées » car il évoque de nombreuses associations négatives et manque de réalité. "Hutter a déclaré que l'intention initiale de cette recherche était "d'aider ceux qui ne peuvent pas communiquer", comme les autistes, les patients victimes d'un accident vasculaire cérébral ou ceux qui sont incapables de parler normalement pour d'autres raisons. Peut-être qu'à l'avenir, ils pourront découvrir plus d'informations sans avoir à subir une neurochirurgie. La façon de parler

.

L'implication de l'intelligence artificielle peut offrir à davantage de jeunes des opportunités de communiquer et d'apprendre, ce qui a déclenché des discussions sur des questions éthiques et juridiques : sera-t-elle utilisée pour les interrogatoires ? Les secrets les plus profonds des gens seront-ils révélés ?

"Les données cérébrales de chacun doivent être protégées." Jerry Tang, docteur en informatique à l'Université du Texas à Austin et participant à cette étude, estime que "le cerveau est la dernière ligne de défense pour notre vie privée".

Huth pense que les violations de données cérébrales ne se produiront pas à court terme. "Ce que nous obtenons n'est que la direction et les grandes lignes de la pensée des gens, et nous ne voyons pas clairement les petites pensées et les détails", a-t-il déclaré.

Shirley Turkle, professeur de psychologie au MIT, a déclaré au New York Times : « Les parents devraient dire à leurs enfants que l'intelligence artificielle n'a ni sentiments ni expérience. C'est juste un outil pour aider à lire et à réfléchir. à la légère. Au lieu de réfléchir ou de lui révéler vos pensées. »

.

Selon CNN, le PDG d'OpenAI, Sam Altman, a répondu publiquement aux « risques » que la technologie peut entraîner, affirmant que le développement de l'intelligence artificielle sans « garde-fous » pourrait causer un préjudice important au monde. Il a proposé aux législateurs d'y remédier. préoccupations le plus rapidement possible.

Tang a déclaré à CNN que les législateurs devraient être prudents lorsqu'ils traitent des problèmes de « vie privée mentale » et veiller à ce que les « données cérébrales » soient protégées pour éviter que la technologie ne soit utilisée à mauvais escient. La technologie a actuellement une portée limitée, mais ne pensez pas que cela durera éternellement. Il est important que (les humains) n’aient pas un faux sentiment de sécurité. La technologie évolue constamment, ce qui pourrait modifier notre capacité à décoder. »

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!