L’intelligence artificielle est plus urgente que le changement climatique, prévient le parrain de l’IA, Geoffrey Hinton

L'informaticien Geoffrey Hinton, connu comme le « parrain de l'intelligence artificielle » dans l'industrie, a déclaré que l'intelligence artificielle (IA) pourrait constituer une menace « plus urgente » pour l'humanité que le changement climatique. Dans l'interview, Hinton a déclaré que le changement climatique constitue un risque énorme, mais que le risque de l'intelligence artificielle est en effet plus urgent.

Il a ajouté qu'en réponse au changement climatique, il est relativement plus facile pour les humains de proposer des stratégies de réponse efficaces, telles que la réduction des émissions de carbone. Si vous faites cela, tout ira bien à la fin. Mais lorsqu’il s’agit des risques liés à l’intelligence artificielle, vous ne savez tout simplement pas par où commencer.

Les recherches de Hinton sur l’apprentissage profond et les réseaux neuronaux (des modèles mathématiques qui imitent le cerveau humain) ont contribué à jeter les bases du développement de l’intelligence artificielle, ce qui lui a valu le surnom de « le parrain de l’intelligence artificielle ». Il a rejoint Google en 2013 après que le géant de la technologie a acquis la société de Hinton, DNN Research, pour 44 millions de dollars.

Hinton a comparé l’IA à un esprit de ruche capable de se reproduire des milliers de fois. Ensuite, tout ce qu’une réplique apprend, la ruche entière l’apprend. Avec les progrès des modèles multimodaux formés sur la vidéo (informations visuelles et auditives/sensorielles), ces machines seront plus intelligentes que les grands modèles linguistiques formés uniquement sur le langage.

En plus de Hinton, de nombreux experts en IA, notamment des développeurs, des chercheurs et des agences de réglementation, ont récemment exprimé leurs inquiétudes quant aux dommages possibles de l'IA actuelle :

1. Les bonnes invites peuvent désormais générer un code malveillant efficace, ce qui se traduit par des cyberattaques plus nombreuses, plus importantes et de plus en plus diversifiées. Dario Amodei, PDG d'Anthropic, un concurrent de ChatGPT, a déclaré que l'expansion massive de telles attaques était sa plus grande préoccupation récente.

2. L'arnaque s'aggrave. À l’aide de publications sur les réseaux sociaux et d’autres informations personnelles, les nouveaux stratagèmes de phishing et de fraude assistés par l’IA prendront la forme d’appels à l’aide authentiques et de voix de fausset de la part de vos amis et de votre famille.

3. L'explosion des fausses informations. La propagande et diverses attaques seront optimisées algorithmiquement et distribuées à grande échelle par les géants de la technologie. L’IA multimodale (texte, voix, vidéo) pourrait empêcher le public de distinguer la réalité de la fiction.

4. Verrouillage du moniteur. Les 70 millions de caméras de vidéosurveillance et les données personnelles non réglementées des États-Unis permettent déjà aux autorités de faire correspondre les personnes aux images. L’intelligence artificielle peut améliorer ce suivi pour les entreprises et les gouvernements, en permettant des prédictions comportementales à grande échelle, mais avec une précision personnalisée.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!