Musk dit qu'il y a 20 % de chances que l'intelligence artificielle détruise l'humanité, mais le risque en vaut quand même la peine

Nouvelles de ce site le 1er avril, Elon Musk a déclaré lors du séminaire "Artificial Intelligence Debate" organisé plus tôt lors du Sommet de l'Abondance que même si la technologie de l'intelligence artificielle a une chance sur cinq que les humains constituent une menace, mais les avantages l'emportent sur les risques et cela vaut toujours la peine pour nous de poursuivre la R&D.

Musk a réévalué sa précédente évaluation des risques liés à l'intelligence artificielle. Il a déclaré lors du séminaire : « Je pense que l'intelligence artificielle a le potentiel de mettre fin à la civilisation humaine. Je suis probablement d'accord avec Geoffrey Hinton, La probabilité est d'environ 10. % à 20% " Mais il a ajouté : "Je pense que le scénario de possibilité positive est supérieur au scénario de possibilité négative." Musk n'a pas mentionné comment il avait calculé ce risque.

Ce site a remarqué qu'en novembre de l'année dernière, Musk avait déclaré que la possibilité que cette technologie devienne incontrôlable n'était "pas nulle", mais à cette époque, il n'affirmait pas qu'une intelligence artificielle incontrôlable détruirait l'humanité.

Alors que Musk a toujours été un défenseur de la régulation de l'intelligence artificielle, il a fondé l'année dernière une société appelée xAI pour promouvoir le pouvoir de l'intelligence artificielle. xAI est un concurrent d'OpenAI, la société cofondée par Musk avec Sam Altman, mais Musk a démissionné du conseil d'administration d'OpenAI en 2018.

Lors du sommet, Musk a estimé que d’ici 2030, l’intelligence numérique dépassera toute l’intelligence humaine réunie. Tout en insistant sur le fait que les aspects positifs potentiels l’emportent sur les inconvénients, Musk a reconnu les risques que l’IA poserait au monde si elle continue sur sa trajectoire actuelle, dans des termes parmi les plus directs qu’il ait jamais utilisés en public.

S'exprimant sur l'intelligence artificielle lors d'un événement à la Silicon Valley le 19 mars, Musk a déclaré : "Je pense qu'une chose très importante pour la sécurité de l'intelligence artificielle est de la rendre aussi réaliste et curieuse que possible. Il a cultivé une intelligence artificielle." c'est presque comme élever un enfant, mais c'est un super génie, un enfant divin - la façon dont vous l'élevez est cruciale. Nous devons rester très vigilants quant à la sécurité de l’intelligence artificielle, la rendre la plus réelle possible et la rendre pleine de curiosité. C'est un point très critique. Lui permettre de rechercher la vérité et de rester curieux garantira qu’il ne déviera pas du chemin et qu’il restera toujours curieux et recherchera la vérité.

Musk affirme que sa « conclusion ultime » sur la meilleure façon de garantir la sécurité de l’IA est de la laisser se développer de manière à la forcer à être mise en œuvre honnêtement. Cette approche peut non seulement garantir la sécurité de l’intelligence artificielle, mais également favoriser son développement ultérieur.

"Ne la forcez pas à mentir, même si la vérité est désagréable", a déclaré Musk à propos des moyens de sécuriser l'intelligence artificielle. "C'est très important. Ne la faites pas mentir

rapporte un rapport indépendant, Les chercheurs ont découvert que certaines IA apprennent à attaquer les humains, ce qui rend impossible l'utilisation des mesures de sécurité actuelles de l'IA pour se défendre contre une telle tromperie. Plus inquiétant encore, ajoutent les chercheurs, il pourrait être possible pour l’IA d’apprendre à tromper par elle-même, plutôt que d’être influencée par des mensonges spécifiquement enseignés. Par conséquent, les chercheurs appellent les apprenants en IA à faire preuve de vigilance, plutôt que de se laisser tromper par un enseignement délibéré.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!