Observation technologique丨L'intelligence artificielle menace la civilisation humaine et suscite des inquiétudes. L'IA déclenchera-t-elle la prochaine crise financière ?

Journaliste de couverture Yan Lei

Le 17 mai, heure locale, un sondage Reuters/Ipsos a montré que la plupart des Américains pensent que le développement rapide de la technologie de l'intelligence artificielle (IA) pourrait mettre en danger l'avenir de l'humanité. Selon les sondages, plus des deux tiers des Américains s’inquiètent des effets néfastes de l’intelligence artificielle, et 61 % craignent qu’elle ne constitue une menace pour la civilisation.

L'intelligence artificielle pourrait menacer la civilisation humaine

Depuis que le chatbot ChatGPT d'OpenAI est devenu l'application dont la base d'utilisateurs connaît la croissance la plus rapide jamais réalisée, l'utilisation généralisée de l'IA dans la vie quotidienne en a fait un sujet de débat public. ChatGPT participe à une course aux armements en matière d'IA, à laquelle participent des géants de la technologie tels que Microsoft et Google qui lancent des produits similaires et sont en concurrence.

Des membres du Congrès et des sociétés d'IA ont également exprimé leurs inquiétudes à ce sujet. Lors d'un témoignage devant le Congrès, le PDG d'OpenAI, Sam Altman, a exprimé ses inquiétudes quant à une utilisation abusive de la technologie et a appelé à une réglementation plus stricte.

Le sénateur du Congrès Cory Booker a déclaré lors de l'audience : "Vous ne pouvez pas piéger le génie dans la bouteille.". À l’échelle mondiale, cela explose. »

Le sondage révèle que trois fois plus d'Américains s'attendent à ce que l'IA ait des conséquences néfastes que ceux qui ne le pensent pas. 61 % des personnes interrogées pensent que l'IA présente un risque pour l'humanité, tandis que seulement 22 % ne sont pas sûrs.

Les électeurs qui ont voté pour Trump en 2020 ont exprimé des niveaux d'inquiétude plus élevés : 70 % des électeurs de Trump et 60 % des électeurs de Biden pensaient que l'IA pouvait menacer l'humanité.

Selon Landon Klein, directeur politique américain au Future of Life Institute, de nombreux Américains sont préoccupés par les impacts négatifs de l'IA. Le PDG de Tesla, Musk, a signé une lettre ouverte soutenant la demande de l'organisation de suspendre la recherche sur l'IA pendant six mois.

Alors que les Américains s'inquiètent généralement de l'IA, leurs plus grandes préoccupations sont la criminalité et l'économie : 77 % sont favorables à l'augmentation du financement de la police pour lutter contre la criminalité, et 82 % s'inquiètent du risque d'une récession économique.

Le sondage en ligne Reuters/Ipsos a été réalisé du 9 au 15 mai auprès de 4 415 adultes américains, avec une fourchette de crédibilité de plus ou moins 2 points de pourcentage.

De nombreux partis appellent le gouvernement américain à renforcer la supervision

OpenAI Le PDG Altman a fait sa première apparition au Congrès le 16 mai, exhortant le gouvernement à renforcer la supervision du domaine de l'intelligence artificielle. Il a suggéré que si une entreprise souhaite développer un puissant système d’intelligence artificielle, elle devrait obtenir les licences appropriées auprès du gouvernement.

Le PDG d'OpenAI, Altman, a témoigné devant le Sénat.

Altman a assisté à une audience devant la commission judiciaire du Sénat pour discuter des préoccupations concernant l'intelligence artificielle avec Christina Montgomery, responsable de la confidentialité et de la confiance d'IBM, et Gary Marcus, professeur émérite de psychologie et de neurosciences à l'Université de New York.

Le développement rapide des systèmes d'intelligence artificielle comme ChatGPT a incité de nombreux experts technologiques et universitaires de haut niveau à appeler l'industrie à suspendre certains développements et à demander au gouvernement d'intervenir.

Ce qui n’est pas encore atteint, c’est le consensus de l’industrie sur l’approche réglementaire à mettre en œuvre, alors que le Congrès et les agences fédérales ont exploré leurs rôles. Altman a prononcé un discours devant une soixantaine de sénateurs la veille de son témoignage, gagnant les éloges de beaucoup et répondant aux questions pendant près de deux heures.

Le sénateur Richard Blumenthal a suggéré que les modèles d'intelligence artificielle pourraient être obligés de divulguer les informations impliquées dans leur formation. Ultraman a répondu favorablement à l'idée.

Après que le sénateur républicain Josh Hawley ait souligné que les gens pourraient utiliser l'intelligence artificielle comme source d'information, Altman a de nouveau déclaré qu'il pensait que le gouvernement avait un rôle à jouer dans la réglementation de la technologie. Mais il a également déclaré qu’il pensait que le public apprendrait à s’adapter à la désinformation générée par l’intelligence artificielle.

Certains experts du secteur ont appelé le gouvernement à confier la supervision complète de l'intelligence artificielle aux entreprises technologiques. En réponse, Marcus a appelé à la création d’une organisation au niveau du cabinet aux États-Unis pour réglementer l’intelligence artificielle.

La prochaine crise financière pourrait-elle être causée par l'IA ?

Selon le "Wall Street Journal" du 17 mai, le président de la Securities and Exchange Commission des États-Unis, Gensler, a déclaré que la prochaine crise financière pourrait survenir dans l'utilisation de l'intelligence artificielle par les entreprises, et il a posé des "risques systémiques" potentiels posés par la diffusion de cette technologie. "Émettre un avertissement.

Le 16, heure locale, Gensler a déclaré lors d'une conférence organisée par l'Autorité américaine de régulation du secteur financier à Washington que les agrégateurs de données et les plateformes d'intelligence artificielle pourraient devenir un élément majeur de la « fragilité » du futur système financier.

Gensler a déclaré : « Dans quelques années, les observateurs pourraient regarder en arrière et dire que la crise de 2027 est due au fait que tout repose sur un niveau fondamental, qui est ce qu'on appelle le niveau d'intelligence artificielle générative, et qu'un ensemble d'applications de technologie financière sont le tout construit sur cette fondation. »

De nombreuses entreprises dans tous les secteurs de l'économie américaine ont adopté l'IA étant donné sa promesse de faire plus de travail avec moins d'humains, même si de nombreux responsables gouvernementaux, comme Gensler, sont sceptiques quant à cette technologie.

L'intelligence artificielle est déjà largement utilisée dans diverses fonctions des banques et autres institutions financières, y compris dans des tâches de conformité laborieuses telles que l'évaluation des nouveaux clients et la vérification des transactions suspectes. Mais Gensler a déclaré que malgré le potentiel d'une plus grande efficacité, ces systèmes devraient être soumis à un examen rigoureux. "Vous n'avez pas nécessairement besoin de comprendre tous les calculs, mais vous devez vraiment comprendre comment fonctionne la gestion des risques", a-t-il déclaré. »

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!