Le PDG d'OpenAI appelle à la réglementation des grands modèles de langage et met en garde contre les risques liés à l'IA générative

Sam Altman, PDG d'OpenAI, soutenu par Microsoft, a appelé à une réglementation américaine du déploiement de grands modèles de langage avancés, mettant en garde contre les dangers de l'IA générative sans un cadre politique solide.

Lors d'une audition avec le Sénat américain pour discuter de la gouvernance de l'IA générative, Altman a fait valoir qu'à mesure que les inquiétudes concernant les menaces pour la société augmentent, la réglementation est essentielle pour atténuer les risques posés par des modèles de plus en plus puissants.

Les menaces évoquées dans son témoignage étaient centrées sur la diffusion de fausses informations et les violations des lois sur la confidentialité des données liées à la manière dont OpenAI entraîne ses modèles.

Le sénateur Richard Blumenthal a déclaré lors de l'audience que la perspective d'une intelligence artificielle insuffisamment formée est "très effrayante" et a soutenu que les nouvelles technologies doivent être "tenues pour responsables".

Il a souligné que ChatGPT d'OpenAI a la capacité d'imiter et de simuler de véritables interactions humaines, et il a commencé son témoignage par un morceau de discours généré par un modèle entraîné à la parole.

Altmann a suggéré que la création d'une agence gouvernementale chargée de superviser la formation et le déploiement de l'intelligence artificielle faciliterait le développement, expliquant la nécessité d'une « combinaison d'exigences en matière de licences et de tests » pour les développeurs.

Il a également proposé de révoquer les licences des développeurs qui développent des outils d'IA qui dépassent certains « seuils » ou « capacités », comme des modèles qui se reproduisent ou produisent du contenu nuisible.

Altman préconise l'élaboration de règles réglementaires sur la manière dont les outils d'apprentissage automatique peuvent générer des réponses à partir des données mobiles Internet.

« Les utilisateurs devraient pouvoir choisir que leurs données ne soient pas utilisées par des sociétés comme nous ou d'autres sociétés de médias sociaux », a-t-il ajouté.

Réseau de communication C114 Jiang Junmu

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!