Un groupe politique américain en matière d'IA poursuit OpenAI, affirmant que son modèle GPT-4 menace la sécurité publique

Le 31 mars, une organisation américaine chargée de la politique de l'IA a accusé OpenAI de violer les règles de protection des consommateurs en publiant un modèle GPT-4, et a demandé à la Federal Trade Commission des États-Unis d'empêcher immédiatement OpenAI de lancer un nouveau modèle GPT et de mener une enquête. évaluation indépendante.

L'organisation appelée Centre pour l'IA et la politique numérique (CAIDP) a déposé une plainte aujourd'hui, arguant que l'outil de génération de texte d'IA lancé par OpenAI est « biaisé, trompeur et présente un risque pour la sécurité publique » et viole les réglementations en matière de protection des consommateurs. règles.

IT House a remarqué qu'une lettre ouverte très médiatisée appelait précédemment à un moratoire sur les expériences d'IA générative à grande échelle. Le président du CAIDP, Mark Rotenberg, est également l'un des signataires de la lettre, aux côtés d'un certain nombre de chercheurs en IA et du cofondateur d'OpenAI, Elon Musk. Comme la lettre, la plainte appelle à ralentir le développement de modèles d’IA générative et à imposer une réglementation gouvernementale plus stricte.

CAIDP souligne les menaces possibles posées par le modèle de texte génératif GPT-4 d'OpenAI annoncé à la mi-mars. Ces menaces incluent la possibilité que GPT-4 génère du code malveillant, ainsi que la possibilité de perpétuer des stéréotypes ou de faire une distinction injuste entre la race et le sexe dans des domaines tels que l'embauche en raison de données de formation biaisées. La plainte souligne également de graves problèmes de confidentialité avec l’interface du produit OpenAI, comme une vulnérabilité récemment découverte qui permettait à d’autres utilisateurs de voir l’historique des discussions d’OpenAI ChatGPT et d’éventuelles informations de paiement.

OpenAI a déjà publiquement reconnu les menaces possibles posées par la génération de texte par l'IA, mais le CAIDP estime que GPT-4 dépasse la limite de préjudice aux consommateurs et devrait déclencher une action réglementaire. Le CAIDP cherche à tenir OpenAI responsable de la violation de l'article 5 de la loi sur la Commission fédérale du commerce, qui interdit les pratiques commerciales déloyales et trompeuses. La plainte allègue que « OpenAI a mis GPT-4 à la disposition du public à des fins commerciales en pleine connaissance de ces risques ». Le CAIDP considère également les modèles génératifs qui fabriquent en toute confiance des faits qui n'existent pas comme une forme de tromperie.

Dans la plainte, le CAIDP a demandé à la FTC d'arrêter tout déploiement commercial ultérieur du modèle GPT et d'exiger une évaluation indépendante avant tout déploiement futur de modèle. Il appelle également à la création d'un outil de signalement accessible au public, similaire à celui permettant aux consommateurs de déposer des plaintes pour fraude. et demande à la FTC des éclaircissements sur les règles applicables aux systèmes d’IA générative, en s’appuyant sur les recherches et l’évaluation en cours, mais encore relativement informelles, de l’agence sur les outils d’IA.

La Federal Trade Commission des États-Unis a déjà exprimé son intérêt pour la réglementation des outils d'IA, avertissant que des systèmes d'IA biaisés pourraient déclencher des mesures coercitives, et lors d'un événement conjoint avec le ministère de la Justice cette semaine, le président de la FTC, Khan, a déclaré que l'agence rechercherait des signes. que les grandes entreprises technologiques existantes tentent d’éliminer la concurrence.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!