Audiences du Congrès américain et neuf moments clés avec le fondateur d'OpenAI ChatGPT

News le 17 mai, Sam Altman, PDG d'OpenAI, a répondu hier à une question de la sous-commission judiciaire du Sénat sur les conséquences potentiellement menaçantes de l'intelligence artificielle générative. Altman a encouragé les législateurs à promulguer rapidement de nouvelles lois et réglementations sur l'IA qui établiraient des normes sur la manière dont OpenAI, Google et d'autres entreprises technologiques peuvent développer de nouveaux systèmes d'IA.

« Nous pensons que l’intervention réglementaire du gouvernement est essentielle pour atténuer les risques posés par une IA de plus en plus puissante », a déclaré Altman lors de l’audience.

Altman et d'autres témoins experts qui ont témoigné ont convenu que le modèle de ChatGPT, s'il n'est pas réglementé, pourrait accroître la désinformation sur le Web, alimenter la cybercriminalité et même menacer les systèmes électoraux. Les législateurs et Altman ont discuté de nombreuses politiques et solutions potentielles, envisageant même la création d’une nouvelle agence de réglementation de l’IA pour superviser le développement et le déploiement de la technologie de l’IA.

1. Richard Blumenthal a utilisé ChatGPT pour faire semblant d'être lui-même et a écrit une déclaration

Le sénateur du Connecticut Richard Blumenthal a diffusé une vidéo au début de l'audience "son enregistrement". Cet enregistrement n'a pas été réalisé par le sénateur lui-même, mais était une « œuvre » générée par un logiciel de clonage vocal après lecture du texte généré par ChatGPT.

"Ce n'est pas l'avenir que nous voulons", a déclaré Blumenthal, généré par l'IA.

2. Altman demande au Congrès de réglementer l'intelligence artificielle (mais juste un peu, pas trop)

Altman admet que son produit et d'autres produits d'intelligence artificielle peuvent avoir des conséquences inattendues, et il invite le Congrès à adopter de nouvelles réglementations en matière de normes réglementaires, fixer les règles de la route et, peut-être plus important encore, fixer les règles pour ses concurrents.

Altmann estime que l'intervention de la réglementation gouvernementale est cruciale pour atténuer les risques posés par les modèles d'intelligence artificielle toujours croissants. Altman a exhorté les législateurs à se concentrer sur le contrôle des grandes entreprises et à éviter d’étouffer les petites startups.

3. Le Congrès essaie d'éviter de répéter l'erreur de ne pas réglementer les médias sociaux

De nombreux législateurs, dont le sénateur Blumenthal et le sénateur du New Jersey Cory Booker, ont averti qu'ils ont choisi d'empêcher les médias sociaux de devenir une source d'information. de désinformation et de contenus préjudiciables. La rédemption pourrait passer par la régulation de l’intelligence artificielle.

Blumenthal a déclaré : « Le Congrès n'a pas agi en temps opportun sur les réseaux sociaux, et nous avons désormais l'obligation de prendre les mesures nécessaires en matière d'intelligence artificielle avant que les menaces et les risques ne se matérialisent

4. Josh Hawley : l'IA pourrait être la prochaine étape. » la planche à billets, ou la prochaine bombe atomique

Le sénateur du Missouri Josh Hawley estime qu'une IA comme GPT4 pourrait aller dans deux directions distinctes.

« Nous pourrions assister à l’une des innovations technologiques les plus importantes de l’histoire de l’humanité », a déclaré Hawley. Je me demande quelle forme prendra cette innovation : diffusera-t-elle les connaissances, les capacités et l’apprentissage comme l’imprimerie, ou plutôt comme la bombe atomique ?

D’autres, comme le sénateur de Caroline du Sud Lindsey Graham, ont fait écho à la rhétorique de la bombe atomique, bien qu’ils aient minimisé les scénarios catastrophiques apocalyptiques de l’IA.

5. Altman affirme que l'intelligence artificielle pourrait « causer des dommages importants au monde »

Altman n'a peut-être pas comparé l'intelligence artificielle aux armes nucléaires, comme l'ont fait certains législateurs, mais il a admis qu'il craignait que son produit puisse « causer des dommages importants ». nuire au monde. » causant un préjudice important au monde ». Ces préjudices peuvent se manifester par la diffusion massive de fausses informations, la réalisation d’escroqueries, le déclenchement d’un chômage de masse et la perturbation de la réalité du réseau.

Altmann a assuré aux sénateurs qu’il pensait que « les avantages de l’IA dépassent de loin les risques », mais a reconnu que l’intervention et la réglementation du gouvernement pourraient être cruciales pour se prémunir contre les effets secondaires de l’IA.

6. Marsha Blackburn est inquiète à propos de l'intelligence artificielle

La sénatrice du Tennessee Marsha Blackburn a utilisé un exemple inattendu pour déclencher un débat sur l'utilisation de matériel protégé par le droit d'auteur dans les modèles d'intelligence artificielle : l'intelligence artificielle plus l'IA Garth Brooks.

Altman a appris qu'une sénatrice a déclaré avoir entendu dire qu'une intelligence artificielle entraînée par un chanteur country avait réussi à produire une adaptation convaincante de son œuvre. Blackburn a cité cette affaire comme un moyen d'exiger que les artistes reçoivent une compensation d'Altman lorsque leur travail est utilisé pour entraîner l'intelligence artificielle. Même si Altmann semblait ouvert à l’idée de rémunérer les artistes, il n’a proposé aucune solution concrète.

7. Altman dit que l'impact de l'intelligence artificielle sur la société pourrait être comme des « stéroïdes » pour Photoshop

Altmann a reconnu que l'intelligence artificielle pourrait inquiéter de plus en plus les utilisateurs grâce aux chatbots sophistiqués et aux deepfakes. Tout en admettant qu'il est « préoccupé », Altman a déclaré que la société présente un phénomène similaire avec Photoshop d'Adobe.

«Je pense que les gens s'adapteront assez rapidement», a déclaré Altman. « Il y a longtemps, lorsque Photoshop apparaissait devant les gens, les gens étaient d'abord trompés par les images retouchées, mais ce phénomène ne durait pas longtemps. C'était comme si les athlètes prenaient des stéroïdes

8. idée de créer un département gouvernemental pour l'intelligence artificielle

Le professeur émérite de l'Université de New York Gary Marcus témoigne devant la sous-commission judiciaire du Sénat sur la vie privée, la technologie et le droit à Washington, DC, le 16 mai 2023

Altman et une poignée des législateurs du sous-comité sur la confidentialité, la technologie et le droit semblent convenir qu'une nouvelle agence d'IA dirigée par des experts est nécessaire pour superviser le développement et le déploiement de l'IA. L'agence proposée serait indépendante des autres régulateurs, tels que la FTC et. FCC, et pourrait théoriquement délivrer des licences aux sociétés d'IA et révoquer les licences de celles jugées non qualifiées. Le professeur de l'Université de New York, Gary Marcus, a déclaré lors de l'audience qu'il soutenait la création d'une agence de réglementation de l'intelligence artificielle et a déclaré que l'agence devrait travailler en étroite collaboration avec les acteurs internationaux. partenaires pour développer des normes mondiales sur l'intelligence artificielle

9, Altman. Demandez à un législateur : les utilisateurs de ChatGPT peuvent-ils le poursuivre en justice

Les législateurs et les experts qui ont pris la parole lors de l'audience se sont peut-être mis d'accord sur certains des dommages sociaux causés par l'IA, mais que peuvent les utilisateurs qui ont déjà été touchés, et n'ont-ils pas eu grand-chose à dire sur la responsabilité d'OpenAI ou d'autres sociétés d'intelligence artificielle pour les dommages, par exemple, les législateurs et les experts ne sont pas d'accord sur la question de savoir si les chatbots devraient bénéficier de la même immunité que les sociétés de médias sociaux en vertu de l'article. 230 du Communications Decency Act. Lorsque Hawley a demandé directement quels recours les utilisateurs avaient, Altman a semblé confus

« Les gens ne peuvent-ils pas nous poursuivre ? "De manière inquiétante, la réponse à cette question apparemment simple reste floue", a demandé Altmann. "Je ne sais pas encore quelle est la bonne réponse". »

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!