Les entreprises d'IA devront déclarer leurs tests de sécurité au gouvernement américain

L'administration Biden a annoncé qu'elle introduirait de nouvelles réglementations sur l'intelligence artificielle qui obligeront les développeurs à divulguer les résultats des tests de sécurité des principaux systèmes d'intelligence artificielle.

En vertu de ces nouvelles réglementations, les entreprises technologiques devront informer le gouvernement lorsqu'elles utilisent de grandes quantités de puissance de calcul pour entraîner des modèles d'IA. Cette décision permettra au gouvernement américain d'obtenir des données sensibles d'entreprises telles que Google, AWS (Amazon Web Services) et OpenAI afin de mieux superviser et gérer les activités de ces entreprises dans le domaine de l'intelligence artificielle.

L'Institut national des normes et de la technologie s'efforce de garantir que les outils d'intelligence artificielle soient soumis à un examen des normes sûr et fiable avant leur publication. Dans le même temps, le ministère du Commerce publiera des directives exigeant l'ajout de filigranes au contenu généré par l'IA afin de distinguer clairement le contenu réel du contenu généré par l'IA.

Dans une interview, Ben Buchanan, conseiller spécial de la Maison Blanche sur l'intelligence artificielle, a déclaré que le gouvernement souhaitait garantir la sécurité des systèmes d'intelligence artificielle avant de les rendre publics. Le président a clairement indiqué que les entreprises doivent respecter cette norme.

Le gouvernement américain s'intéresse à l'intelligence artificielle en tant que problème majeur en matière d'économie et de sécurité nationale. Cela n’est pas surprenant étant donné le battage médiatique autour de l’IA générative et l’incertitude entourant les investissements sur le marché.

Il y a trois mois, le président des États-Unis a signé un décret visant à réglementer une technologie en évolution rapide. Le décret définit les principes directeurs pour le développement de l’intelligence artificielle, y compris les normes de sécurité établies.

Le Comité sur l'intelligence artificielle de la Maison Blanche a récemment tenu une réunion pour discuter de la révision de la mise en œuvre du décret. La réunion comprenait de hauts responsables de plusieurs ministères et agences fédéraux américains. Le comité a déclaré dans un communiqué qu'il avait fait des progrès substantiels dans ses efforts pour protéger les Américains contre les dommages potentiels des systèmes d'intelligence artificielle. En outre, l’administration Biden travaille activement avec des alliés internationaux tels que l’Union européenne pour élaborer des règles et réglementations transfrontalières permettant de gérer cette technologie.

De nouvelles réglementations exigent que les sociétés américaines de cloud computing confirment si des entités étrangères accèdent aux données des centres de données américains pour former des modèles d'intelligence artificielle. Le gouvernement américain a proposé une proposition « Know Your Customer (KYC) » qui oblige les sociétés de cloud computing à vérifier les informations d'identité des utilisateurs étrangers.

Les nouvelles réglementations pourraient poser des défis supplémentaires aux entreprises technologiques américaines telles qu'Amazon et Google, les obligeant à collecter les noms et adresses IP des clients étrangers et à signaler les activités suspectes au gouvernement, tout en exigeant également des certifications de conformité régulières.

Bien que les réglementations en matière d’auto-déclaration puissent offrir une certaine protection aux intérêts américains et encourager les développeurs d’IA à être plus prudents, on ne sait pas exactement comment le gouvernement traitera ceux qui choisissent de déclarer des informations inexactes ou pas du tout. Il existe également des préoccupations juridiques et éthiques concernant l’accès aux données sensibles.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!