OpenAI annonce le lancement d'un « réseau d'équipe rouge » et invite des experts de divers domaines à le rejoindre, visant à améliorer la sécurité de ses modèles d'IA

Le 20 septembre, OpenAI, une société américaine de recherche en intelligence artificielle, a annoncé le lancement du « Red Teaming Network » et a invité des experts de divers domaines à rejoindre son « Red Teaming Network » pour améliorer la sécurité de ses modèles d'intelligence artificielle (IA). .le sexe.

Cette initiative d'OpenAI vise à approfondir et élargir sa collaboration avec des experts externes pour assurer la fiabilité et la sécurité de ses modèles d'intelligence artificielle. Les experts sous contrat joueront un rôle clé dans l’amélioration de la robustesse des systèmes d’intelligence artificielle d’OpenAI en aidant à évaluer et à atténuer les risques liés aux modèles.

Alors qu'OpenAI a déjà collaboré avec des experts externes par le biais de programmes de bug bounty et de programmes d'accès aux chercheurs, le nouveau « Red Team Network » formalise ces efforts.

OpenAI affirme que le « Red Team Network » est une communauté d'experts expérimentés et de confiance qui peuvent aider les entreprises à mener des évaluations des risques de manière plus large, plutôt qu'un processus d'engagement et de sélection ponctuel avant les déploiements majeurs de modèles

Selon les rapports, « red Team "Les équipes" jouent un rôle essentiel dans l'identification des biais dans les systèmes d'intelligence artificielle et l'évaluation des filtres de sécurité, et sont devenues un maillon clé dans le processus de développement de modèles d'intelligence artificielle, d'autant plus que les technologies génératives gagnent en popularité. Avec une large application

OpenAI invite des experts de différents domaines , y compris ceux ayant une formation en linguistique, biométrie, finance et soins de santé. L'entreprise a souligné l'importance de diverses connaissances professionnelles dans l'évaluation de l'intelligence artificielle, couvrant des domaines tels que les sciences cognitives, le droit, la cybersécurité, l'économie et les soins de santé.

Déclaration publicitaire : Les liens de renvoi externes contenus dans l'article (y compris inappropriés Limité aux hyperliens , codes QR, mots de passe, etc.), utilisés pour transmettre plus d'informations et gagner du temps de sélection. Les résultats sont uniquement à titre de référence. Tous les articles de ce site incluent cette déclaration.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!