OpenAI annonce un plan de sécurité du réseau : en dépensant des millions de dollars, l'IA pourrait corriger automatiquement les vulnérabilités du réseau à l'avenir

Produit par Sohu Technology

Auteur｜Zheng Songyi

Le 2 juin, heure de Pékin, la société américaine de recherche en intelligence artificielle OpenAI a annoncé le programme de subventions pour la cybersécurité, qui coûtera 1 million de dollars et vise à améliorer et quantifier les capacités de cybersécurité basées sur l'IA et à promouvoir une discussion de haut niveau sur la sécurité des réseaux d'IA. .

Récemment, des problèmes de sécurité des réseaux causés par l'abus de la technologie de l'IA se sont produits fréquemment. Les prédictions de Musk et d'autres sur la « crise de la sécurité de l'IA » se sont réalisées plus tôt que prévu. Il semblerait qu'il y ait eu récemment de nombreux incidents de fraude de haute technologie à travers le pays. Les criminels ont utilisé les technologies de « changement de visage par l'IA » et d'« imitation de la voix par l'IA » pour se faire passer pour les amis de la victime, et ont fraudé jusqu'à un million de dollars. yuans en 9 secondes.

Les experts de l'industrie ont analysé que la technologie de l'IA elle-même présente également des vulnérabilités en matière de sécurité. Le réseau neuronal profond actuel et d'autres technologies ont des propriétés de « boîte noire », ce qui rendra certains algorithmes d'IA ininterprétables. un impact significatif sur la sécurité des algorithmes. Il existe des incertitudes dans les performances, qui peuvent entraîner des dangers et des risques pour la sécurité dans les applications industrielles.

Le site officiel d'OpenAI indique : « Notre objectif est de promouvoir le développement de capacités de cybersécurité basées sur l'intelligence artificielle pour les défenseurs par le biais de subventions et d'autres soutiens

.

Selon certaines informations, le plan contient trois objectifs principaux :

1. Donner du pouvoir aux défenseurs : nous espérons garantir que les fonctionnalités d'IA les plus avancées profitent en premier aux défenseurs.

2. Mesurer les capacités : Travailler à développer des méthodes pour quantifier les capacités de cybersécurité des modèles d'IA afin de mieux comprendre et améliorer leur efficacité.

3. Élever la discussion : Engagé à promouvoir une discussion rigoureuse à l'intersection de l'IA et de la cybersécurité, en encourageant une compréhension globale et nuancée des défis et des opportunités dans le domaine.

OpenAI a déclaré : « La sagesse conventionnelle en matière de cybersécurité soutient que cet environnement donne naturellement un avantage aux attaquants sur les défenseurs. Un vieil axiome le résume : « La défense doit être correcte à 100 %, l'attaquant n'a besoin d'avoir raison que pour une fois ». S'il est vrai que les attaquants sont confrontés à moins de contraintes et profitent de leur flexibilité, les défenseurs ont quelque chose de plus précieux : la coordination pour atteindre un objectif commun : assurer la sécurité des personnes."

Il est rapporté que les idées actuelles d'OpenAI pour le plan incluent, sans s'y limiter, permettre à l'IA de corriger automatiquement les vulnérabilités du réseau, d'identifier automatiquement les problèmes de sécurité dans le code source du réseau et d'utiliser une technologie de tromperie pour piéger les attaquants.

OpenAI a désormais ouvert son plan de recrutement de projets. OpenAI évaluera et acceptera les demandes de financement ou autres soutiens, avec une priorité donnée aux applications pratiques de l'intelligence artificielle dans la cybersécurité défensive (outils, méthodes, processus). OpenAI fournira un financement supplémentaire de 10 000 $ sous forme de crédits API, de subventions directes et/ou d’équivalents provenant du fonds d’un million de dollars.

OpenAI a souligné qu'elle n'envisagerait pas actuellement de financer des projets de sécurité offensifs.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!