OpenAI forme une nouvelle équipe pour se prémunir contre les risques « catastrophiques » liés à l'IA

IT House News le 27 octobre, OpenAI a annoncé jeudi, heure locale, que la société formait une nouvelle équipe pour réduire les « risques catastrophiques » liés à l'IA et suivrait, évaluerait et surveillerait les problèmes majeurs pouvant être causés par l'IA. et protégez .

OpenAI a déclaré : « Nous sommes convaincus que les modèles d’IA de pointe auront des capacités qui dépasseront les modèles existants de pointe et pourront profiter à l’ensemble de l’humanité, mais ils présenteront également des risques de plus en plus graves. » travailler pour atténuer les menaces nucléaires, les menaces biologiques, chimiques et radioactives et d'autres risques majeurs pouvant être causés par une série d'IA, ainsi que les risques potentiels induits par « l'auto-réplication » de l'IA et d'autres comportements

.

Source de l'image Pexels

OpenAI affirme que les entreprises doivent s'assurer qu'elles disposent de la

compréhension et de l'infrastructure

nécessaires pour sécuriser les systèmes d'IA à haute capacité. L’équipe sera dirigée par Aleksander Madry, ancien directeur du Center for Deployable Machine Learning du MIT, et développera et maintiendra une « politique de développement tenant compte des risques » décrivant les efforts de l’entreprise pour évaluer et surveiller les grands modèles d’IA. IT House avait précédemment rapporté que l'organisation à but non lucratif AI Security Center avait publié une brève déclaration à la fin du mois dernier : « La réduction du risque d'extinction provoqué par l'intelligence artificielle sera placée au même niveau que les questions sociales telles que les épidémies et le nucléaire. guerre, et promue comme une priorité mondiale »,

Cette initiative de 22 mots a été soutenue par de nombreux leaders de l'industrie de l'IA, dont Sam Altman, PDG d'OpenAI

.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!