OpenAI annonce la création d'un comité de sûreté et de sécurité et lance une formation sur les modèles de pointe de nouvelle génération

Selon les informations de ce site Web du 29 mai, OpenAI a annoncé la création d'un comité de sûreté et de sécurité, chargé de formuler des recommandations sur les décisions clés en matière de sûreté et de sécurité pour les projets et opérations OpenAI.

La priorité actuelle du comité est d’évaluer et de développer davantage les processus de développement et les garanties d’OpenAI dans les 90 prochains jours. À la fin des 90 jours, le comité de sûreté et de sécurité partagera ses recommandations avec l'ensemble du conseil d'administration.

Selon certaines informations, le comité sera dirigé par le conseil d'administration Bret Taylor (président), Adam D'Angelo, Nicole Seligman et le PDG d'OpenAI, Sam Altman.

De plus, les experts techniques et politiques OpenAI Aleksander Madry (responsable de la préparation), Lilian Weng (responsable des systèmes de sécurité), John Schulman (responsable de la science de l'alignement), Matt Knight (responsable de la sécurité) et Jakub Pachocki (scientifique en chef) rejoindra le comité.

Ce site indique qu'OpenAI a également déclaré qu'elle embaucherait et consulterait d'autres experts en matière de sûreté, de sécurité et de technologie pour soutenir cet effort, notamment les anciens responsables de la cybersécurité Rob Joyce et John Carlin, qui fournissent des conseils de sécurité à OpenAI.

OpenAI a également révélé qu'elle a récemment commencé à former son modèle de pointe de nouvelle génération et qu'elle devrait l'amener au niveau supérieur sur la route de l'AGI.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!