Microsoft fournit un grand modèle GPT au gouvernement américain, comment assurer la sécurité ?

L'engouement pour l'intelligence artificielle générative a balayé le gouvernement fédéral américain Microsoft a annoncé le lancement du service Azure OpenAI, permettant aux clients gouvernementaux Azure d'accéder à GPT-3, GPT-4 et Embeddings.

Dans un communiqué, Microsoft a déclaré que les agences gouvernementales auront accès aux cas d'utilisation de ChatGPT via le service sans sacrifier « les normes rigoureuses de sécurité et de conformité dont elles ont besoin pour répondre aux exigences gouvernementales en matière de données sensibles ».

Microsoft affirme avoir développé une architecture qui. permet aux clients gouvernementaux d'accéder en toute sécurité à de grands modèles de langage dans des environnements commerciaux à partir d'Azure Government. Microsoft affirme qu'il sera accessible via les API REST du SDK Python ou Azure AI Studio, le tout sans exposer les données gouvernementales à l'Internet public.

Microsoft promet : « Seules les requêtes soumises au service Azure OpenAI seront transférées vers le modèle Azure OpenAI dans l'environnement commercial. » « Azure Government s'appaire directement au réseau commercial Microsoft Azure, et non directement à l'Internet public ou au réseau Microsoft Enterprise. . Peer to peer."

Microsoft rapporte qu'il crypte tout le trafic Azure à l'aide de la norme de sécurité réseau IEEE 802.1AE – ou MACsec – et que tout le trafic réside sur une dorsale mondiale de plus de 25 km de fibre optique. et les systèmes de câbles sous-marins.

Le service Azure OpenAI pour le gouvernement a été entièrement lancé et est disponible pour les clients d'entreprise ou gouvernementaux approuvés.

Dans quelle mesure le ChatGPT utilisé par le gouvernement peut-il être confidentiel ?

Microsoft a toujours voulu gagner la confiance du gouvernement américain – mais il a également commis des erreurs.

Des informations ont révélé que plus d'un téraoctet de documents militaires gouvernementaux sensibles avaient été exposés sur l'Internet public - le ministère de la Défense et Microsoft se rejetant mutuellement la responsabilité de cette question.

OpenAI, filiale de Microsoft et créateur de ChatGPT, est également insatisfaisant en termes de sécurité. En mars, une mauvaise bibliothèque open source a permis d'exposer les enregistrements de chat de certains utilisateurs. Depuis lors, un certain nombre d’entreprises de premier plan – dont Apple, Amazon et plusieurs banques – ont interdit l’utilisation interne de ChatGPT, craignant qu’il ne divulgue des informations internes confidentielles.

L’agence d’espionnage britannique GCHQ a même mis en garde contre ce risque. Alors, le gouvernement américain fait-il la bonne chose en transmettant ses secrets à Microsoft, même si ces secrets ne seront évidemment pas transférés vers un réseau non fiable ?

Microsoft affirme qu'il n'utilisera pas exclusivement les données gouvernementales pour entraîner son modèle OpenAI, il est donc probable que les données top secrètes ne seront pas divulguées dans les réponses à d'autres. Mais cela ne signifie pas qu’il peut être sécurisé par défaut. Dans son annonce, Microsoft a poliment reconnu que lorsque les utilisateurs gouvernementaux utilisent les modèles OpenAI, certaines données seront toujours enregistrées.

Microsoft a déclaré : "Microsoft permet aux clients disposant de qualifications d'accès limité supplémentaires et démontrant des cas d'utilisation spécifiques de demander des modifications aux capacités de gestion de contenu d'Azure OpenAI."

Il a ajouté : "Si Microsoft approuve la demande d'un client de modifier les enregistrements de données, il le fera." La journalisation des données dans Azure Commerce pour toutes les questions et réponses stockées liées à un abonnement Azure approuvé sera également désactivée. "Cela signifie qu'à moins que l'agence gouvernementale ne réponde à certains critères, questions et réponses - par Texte renvoyé par l'IA. modèle - sera conservé.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!