« Exigences de base en matière de sécurité pour les services d'intelligence artificielle générative » sollicite publiquement des opinions. L'utilisation de corpus contenant des informations personnelles doit être autorisée par l'entité correspondante.

Nouvelles du 12 octobre, selon le site officiel du Comité technique national de normalisation de la sécurité de l'information, le comité a formulé un projet de document technique « Exigences de sécurité de base pour les services d'intelligence artificielle générative ». Le document technique est désormais ouvert au public pour commentaires. Si vous avez des commentaires ou des suggestions, veuillez nous faire part de vos commentaires avant 24h00 le 25 octobre

Les « Exigences » donnent les aspects de sécurité de base des services d'intelligence artificielle générative. , y compris la sécurité du corpus, la sécurité des modèles, les mesures de sécurité, l'évaluation de la sécurité, etc., sont applicables aux fournisseurs qui fournissent des services d'intelligence artificielle générative au public dans mon pays pour améliorer les niveaux de sécurité des services, ou aux fournisseurs qui effectuent des évaluations de sécurité par eux-mêmes ou par confier à des tiers la réalisation d'évaluations de sécurité et peut également servir de référence aux autorités compétentes pour évaluer le niveau de sécurité des services d'intelligence artificielle générative. Certaines des exigences pour l'organisation de ce site Web sont les suivantes :

Établir une liste noire des sources de corpus, et les données des sources de la liste noire ne doivent pas être utilisées pour la formation.

• Une évaluation de sécurité doit être menée sur chaque source de corpus Si le contenu d'une seule source de corpus contient plus de 5% d'informations illégales et préjudiciables, elle doit être ajoutée à la liste noire.
• Lorsque vous utilisez un corpus contenant des informations personnelles, vous devez obtenir l'autorisation et le consentement du sujet des informations personnelles correspondant, ou remplir d'autres conditions pour l'utilisation légale des informations personnelles
• . Lorsque vous utilisez un corpus contenant des informations biométriques telles que des visages, obtenez l'autorisation écrite de la personne concernée par les informations personnelles correspondantes ou remplissez d'autres conditions pour l'utilisation légale des informations biométriques.
• Les annotateurs doivent être évalués par eux-mêmes, ceux qui réussissent l'examen doivent recevoir des qualifications d'annotation, et il devrait y avoir un mécanisme de recyclage et d'évaluation réguliers, ainsi qu'un mécanisme pour suspendre ou annuler les qualifications d'annotation si nécessaire.
• Pendant le processus de formation,
la sécurité du contenu généré doit être l'une des principales considérations pour évaluer la qualité des résultats générés
• . Si les services sont fournis via une interface interactive, les informations suivantes doivent être divulguées au public dans un endroit bien en vue tel que la page d'accueil du site Web :
• Le contenu qui doit être réécrit est : - Informations sur les personnes, occasions, fins, etc. pour lesquelles le service est applicable Contenu réécrit : - Informations sur le service adaptées à différents groupes de personnes, occasions et objectifs

Statut d'utilisation des modèles de base tiers

La nécessité et l'applicabilité de l'application de l'intelligence artificielle générative dans divers domaines relevant de la portée du service doivent être pleinement démontrées et sécurité.

• Selon des rapports précédents sur ce site, sept départements, dont l'Administration du cyberespace de Chine, la Commission nationale du développement et de la réforme, le ministère de l'Éducation, le ministère de la Science et de la Technologie, le ministère de l'Industrie et des Technologies de l'information, le ministère de La sécurité publique et l'administration d'État de la radio et de la télévision ont publié le 10 juillet des « Mesures provisoires pour la gestion des services d'intelligence artificielle générative », qui entrent en vigueur le 15 août.

Les « Mesures » stipulent que personne ne doit utiliser les avantages des algorithmes, des données, des plateformes, etc. pour mettre en œuvre un monopole et une concurrence déloyale ; les droits à la réputation, les droits à l'honneur, les droits à la vie privée et les droits à l'information personnelle ; doivent prendre des mesures efficaces pour améliorer la transparence des services d'intelligence artificielle générative et améliorer l'exactitude et la fiabilité du contenu généré.

Référence

Avis sur la sollicitation d'avis sur le document technique du Comité des normes de sécurité de l'information « Exigences de sécurité de base pour les services d'intelligence artificielle générative » (projet pour commentaires)

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!