Nachrichten vom 12. Oktober: Laut der offiziellen Website des National Information Security Standardization Technical Committee hat das Komitee einen Entwurf des technischen Dokuments „Grundlegende Sicherheitsanforderungen für generative künstliche Intelligenzdienste“ formuliert. Das technische Dokument ist jetzt für Kommentare oder Vorschläge für die Öffentlichkeit zugänglich. Bitte geben Sie bis zum 25. Oktober um 24:00 Uhr Feedback. Die „Anforderungen“ geben die grundlegenden Sicherheitsaspekte generativer künstlicher Intelligenzdienste an , einschließlich Korpussicherheit, Modellsicherheit, Sicherheitsmaßnahmen, Sicherheitsbewertung usw., gelten für Anbieter, die generative künstliche Intelligenzdienste für die Öffentlichkeit in meinem Land bereitstellen, um das Sicherheitsniveau der Dienste zu verbessern, oder für Anbieter, die Sicherheitsbewertungen selbst oder durch andere durchführen Beauftragung Dritter mit der Durchführung von Sicherheitsbewertungen und kann den zuständigen Behörden auch als Referenz für die Bewertung des Sicherheitsniveaus generativer künstlicher Intelligenzdienste dienen.
Einige der Anforderungen für die Organisation dieser Website sind wie folgt:
Erstellen Sie eine schwarze Liste von Korpusquellen. Daten aus schwarzen Listenquellen dürfen nicht für Schulungen verwendet werden. Für jede Korpusquelle sollte eine Sicherheitsbewertung durchgeführt werden. Wenn der Inhalt einer einzelnen Korpusquelle mehr als 5 % illegale und schädliche Informationen enthält, sollte sie zur schwarzen Liste hinzugefügt werden.
Bei der Verwendung von Korpussen, die personenbezogene Daten enthalten, sollten Sie die Genehmigung und Zustimmung des entsprechenden Betroffenen der personenbezogenen Daten einholen oder andere Bedingungen für die rechtmäßige Nutzung der personenbezogenen Daten erfüllen
. - Wenn Sie Korpus verwenden, das biometrische Informationen wie Gesichter enthält, holen Sie eine schriftliche Genehmigung der entsprechenden Person für personenbezogene Daten ein oder erfüllen Sie andere Bedingungen für die rechtmäßige Verwendung der biometrischen Informationen.
- Die Annotatoren sollten selbst beurteilt werden, diejenigen, die die Prüfung bestehen, sollten Annotationsqualifikationen erhalten, und es sollte einen Mechanismus zur regelmäßigen Umschulung und Bewertung sowie einen Mechanismus zur Aussetzung oder Aufhebung der Annotationsqualifikationen bei Bedarf geben.
-
Während des Trainingsprozesses sollte die Sicherheit der generierten Inhalte einer der Hauptüberlegungen für die Bewertung der Qualität der generierten Ergebnisse sein
. - Wenn Dienste über eine interaktive Schnittstelle bereitgestellt werden, sollten die folgenden Informationen an prominenter Stelle, beispielsweise auf der Homepage der Website, der Öffentlichkeit zugänglich gemacht werden:
-
- Der Inhalt, der neu geschrieben werden muss, ist: - Informationen über die Personen, Anlässe, Zwecke usw., für die der Dienst anwendbar ist
Umgeschriebener Inhalt: - Serviceinformationen passend für unterschiedliche Personengruppen, Anlässe und Zwecke Nutzungsstatus von Basismodellen Dritter
- Die Notwendigkeit und Anwendbarkeit der Anwendung generativer künstlicher Intelligenz in verschiedenen Bereichen innerhalb des Serviceumfangs soll vollständig nachgewiesen und dargestellt werden Sicherheit.
Laut früheren Berichten auf dieser Website sind sieben Abteilungen tätig, darunter die Cyberspace Administration of China, die Nationale Entwicklungs- und Reformkommission, das Bildungsministerium, das Ministerium für Wissenschaft und Technologie, das Ministerium für Industrie und Informationstechnologie und das Ministerium für Die öffentliche Sicherheit und die staatliche Radio- und Fernsehverwaltung haben am 10. Juli die „Vorläufigen Maßnahmen für die Verwaltung generativer künstlicher Intelligenzdienste“ erlassen, die am 15. August in Kraft treten.
Die „Maßnahmen“ legen fest, dass niemand die Vorteile von Algorithmen, Daten, Plattformen usw. zur Durchsetzung von Monopolen und unlauterem Wettbewerb nutzen darf, die körperliche und geistige Gesundheit anderer nicht gefährden und die Bildrechte anderer nicht verletzen darf. Reputationsrechte, Ehrenrechte, Datenschutzrechte und persönliche Informationsrechte müssen wirksame Maßnahmen ergreifen, um die Transparenz generativer künstlicher Intelligenzdienste zu verbessern und die Genauigkeit und Zuverlässigkeit der generierten Inhalte zu verbessern.
Mitteilung zur Einholung von Meinungen zum technischen Dokument „Grundlegende Sicherheitsanforderungen für generative künstliche Intelligenzdienste“ des Information Security Standards Committee (Entwurf für Kommentare)
Das obige ist der detaillierte Inhalt von„Grundlegende Sicherheitsanforderungen für generative künstliche Intelligenzdienste' ist die öffentliche Einholung von Meinungen. Die Verwendung von Korpora, die personenbezogene Daten enthalten, muss von der entsprechenden Stelle genehmigt werden.. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!