Wie verwaltet man KI-Risiken und -Sicherheit?

​Große, sensible Datensätze werden häufig zum Trainieren von KI-Modellen verwendet, wodurch Risiken für den Datenschutz und Datenlecks entstehen. Der Einsatz künstlicher Intelligenz erhöht die Bedrohungsvektoren einer Organisation und erweitert ihre Angriffsfläche. Darüber hinaus schafft KI neue Möglichkeiten für harmlose Fehler, die sich negativ auf Modelle und Geschäftsergebnisse auswirken.

Risiken, die nicht verstanden werden, können nicht gemindert werden. Eine aktuelle Gartner-Umfrage unter Chief Information Security Officers ergab, dass die meisten Unternehmen die neuen Sicherheits- und Geschäftsrisiken, die von künstlicher Intelligenz ausgehen, oder die neuen Kontrollen, die sie zur Minderung dieser Risiken einführen müssen, nicht berücksichtigt haben. Künstliche Intelligenz erfordert neue Risiko- und Sicherheitsmanagementmaßnahmen und Risikominderungsrahmen.

Hier sind die fünf wichtigsten Prioritäten, auf die sich Sicherheits- und Risikoverantwortliche konzentrieren sollten, um KI-Risiken und -Sicherheit in ihren Organisationen effektiv zu verwalten:

1 Erfassung der KI-Gefährdung

Modelle für maschinelles Lernen sind für die meisten Benutzer undurchsichtig und im Gegensatz zu regulären Bei Softwaresystemen ist ihr Innenleben selbst den erfahrensten Experten unbekannt. Datenwissenschaftler und Modellentwickler verstehen oft, was ihre Modelle für maschinelles Lernen erreichen wollen, können jedoch nicht immer die interne Struktur oder die algorithmischen Mittel entschlüsseln, mit denen das Modell die Daten verarbeitet.

Dieser Mangel an Verständnis schränkt die Fähigkeit einer Organisation, KI-Risiken zu managen, erheblich ein. Der erste Schritt im KI-Risikomanagement besteht darin, alle in der Organisation verwendeten KI-Modelle aufzulisten, unabhängig davon, ob es sich um Komponenten von Drittanbietersoftware handelt, intern entwickelt wurde oder über Software-as-a-Service-Anwendungen zugegriffen wurde. Dazu gehört auch die Identifizierung von Interdependenzen zwischen den verschiedenen Modellen. Die Modelle werden dann auf der Grundlage ihrer betrieblichen Auswirkungen eingestuft, wobei berücksichtigt wird, dass Risikomanagementkontrollen schrittweise auf der Grundlage identifizierter Prioritäten angewendet werden können.

Sobald die Modelle angelegt sind, besteht der nächste Schritt darin, sie so interpretierbar oder erklärbar wie möglich zu machen. „Erklärbarkeit“ bedeutet die Fähigkeit, Details, Gründe oder Erklärungen zu generieren, die die Funktionalität des Modells für eine bestimmte Zielgruppe verdeutlichen. Dadurch wird Risiko- und Sicherheitsmanagern eine Umgebung zur Verfügung gestellt, in der sie geschäftliche, soziale, Haftungs- und Sicherheitsrisiken, die sich aus Modellergebnissen ergeben, verwalten und mindern können.

2. Steigern Sie das Bewusstsein der Mitarbeiter durch Aufklärungsaktivitäten zu Risiken im Bereich der künstlichen Intelligenz.

Das Bewusstsein der Mitarbeiter ist ein wichtiger Bestandteil des Risikomanagements mit künstlicher Intelligenz. Lassen Sie zunächst alle Beteiligten, einschließlich CISOs, Chief Privacy Officers, Chief Data Officers sowie Rechts- und Compliance-Beauftragte, ihre Einstellung zu KI neu kalibrieren. Sie sollten verstehen, dass KI „anders als jede andere Anwendung“ ist – sie birgt einzigartige Risiken und erfordert spezifische Kontrollen, um diese Risiken zu mindern. Arbeiten Sie dann mit den Interessenvertretern des Unternehmens zusammen, um das Verständnis für die KI-Risiken zu erweitern, die gemanagt werden müssen.

Arbeiten Sie mit diesen Stakeholdern zusammen, um herauszufinden, wie Sie KI-Wissen teamübergreifend und im Laufe der Zeit am besten aufbauen können. Prüfen Sie beispielsweise, ob Sie dem Lernmanagementsystem Ihres Unternehmens einen Kurs zu grundlegenden KI-Konzepten hinzufügen können. Arbeiten Sie mit Anwendungs- und Datensicherheitsabteilungen zusammen, um die Entwicklung von KI-Wissen bei allen Organisationsmitgliedern zu unterstützen.

3. Beseitigen Sie die Gefährdung von KI-Daten durch Datenschutzpläne

Einer aktuellen Umfrage von Gartner zufolge gelten Datenschutz und Sicherheit als die Haupthindernisse für die Implementierung künstlicher Intelligenz. Durch die Einführung von Datenschutz- und Datenschutzverfahren kann die Offenlegung interner und gemeinsam genutzter Daten innerhalb der KI wirksam verhindert werden.

Es gibt eine Reihe von Methoden, um auf wichtige Daten zuzugreifen und diese zu teilen und gleichzeitig die Anforderungen an Privatsphäre und Datenschutz zu erfüllen. Bestimmen Sie, welche Datenschutztechnologie oder welche Kombination von Technologien für die spezifischen Anwendungsfälle Ihres Unternehmens am sinnvollsten ist. Untersuchen Sie beispielsweise Techniken wie Datenmaskierung, synthetische Datengenerierung oder differenziellen Datenschutz.

Datenschutzanforderungen sollten beim Export oder Import von Daten an externe Organisationen eingehalten werden. In diesen Szenarien sollten Techniken wie vollständig homomorphe Verschlüsselung und sichere Mehrparteienberechnung nützlicher sein als der Schutz von Daten vor internen Benutzern und Datenwissenschaftlern.

4. Integrieren Sie das Risikomanagement in den Modellbetrieb

KI-Modelle erfordern spezielle Prozesse im Rahmen des Modellbetriebs oder ModelOps, um künstliche Intelligenz zuverlässig und effizient zu machen. Da sich Umweltfaktoren ständig ändern, müssen KI-Modelle kontinuierlich auf geschäftliche Wertverluste und unvorhersehbare (und manchmal nachteilige) Ergebnisse achten.

Eine effektive Überwachung erfordert ein Verständnis von KI-Modellen. Dedizierte Risikomanagementprozesse müssen ein integraler Bestandteil von ModelOps werden, um die KI vertrauenswürdiger, genauer, fairer und widerstandsfähiger gegenüber gegnerischen Angriffen oder harmlosen Fehlern zu machen.

Kontrollen sollten kontinuierlich angewendet werden – zum Beispiel während der gesamten Modellentwicklung, beim Testen und Bereitstellen sowie im laufenden Betrieb. Durch wirksame Kontrollen werden böswilliges Verhalten, harmlose Fehler und unbeabsichtigte Änderungen an KI-Daten oder -Modellen erkannt, die zu Ungerechtigkeit, Korruption, Ungenauigkeiten, schlechter Modellleistung und Vorhersagen sowie anderen unbeabsichtigten Folgen führen.

5. Nutzen Sie Sicherheitsmaßnahmen mit künstlicher Intelligenz, um gegnerische Angriffe abzuwehren

Das Erkennen und Blockieren von Angriffen auf KI erfordert neue Technologien. Böswillige Angriffe auf KI können zu erheblichen organisatorischen Schäden und Verlusten führen, einschließlich finanzieller Schäden, Reputationsschäden oder Daten im Zusammenhang mit geistigem Eigentum, sensiblen Kundendaten oder proprietären Daten. Anwendungsleiter, die mit Sicherheit arbeiten, müssen ihren KI-Anwendungen Kontrollen hinzufügen, um anomale Dateneingaben, böswillige Angriffe und harmlose Eingabefehler zu erkennen.

Erzwingen Sie eine umfassende Reihe traditioneller Unternehmenssicherheitskontrollen rund um KI-Modelle und -Daten sowie neue Integritätsmaßnahmen für KI, wie z. B. Trainingsmodelle, die gegnerische KI tolerieren. Schließlich nutzen Sie Betrugs-, Anomalieerkennungs- und Bot-Erkennungstechnologien, um KI-Datenvergiftung oder die Erkennung von Eingabefehlern zu verhindern.

Das obige ist der detaillierte Inhalt vonWie verwaltet man KI-Risiken und -Sicherheit?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!