Wie kann die generative KI-Erforschung sicher und zuverlässig vorangetrieben werden?

Heutzutage sind die Erforschung und Implementierung generativer KI unweigerlich mit Sicherheitsfragen verbunden. Laut einem aktuellen Datenbericht glauben 49 % der Unternehmensleiter, dass Sicherheitsrisiken zu einem Hauptproblem geworden sind, und 38 % der Unternehmensleiter nennen menschliches Versagen/menschliche Datenlecks, die dadurch verursacht werden, dass sie nicht wissen, wie man GPT-Tools verwendet, als größte Herausforderung.

Obwohl diese Bedenken berechtigt sind, werden die Vorteile für Early Adopters die potenziellen Folgen einer Behinderung der Erkundung bei weitem überwiegen.

In diesem Beitrag helfen wir Teammitgliedern und Kunden zu verstehen, warum Sicherheit nicht als nachträglicher Faktor behandelt werden kann, sondern sollte es als Voraussetzung für die Integration von KI und Unternehmen betrachten und eine Reihe von Best Practices in diesem Aspekt erkunden

Sicherheitsstrategien als Ausgangspunkt nehmen

Unternehmen haben erkannt, dass KI-Anwendungen neue Sicherheitsrisiken und Dringlichkeit mit sich bringen . Laut dem zuvor erwähnten statistischen Bericht gaben 81 % der Unternehmensleiter an, dass ihr Unternehmen Benutzerrichtlinien für generative KI hat oder entwickelt. Aufgrund der schnellen Entwicklung dieser Technologie ändern sich jedoch ständig neue Anwendungen und Anwendungsfälle Daher müssen auch die Richtlinieninhalte ständig aktualisiert werden, um jederzeit auf auftretende Risiken und Herausforderungen reagieren zu können.

Um Sicherheitsrisiken zu minimieren und gleichzeitig die Erkundung zu beschleunigen, ist es natürlich notwendig, „Leitplanken“ für Test- und Lernbemühungen einzurichten. Darüber hinaus sollte die Formulierung relevanter Richtlinien niemals isoliert erfolgen, sondern die Meinungen von Vertretern verschiedener Abteilungen innerhalb des Unternehmens vollständig eingeholt werden und darüber nachgedacht werden, wie verschiedene Funktionseinheiten generative künstliche Intelligenz nutzen, um damit umzugehen Sicherheitsrisiken, denen sie ausgesetzt sind

Kurz gesagt: Die Erforschung der KI-Technologie durch verschiedene Abteilungen sollte nicht grob verboten werden. Wenn Sie aus reiner Angst ein unternehmensweites Verbot verhängen, müssen Sie sich keine Sorgen machen, dass Konkurrenten Ihre Marktanteile auffressen – Sie zerstören selbst die Chinesische Mauer.

Konzentrieren Sie sich auf Mitarbeiter an vorderster Front

Um sicherzustellen, dass generative KI sicher verwendet werden kann, sollten wir zunächst normalen Entwicklern Berechtigungen erteilen. Beispielsweise könnte ihnen vollständiger Zugriff auf eine private Instanz von Insight GPT, einem großen Sprachlernmodell, gewährt werden. Dies kann einerseits dabei helfen, potenzielle Anwendungsfälle zu entdecken, andererseits können auf der Grundlage der Ergebnisse Stresstests durchgeführt werden, um den generativen KI-Service kontinuierlich zu verbessern. Wir stellten bald fest, dass ein Mitglied des Lagerteams einen Weg gefunden hatte um die Effizienz der Auftragsverteilung zu verbessern. In diesem speziellen Fall bat das Mitglied darum, ein Skript in SAP zu schreiben, um einen Teil der Arbeitslast zu automatisieren. Obwohl dieser Versuch effektiv ist, kann er leicht zu Unfällen führen, wenn der Schutz nicht richtig eingerichtet ist. Wenn beispielsweise ein Mitarbeiter versehentlich eine Transaktion ausführt, die nicht in einem Auftrag vorhanden ist, können nachfolgende automatisierte Schritte nicht abgebrochen werden

Um die zivile Erkundung zu fördern und Risiken so weit wie möglich zu begrenzen, müssen wir folgende Maßnahmen ergreifen: Der Prüfungsausschuss sollte klare Richtlinien festlegen, Risikobewertungen durchführen und die Transparenz in KI-Systemen erhöhen. Gleichzeitig sollten entsprechende Schulungen durchgeführt werden, um die Mitarbeiter darin zu schulen, wie sie KI auf verantwortungsvolle Weise auf Arbeitsszenarien anwenden können, insbesondere klare Wege zum Umgang mit Schlüsselthemen wie Ethik, Voreingenommenheit, menschlicher Aufsicht und Datenschutz. Darüber hinaus sollten interne Foren eingerichtet werden, um Teammitglieder zu ermutigen, ihre Erkenntnisse und Lehren innerhalb der Innovatorengruppe des Unternehmens zu teilen ". Laut dem Insight-Bericht ist ein gemeinsames Thema, das Führungskräften am meisten Sorgen bereitet, die Frage, wie Halluzinationen zu schlechten Geschäftsentscheidungen führen können. Allerdings variieren die durch Halluzinationen verursachten Risiken oft von geringfügig bis schwerwiegend, und die spezifischen Auswirkungen variieren häufig von Szenario zu Szenario.

Obwohl das GPT-Tool unweigerlich einige Ergebnisse ausgibt, die nicht mit der objektiven Realität übereinstimmen, wurde uns schnell klar, dass solche falschen Antworten oft zu Verwirrung auf der Wortlautebene führen. Beispielsweise haben wir Insight GPT in frühen Tests gefragt, mit welchem ​​Song Eddie Van Halen zusammengearbeitet hat. Die richtige Antwort ist „Beat It“, aber die Antwort lautet „Thriller“. Aber aus einer anderen Perspektive ist „Beat It“ tatsächlich ein Stück auf dem „Thriller“-Album, daher ist seine Antwort nicht unangemessen.

Auf diese Weise stellen wir sicher, dass wir KI-generierte Inhalte effektiv verwalten und überwachen können, um das Risiko von Halluzinationsproblemen zu verringern. Gleichzeitig müssen wir auch die Schulung und Überwachung von KI-Systemen verstärken, um sicherzustellen, dass die von ihnen generierten Inhalte den relevanten Richtlinien und Standards entsprechen. Nur durch Maßnahmen wie diese können wir Probleme, die bei der Bewältigung sehr subjektiver Arbeitsbelastungen auftreten können, besser bewältigen

Derzeit steckt die Branche der generativen KI noch in den Kinderschuhen. Wer verantwortungsvolle und sichere Anwendungsmethoden erarbeiten und gleichzeitig potenzielle Bedrohungen durch Datenlecks, Informationsfehler, Voreingenommenheit und andere Risiken reduzieren kann, wird klare Vorteile erzielen können. Unternehmen müssen sicherstellen, dass ihre KI-Richtlinien weiterhin mit den Veränderungen in der Branche Schritt halten, und schrittweise das Vertrauen der Benutzer aufbauen, gleichzeitig die Compliance wahren und Halluzinationsprobleme lindern.

Das obige ist der detaillierte Inhalt vonWie kann die generative KI-Erforschung sicher und zuverlässig vorangetrieben werden?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!