Wie künstliche Intelligenz Unternehmen im Jahr 2023 stärken kann

Seit der Veröffentlichung von ChatGPT Ende 2022 ist das Internet voller pessimistischer oder optimistischer Emotionen. Lieben Sie es oder hassen Sie es, künstliche Intelligenz hält Einzug in Ihr Entwicklungsteam. Auch wenn Sie nicht vorhaben, ein KI-Produkt zu entwickeln oder KI zur Entwicklung von Bots zum Schreiben von Code einzusetzen, kann es dennoch in die Tools und Plattformen integriert werden, die zum Erstellen, Testen und Ausführen Ihres manuell geschriebenen Quellcodes verwendet werden.

Tools der künstlichen Intelligenz bergen einzigartige Risiken. Darüber hinaus könnten diese Risiken die enormen Produktivitätsvorteile der Automatisierung von Aufgaben zunichte machen, für die früher das menschliche Gehirn erforderlich war. Diese Risiken ergeben sich aus der Art und Weise, wie KI trainiert, erstellt, gehostet und verwendet wird, die sich alle von anderen Softwaretools unterscheidet, die derzeit von Entwicklern verwendet werden. Das Verständnis von Risiken ist der erste Schritt zur Bewältigung dieser Risiken. Um Ihnen zu helfen, die potenziellen Risiken im Zusammenhang mit kommenden KI-Tools zu verstehen, haben wir einige Interviewfragen geschrieben, die als Teil des KI-Onboarding-Prozesses gezählt werden können.

Diese Fragen sollten unabhängig von der Art der KI oder dem Zweck gestellt werden, für den Sie sie verwenden möchten.

1 Wo wird der von Ihnen gewählte Server für künstliche Intelligenz gehostet?

Moderne künstliche Intelligenz erfordert derzeit spezielle, teure Hardware, um die erstaunlichen Aufgaben zu erfüllen, die wir heute in den Schlagzeilen sehen. Sofern Sie nicht planen, ein brandneues Rechenzentrum zu erwerben, werden Ihre KI-Roboter aus der Ferne arbeiten und dieselben Sicherheitsüberlegungen erfordern wie menschliche Mitarbeiter, die Fernzugriff und externe Datenspeicherung nutzen.

Welche Schutzmaßnahmen sind vorhanden, um IP-Verluste zu verhindern, wenn Code die Grenzen verlässt? Alles, von Smart-TVs bis hin zu Autos, meldet Nutzungsdaten an die Hersteller. Einige nutzen diese Daten, um ihre Software zu verbessern, andere verkaufen sie jedoch an Werbetreibende. Verstehen Sie genau, wie Ihr KI-Tool Quellcode oder andere private Daten für seine Hauptaufgabe verwendet oder verarbeitet.

2 Wird Ihr Input für zukünftiges Training der künstlichen Intelligenz verwendet?

Das fortlaufende Training von KI-Modellen wird für Besitzer und diejenigen, deren Daten zum Trainieren verwendet werden, ein Bereich von zunehmender Bedeutung sein Modelle. Ein Eigentümer möchte beispielsweise verhindern, dass Werbetreibende einen KI-Bot in eine Richtung lenken, die seinen Kunden zugute kommt. Künstler, die ihre Arbeiten online teilen, haben ihre Stile von KI-Bildgenerierungs-Bots kopieren lassen und sie sind besorgt über den Verlust oder Diebstahl der Identität ihrer ursprünglichen Autoren.

3. Wie genau sind die Ergebnisse? Der bekannteste Mangel von ChatGPT ist die Ungenauigkeit seiner Ergebnisse. Es wird selbstbewusst als Wahrheit behaupten, was falsch ist. Dies wird als „Illusion“ der künstlichen Intelligenz bezeichnet. Zu verstehen, wie und wo KI halluzinieren könnte, kann dabei helfen, damit umzugehen. Darüber hinaus haben KI-Besitzer und -Entwickler ihre eigenen Sicherheitsbedenken. Zu diesen neuen Bedenken gehören Bedrohungen für KI-Trainingsmodelle. Diese Bedrohungen könnten die Ergebnisse untergraben oder proprietäre Informationen über die Funktionsweise des Modells preisgeben. Darüber hinaus müssen KI-Modelle mit APIs, Web-, Mobil- und anderen Anwendungen kommunizieren, die sicher erstellt werden müssen. Entwickler müssen spezifische Fragen stellen, wenn sie KI-Tools wie KI-Sicherheitsscanner verwenden, um Risiken zu verwalten, die während der Softwareentwicklung entstehen.

4. Ist ein KI-Tool für diesen Anwendungsfall am besten geeignet?

Es ist wichtig zu verstehen, was KI gut kann und was nicht. Eine Aufgabe kann weiter unterteilt werden in „Entscheidungen auf der Grundlage erlernter Regeln treffen“ oder „Inhalte schreiben, die erlernte Regeln erfüllen“, je besser die KI dabei sein kann. Je weiter das Problem abweicht, desto schlechter schneidet die KI ab. Welche Schutzmaßnahmen gibt es, wenn das Tool Inhalte nicht erfasst oder den Eindruck erweckt, dass sie nicht existieren? Führen Sie niemals einen Single Point of Failure in Ihren Prozess ein, insbesondere keinen, der Halluzinationen hervorrufen kann. Verlassen Sie sich beim Risikomanagement auf traditionelle Methoden der Tiefenverteidigung oder einen „Schweizer Käse“-Ansatz, bei dem selbst dann, wenn eine Schicht ein Problem übersieht, die nächste Schicht es erkennt.

Was ist erforderlich, um die Ergebnisse des Überprüfungstools zu überwachen? Bei diesem Problem handelt es sich eigentlich nur um alten Wein in neuen Schläuchen: Traditionelle Journaling-Richtlinien sind in zwei Teile gegliedert. Der erste Teil besteht darin, die Daten wichtiger Ereignisse zu erfassen, und der zweite Teil ist das Prüfprotokoll. Bis die KI weiter ausgereift ist und ihre Mängel verstanden oder behoben werden, bleibt der Mensch ein integraler Bestandteil des Arbeitsablaufs.

Immer mehr Entwickler „beauftragen“ ChatGPT mit dem Schreiben von Quellcode. Vorläufige Berichte deuten darauf hin, dass ChatGPT in der Lage ist, Quellcode in vielen Programmiersprachen zu schreiben und alle gängigen und öffentlich diskutierten Sprachen fließend beherrscht. Aufgrund der Trainings- und Modellbeschränkungen dieser Betaversion ist der generierte Code jedoch nicht immer perfekt. Oft enthält es Fehler in der Geschäftslogik, die die Funktionsweise der Software verändern können, Syntaxfehler, die dazu führen können, dass verschiedene Versionen der Software zusammengeführt werden, und andere scheinbar von Menschen verursachte Probleme. Mit anderen Worten: ChatGPT ist ein Junior-Entwickler. Wenn Sie Code verwenden, der von diesem Junior-Entwickler geschrieben wurde, müssen Sie überlegen, wie Sie ihn verwalten.

Wer wird sein Verwalter sein und dafür sorgen, dass der Code funktionsfähig, optimierbar und hochwertig ist und auch Sicherheitsstandards erfüllt? Nachwuchsentwickler benötigen die Anleitung erfahrener Entwickler. Jede Codezeile muss getestet und einige korrigiert werden. Vorläufige Berichte deuten jedoch darauf hin, dass dieser Korrekturleseprozess schneller und einfacher ist als das Schreiben von Code von Grund auf.

5. Wird der Trainingscode in Ihre Codebasis eingefügt oder neu gemischt?

Eine heimtückischere Bedrohung besteht darin, dass KI-Bots wie GitHub Copilot manchmal Quellcode produzieren, der Codeblöcke vollständig aus ihren Trainingsdaten kopiert. Dies erfordert Anti-Plagiat-Tools, um sicherzustellen, dass Urheberrechtsrisiken gemanagt werden.

6. Woher bekommt der Roboter seine Trainingsdaten?

Die Qualität eines Modells der künstlichen Intelligenz hängt von seinen Trainingsdaten ab. Wenn ein Bot mit veraltetem oder falschem Code trainiert wird, führt er auch zu veralteten und falschen Ergebnissen.

7. Wo ist die Engine gehostet?

Ähnlich muss ein KI-Roboter, der Quellcode analysiert, den Quellcode zu seiner Verarbeitungsanlage bringen. Achten Sie besonders darauf, wie Daten geschützt, genutzt und verarbeitet werden, nachdem sie Ihr Unternehmen verlassen.

Die Dezember-Veröffentlichung von ChatGPT läutet eine neue Ära in der Softwareentwicklung ein. Es ist wichtig, sich an diese Veränderungen anzupassen, anstatt von ihnen zu Boden geworfen zu werden. Machen Sie sich bei der Einführung dieser neuen Tools bewusst, dass ein Prinzip umso mehr dasselbe bleibt, je mehr sich die Dinge ändern: Es ist besser, einen Sicherheitsvorfall zu verhindern, als von einem solchen Vorfall zu Boden geworfen zu werden.

Quelle: www.cio.com

Das obige ist der detaillierte Inhalt vonWie künstliche Intelligenz Unternehmen im Jahr 2023 stärken kann. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!