Fünf große KI-Risiken im Zeitalter von ChatGPT und generativer KI

Seit Jahren interagieren wir im Stillen mit künstlicher Intelligenz über Sprachassistenten, soziale Medien, Suchalgorithmen, Gesichtserkennung auf unseren Telefonen und mehr. Doch mit dem Aufkommen generativer KI wie ChatGPT rückt die künstliche Intelligenz in den Vordergrund.

Plötzlich werden wir künstlicher Zeuge der KI und staunen über das, was wir sehen und hören. Künstliche Intelligenz fühlt sich nicht mehr wie „etwas an, das eines Tages passieren wird“. Es sei nun „hier und bereit, die Welt zu verändern“.

Veränderung birgt Risiken. ChatGPT dürfte ein schockierender Weckruf für Unternehmen und Managementteams sein, die noch keinen KI-Risikomanagementplan entwickelt haben. In diesem Artikel werden die Risiken untersucht, die mit der weit verbreiteten Implementierung künstlicher Intelligenz verbunden sind.

Das Folgende sind die 5 größten Risiken der künstlichen Intelligenz, auf die Unternehmensleiter achten sollten:

1 Störungsrisiko

Künstliche Intelligenz wird bestehende Geschäftsmodelle und Märkte mit beispielloser Technologie stören. Das offensichtlichste Beispiel ist ChatGPT selbst. Wer hätte gedacht, dass der Status von Google als unangefochtener Such-Champion so plötzlich und prekär in Frage gestellt würde?

Es scheint, dass die meisten Menschen sich noch vor ein oder zwei Jahren vorgestellt haben, dass künstliche Intelligenz Branchen revolutionieren würde, die auf relativ gering qualifizierte Arbeitskräfte angewiesen sind B. Spedition und Kundenservice, oder im schlimmsten Fall die Störung stark strukturierter Arbeitsplätze wie Finanzhandel und Radiologie. Wir wissen jetzt, dass Kreativbranchen wie Medien und Werbung sowie personalisierte Dienstleistungsbranchen wie Lehre und Finanzberatung und sogar Spitzenkompetenzbereiche wie pharmazeutische Forschung und Entwicklung und Informatik gefährdet sind.

Laut einem Bericht von Goldman Sachs vom März 2023 könnte generative KI wie ChatGPT weltweit bis zu 300 Millionen Arbeitsplätze eliminieren, darunter 19 % der bestehenden Arbeitsplätze in den Vereinigten Staaten. Unabhängig von Ihrer Branche oder Karriere ist es fast sicher, dass Unternehmen in den kommenden Jahren mit erheblichen Veränderungen konfrontiert sein werden. Im Gegensatz zu früheren technologischen Umwälzungen kann es dieses Mal tatsächlich um Leben oder Tod gehen.

2. Cybersicherheitsrisiken

Der Schutz von Unternehmensdaten, Systemen und Personen vor Hackern und anderen Saboteuren ist für Unternehmensleiter zu einem wachsenden Problem geworden. Im Jahr 2022 stieg die Zahl der Angriffe um 38 %, wobei ein durchschnittliches Unternehmen mehr als 1.000 Angriffe pro Woche erlebte und die durchschnittlichen Kosten pro Datenschutzverletzung auf über 4 Millionen US-Dollar anstiegen.

Künstliche Intelligenz wird diese Herausforderung exponentiell verschärfen. Stellen Sie sich vor, eine hochentwickelte KI wie ChatGPT würde E-Mails an Mitarbeiter senden, die scheinbar vom Chef stammen, und dabei Informationen verwenden, die normalerweise nur dem Chef bekannt sind, und sogar den Schreibstil des Chefs verwenden. Ein solcher Phishing-Angriff wäre wie groß.

Seit mindestens 2019 gibt es Berichte über den Einsatz von Deepfakes wie Voice Cloning bei Online-Betrügereien. Da sich die künstliche Intelligenz jeden Tag verbessert und diversifiziert, wird das Problem des Cyber-Risikomanagements immer schlimmer.

Wenn Sie glauben, dass Firewalls und andere moderne Netzwerkverteidigungstechnologien Sie retten können, denken Sie noch einmal darüber nach. KI hilft Bösewichten, das schwächste Glied in einer Verteidigung zu finden und dann rund um die Uhr zu arbeiten, bis ein Durchbruch gefunden wird.

3. Reputationsrisiko

Als ChatGPT zum ersten Mal in der Öffentlichkeit auftauchte, nannten Google-Führungskräfte zunächst das „Reputationsrisiko“ als Grund und erklärten, dass sie künstliche Intelligenz nicht sofort einführen würden, um damit zu konkurrieren. Doch einige Tage später zog es seine Aussage zurück und kündigte die Einführung von Bard an. Fehler und Peinlichkeiten bei Bing und anderen Bereichen der generativen KI haben bewiesen, dass Googles anfängliche Bedenken begründet waren.

Die Öffentlichkeit schaut zu. Wenn sich KI in einer Weise verhält, die nicht mit Werten vereinbar ist, kann dies zu einem PR-Desaster führen. Neue Formen der künstlichen Intelligenz verhalten sich bereits wie rassistische, frauenfeindliche Monster, was zu falschen Verhaftungen führt und die Voreingenommenheit bei der Einstellung von Mitarbeitern verstärkt.

Manchmal kann künstliche Intelligenz menschliche Beziehungen zerstören. Laut Forrester sind 75 % der Verbraucher von Kundenservice-Chatbots frustriert und 30 % haben ihr Geschäft nach schlechten KI-gesteuerten Kundenservice-Interaktionen woanders hin verlegt. Künstliche Intelligenz ist noch jung und fehleranfällig. Trotz des hohen Risikos gehen wir jedoch davon aus, dass viele kommerzielle Organisationen die Reputationsrisiken, die mit dem Einsatz von KI verbunden sind, vollständig verstehen werden.

4. Rechtliche Risiken

Die Bundesregierung bereitet sich auf die Bewältigung der gesellschaftlichen Herausforderungen vor, die der Aufstieg der künstlichen Intelligenz mit sich bringt. Im Jahr 2022 stellte die Biden-Regierung einen Entwurf für die Artificial Intelligence Bill of Rights zum Schutz der Privatsphäre und der bürgerlichen Freiheiten vor. Im Jahr 2023 veröffentlichte das National Institute of Standards and Technology ein Rahmenwerk für das Risikomanagement im Bereich der künstlichen Intelligenz, um Unternehmensvorständen und anderen Organisationsleitern beim Umgang mit Risiken der künstlichen Intelligenz zu helfen. Der Algorithmic Accountability Act von 2022 ist immer noch nur ein Gesetzentwurf, der darauf abzielt, Transparenz in einer Vielzahl automatisierter Entscheidungsmechanismen zu schaffen. Dies ist nur eine Bundesgesetzgebung. Allein im Jahr 2022 haben nicht weniger als 17 Staaten Gesetze zur Regelung künstlicher Intelligenz vorgeschlagen, die auf Gesichtserkennung, Einstellungsvoreingenommenheit, Suchtalgorithmen und andere KI-Anwendungsfälle abzielen. Für multinationale Unternehmen zielt der von der EU vorgeschlagene Gesetzentwurf zur künstlichen Intelligenz darauf ab, den Einsatz biometrischer Daten, psychologischer Manipulation, Ausbeutung schutzbedürftiger Gruppen und der Bewertung sozialer Bonität zu verbieten oder zu mildern.

Neue Regelungen kommen bald, möglicherweise im Jahr 2023. Unternehmen sind mit Risiken konfrontiert, die über die Einhaltung von Vorschriften hinausgehen. Wer haftet, wenn bei einem Produkt oder einer Dienstleistung, die KI nutzt, etwas schiefgeht: Der KI-Entwickler oder zumindest das Unternehmen? KI trifft Entscheidungen zur Einhaltung der neuen Gesetzestransparenzbestimmungen in .

5. Operationelles Risiko

Der letzte Bereich des KI-Risikos ist vielleicht der offensichtlichste, aber in gewisser Weise auch der gefährlichste. Was passiert, wenn ein Mitarbeiter ChatGPT versehentlich missbraucht und dadurch Geschäftsgeheimnisse preisgegeben werden? Was passiert, wenn KI nicht wie erwartet funktioniert? Die negativen Auswirkungen einer zu schnellen Einführung von KI können enorm sein.

ChatGPT ist heute das bekannteste Beispiel für fortschrittliche künstliche Intelligenz. Menschen auf der ganzen Welt testen es und berichten täglich über seine Mängel. Aber die von Unternehmen eingesetzte KI kann von diesem Vorteil möglicherweise nicht profitieren. Wenn KI Ihnen sagt, dass Sie sich auf einen bestimmten Lieferanten, ein bestimmtes Material oder ein bestimmtes Produkt konzentrieren sollen, es aber falsch macht – woher wissen Sie dann, was Sie erwartet?

Watson von IBM hat einst falsche und gefährliche Behandlungen für Krebspatienten vorgeschlagen. Das britische Unternehmen Tyndaris Investments wird vom Hongkonger Tycoon Charles Li verklagt, nachdem sein Hedgefonds AI bis zu 20 Millionen US-Dollar pro Tag verloren hat. Und wenn ein außer Kontrolle geratener Tesla einen Fußgänger anfährt und tötet? Es ist die Aufgabe des Unternehmensleiters, sich dieses betrieblichen Risikos bewusst zu sein und es zu bewältigen.

Das obige ist der detaillierte Inhalt vonFünf große KI-Risiken im Zeitalter von ChatGPT und generativer KI. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!