KI-Betrug steht vor der Tür. Wie können wir ihn verhindern?

Jede Technologie ist ein zweischneidiges Schwert. Welchen Schaden kann uns künstliche Intelligenz (KI) zufügen?

Derzeit diskutieren wir, ob Wissenschaftler, Unternehmer, Medien oder andere um uns herum, über den langfristigen Schaden von KI, der beispielsweise dazu führen kann, dass Arbeitnehmer ihren Arbeitsplatz verlieren, menschliches Denken übertreffen oder ersetzen und sogar dazu führen kann, dass Menschen verlieren Kontrolle der Zivilisation usw.

Der Schaden, den die KI uns zufügt, liegt jedoch unmittelbar vor uns. Und die meisten Menschen wissen erst dann, dass sie ein Opfer sind, wenn sie es selbst erleben.

Kürzlich war die Nachricht, dass „ein Firmenchef auf einen KI-Betrug zur Gesichtsveränderung stieß und innerhalb von 10 Minuten um 4,3 Millionen Yuan betrogen wurde“, ein heißes Suchthema auf großen Nachrichten-Websites. Nach Angaben des Opfers gab der Betrüger mithilfe von KI-Gesichtsveränderungs- und Lautmalerei-Technologie erfolgreich vor, sein Freund zu sein, und betrog ihn dann: „Damals führte er einen Videoanruf bei mir durch, und ich bestätigte auch sein Gesicht und seine Stimme.“ Video, also habe ich meine Wachsamkeit gelockert.“

Obwohl dieser Vorfall die Menschen auf den „KI-Gesichtsveränderungsbetrug“ aufmerksam gemacht hat, gibt es tatsächlich weitaus mehr Beispiele für „KI-Gesichtsveränderung“ bei beliebten Prominenten, die Waren in Live-Übertragungsräumen verkaufen, und Menschen in einigen unanständigen Videos Bei Gesichtern usw. kann es sich allesamt um Betrügereien handeln, die von Kriminellen mithilfe von KI-Technologie erstellt wurden.

Darüber hinaus nutzen Kriminelle KI-Technologie, um Sprachdateien zu extrahieren, nachdem sie die WeChat-Konten anderer Personen gestohlen haben, und begehen Betrug, indem sie WeChat-Stimmen weiterleiten.

Die Frage ist: Wie sollen wir mit neuen Betrügereien wie „KI-Gesichtsveränderung“ umgehen, wenn wir die Bequemlichkeit der KI-Technologie genießen?

Im Dezember letzten Jahres haben die Cyberspace Administration of China, das Ministerium für Industrie und Informationstechnologie und das Ministerium für öffentliche Sicherheit gemeinsam die „Vorschriften zur Verwaltung der Tiefensynthese von Internetinformationsdiensten“ herausgegeben, in denen Folgendes erwähnt wurde: Anbieter von Tiefensynthesediensten Wenn Sie eine strenge Kontrolle über den durch die Nutzung ihrer Dienste generierten oder bearbeiteten Informationsinhalt haben, sollten Logos hinzugefügt werden, die die Nutzung nicht beeinträchtigen. Dienste, die Funktionen bereitstellen, die Informationsinhalte generieren oder erheblich verändern, wie z. B. intelligente Dialoge, synthetische menschliche Stimmen, Gesichtsgenerierung, immersive simulierte Szenen usw., müssen deutlich gekennzeichnet sein, um Verwirrung oder Missverständnisse in der Öffentlichkeit zu vermeiden.

Anfang dieses Monats veröffentlichte eine kurze Videoplattform außerdem die „Plattformspezifikation und Brancheninitiative für durch künstliche Intelligenz generierte Inhalte“, die den Einsatz generativer künstlicher Intelligenztechnologie zur Erstellung und Veröffentlichung rechtsverletzender Inhalte eindeutig verbietet, einschließlich, aber nicht beschränkt auf Porträtrechte, geistige Eigentumsrechte usw. Sobald die Plattform entdeckt wird, wird sie strenge Strafen verhängen.

Wenn es sich um kommerzielle Aktivitäten wie das Live-Streaming von Waren handelt, kann die oben erwähnte Live-Übertragung, die das Gesicht verändert, eine Verletzung der Porträtrechte der betreffenden Prominenten und Künstler darstellen und die Situation wird ernster. Es ist zu beachten, dass selbst wenn Face-Swapping-Liveübertragungen nur der Unterhaltung dienen und nicht gewinnbringend sind, es dennoch einen Verstoß ohne Zustimmung des Bildrechteinhabers darstellt.

Wie sollten wir uns persönlich vor neuen Betrügereien wie „KI-Gesichtsveränderung“ in Acht nehmen?

Am 24. Mai gab die Internet Society of China eine Warnung heraus: „Angesichts neuer Betrügereien, die KI-Technologie nutzen, muss die breite Öffentlichkeit wachsamer sein und die Prävention verstärken!“ Insbesondere sollten wir die erste Person sein, die für die Sicherheit personenbezogener Daten verantwortlich ist! , und Wenn Sie Geld aus der Ferne überweisen, stellen Sie sicher, dass Sie mehrere Überprüfungen durchführen und Ihren „Geldbeutel“ unter Kontrolle halten.

Was die Branche angeht, ist Xiong Zhi, ein Sonderkommentator von The Paper, der Ansicht, dass so schnell wie möglich Vorschriften eingeführt werden müssen, um die rote Linie des Informationsschutzes zu klären und die Standardisierung und Anleitung des Verhaltens von technischen Dienstleistern zu stärken Gesichtsveränderung, KI-Lautmalerei usw. haben in jedem Link Beweise. Nur wenn wir uns auf strenge Autorisierungen verlassen, um Betrug zu erschweren, können wir die Informations- und Eigentumssicherheit aller besser schützen.

Wenn Sie schließlich das Gefühl haben, unter KI-Gesichtsveränderung, KI-Lautmalerei und anderen Betrügereien zu leiden oder gelitten zu haben, müssen Sie lernen, „Methode“ anzuwenden, um „KI-Magie“ zu besiegen. Der beste Weg, damit umzugehen, besteht natürlich darin, sich dafür zu entscheiden, es nicht zu glauben.

Das obige ist der detaillierte Inhalt vonKI-Betrug steht vor der Tür. Wie können wir ihn verhindern?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!