„KI-Gesichtsveränderung“ betrügt Millionen in neun Sekunden? Wie kann Technologie eingesetzt werden, um KI-Missbrauch zu bekämpfen?

Produziert von Sohu Technology

Autor｜Zheng Songyi

Herausgeber｜Yang Jin

In den letzten Tagen kam es häufig zu KI-Betrugsvorfällen, die das Gesicht veränderten, und die Bestätigung von „Musks Vorhersage“ erfolgte früher als erwartet. Vor zwei Monaten unterzeichneten Musk und Tausende andere einen gemeinsamen Brief, in dem sie eine sechsmonatige Aussetzung der Ausbildung leistungsstärkerer KI-Systeme forderten. Der Grund dafür war, dass sie befürchteten, dass leistungsstärkere KI-Systeme potenzielle Risiken für die Gesellschaft und die Menschen darstellen würden Ich hätte nie gedacht, dass Risiken in das menschliche Leben eingedrungen sind.

Am 22. Mai landete das Thema „KI-Betrug bricht im ganzen Land aus“ auf der heißen Suchliste. Nachdem der Eigentümer eines Technologieunternehmens in Fujian innerhalb von 10 Minuten von einem Betrüger um 4,3 Millionen Yuan betrogen wurde, der sich mithilfe von KI-Technologie zur Gesichtsveränderung als Freund ausgab, wurde ein anderer Mann aus Anhui in nur 9 Sekunden um 1,32 Millionen Yuan betrogen Ein Betrüger, der KI-Technologie zur Gesichtsveränderung einsetzt, nannten Internetnutzer „unmöglich, sich davor zu schützen“.

Xia Bohan, eine Anwältin bei der Anwaltskanzlei Beijing Huarang, sagte gegenüber Sohu Technology: „Dieses Verhalten stellt ein Betrugsverbrechen dar, das je nach Ausmaß des Betrugs mit einer lebenslangen Haftstrafe geahndet werden kann. Für Anbieter von Deep-Synthese-Diensten, so die „Verwaltungsvorschriften für den Internet-Informationsdienst Deep Synthesis“ sollten vollständige Verwaltungsregeln und Plattformkonventionen formulieren und offenlegen, Verwaltungsaufgaben in Übereinstimmung mit dem Gesetz wahrnehmen und technische oder manuelle Methoden anwenden, um die Eingabedaten und Syntheseergebnisse von Benutzern des Deep Synthesis-Dienstes zu überprüfen.

Es wird berichtet, dass einige E-Commerce-Moderatoren zusätzlich zum Betrug mit KI-Gesichtsveränderungsvideos KI-Technologie zur Gesichtsveränderung nutzen, um sich als Prominente wie „Jackie Chan“ und „Yang Mi“ zu verkleiden, um Waren live auszuliefern und so den Verkehr anzuziehen und spart Live-Übertragungskosten. Zuständiges Personal der Douyin-Plattform sagte gegenüber Sohu Technology: „Die Plattform erlaubt keine Live-Übertragungen mit Gesichtstausch. Wenn dies festgestellt wird, wird die Übertragung direkt gestoppt und den rechtsverletzenden Händlern werden Guthabenpunkte abgezogen. Konten, deren Gesichter immer noch geändert werden.“ Live-Übertragungen nach der Entsorgung werden eingeschränkt.“ Seine Live-Übertragungserlaubnis.“

Die durch die Technologie verursachten Risikoprobleme müssen letztendlich mit technischen Mitteln behoben werden, da KI-Gesichtsveränderungstechnologien zunehmend missbraucht werden und auch neue Modelle zur Identifizierung von KI-Gesichtsveränderungstechnologien angewendet werden.

Wie wird „KI-Gesichtsveränderung“ umgesetzt?

Die ursprüngliche Absicht der Forschung und Entwicklung der KI-Technologie zur Gesichtsveränderung besteht darin, sie in der Film- und Fernsehunterhaltung, der Spieleentwicklung und anderen Bereichen einzusetzen, um den Benutzern ein realistischeres Seherlebnis zu bieten.

Es versteht sich, dass die Implementierungsprinzipien der KI-Technologie zur Gesichtsveränderung hauptsächlich Gesichtserkennung, Gesichtsausrichtung, Merkmalsextraktion, Merkmalsfusion und Bildrekonstruktion umfassen.

Unter anderem wird die Gesichtserkennungstechnologie verwendet, um die Gesichtsposition und Gesichtsmerkmale im Eingabebild zu erkennen. Die Gesichtsausrichtungstechnologie verwendet Techniken wie affine Änderungen, um die Gesichtsmerkmalspunkte verschiedener Gesichter gleich zu machen Beispielsweise extrahiert das Faltungs-Neuronale Netzwerk (CNN) die Gesichtsform, Textur, Farbe und andere Merkmale. Die Technologie zur Merkmalsfusion verwendet eine lineare Interpolations- oder nichtlineare Interpolationstransformationsmethode, um die Gesichtsmerkmale zweier verschiedener Gesichter zu verschmelzen und schließlich neue Gesichtsmerkmale zu erzeugen Bildtechnologie werden neue Gesichtsmerkmale wieder in den Bildraum abgebildet, um ein neues Bild mit einem gesichtsverändernden Effekt zu erzeugen.

Sohu Technology hat eine derzeit beliebte „Tencent Cloud AI Face Fusion“-Anwendung als Testsoftware ausgewählt, um zu sehen, wie weit die „AI Face-Change“-Technologie bei der Umgestaltung von Porträts reichen kann.

Sohu Technology wählte zufällig das Bild eines Mannes als Vorlage aus und verwendete das Bild von Daniel Wu als ausgewähltes Gesichtsbild. Die Testergebnisse zeigten, dass das KI-verarbeitete Porträt eines Mannes die Merkmale von Daniel Wu zwischen den Augenbrauen und den Augen zeigte, aber auch in anderen Teilen Das Gesicht und die Frisur haben sich nicht verändert.

Nach Angaben der Polizei von Baotou kontaktierte ihn am 20. April plötzlich ein Freund von Herrn Guo, dem gesetzlichen Vertreter eines Technologieunternehmens in Fuzhou, über ein WeChat-Video. Nachdem die beiden sich kurz unterhalten hatten, erzählte der Freund Herrn Guo, dass sein Freund Ich habe an anderen Orten geboten und musste die Kaution in Höhe von 4,3 Millionen Yuan einzahlen. Sie muss von einem öffentlichen Konto auf ein öffentliches Konto überwiesen werden, daher möchte ich mir das Konto von Herrn Guos Firma ausleihen, um die Zahlung zu leisten. Der Freund fragte Herrn Guo nach seiner Bankkartennummer und behauptete, dass das Geld auf das Konto von Herrn Guo überwiesen worden sei. Außerdem schickte er über WeChat einen Screenshot der Banküberweisungsquittung an Herrn Guo. Basierend auf dem Vertrauen des Video-Chats überprüfte Herr Guo nicht, ob das Geld angekommen war, und überwies 4,3 Millionen Yuan in zwei Raten an die andere Partei. Nachdem das Geld überwiesen worden war, schickte Herr Guo seinem Freund auf WeChat eine Nachricht, dass die Angelegenheit geklärt sei. Was er jedoch nicht erwartet hatte, war, dass sich die Nachricht, dass sein Freund zurückgekommen war, als Fragezeichen herausstellte.

Herr Guo rief seinen Freund an und die andere Partei sagte, dass es so etwas nicht gebe. Erst dann wurde ihm klar, dass er auf eine „High-End“-Betrugsmasche gestoßen war einen Freund und betrog ihn.

IT-Techniker von Sohu Technology analysierten, dass es Hacker gibt, die sich auf die Entwicklung von KI-Tools zur Gesichtsveränderung in Echtzeit spezialisiert haben, die der aktuellen Echtzeit-Verschönerung in Mobiltelefonen ähneln. Kriminelle können Schlupflöcher nutzen, um die WeChat-Konten der Freunde des Opfers zu stehlen, Fotos oder Videos der Freunde des Opfers über soziale Plattformen zu erhalten, ihre eigenen Gesichtszüge mit Kameras zu erfassen und dann Echtzeit-KI-Tools zur Gesichtsveränderung zu verwenden, um die Freunde des Opfers zusammenzubringen ' Gesichtszüge mit ihren eigenen , Vorgeben, ein Freund des Opfers zu sein, um ein Gespräch zu führen, um den Zweck des Betrugs zu erreichen.

Was ist der technologische Fortschritt zur Bekämpfung von KI-Missbrauch?

Der Teufel ist einen Fuß hoch und das Tao ist einen Fuß hoch. Im Jahr 2020 veröffentlichten Microsoft Research Asia und die Peking-Universität gemeinsam den Artikel „Face X-ray for More General Face Forgery Detection“, ein neues Modell zur Identifizierung von KI-Technologie zur Gesichtsveränderung, das zwei Hauptattribute aufweist: Es kann Auf unbekannte Face-Swapping-Algorithmen verallgemeinern, kann es erklärbare Face-Swapping-Grenzen liefern.

Guo Baining, einer der Hauptautoren des Papiers und Executive Vice President von Microsoft Research Asia, sagte: „Beim Bilderfassungsprozess hat jedes Bild seine eigenen einzigartigen Eigenschaften. Sie können von der Aufnahmehardware oder der Verarbeitungssoftware stammen. Wie.“ Solange sie nicht integriert sind, hinterlassen die erzeugten Bilder während des Fusionsprozesses Hinweise. Diese Hinweise sind für das menschliche Auge unsichtbar, können aber durch tiefes Lernen erfasst werden.“

Der Artikel demonstriert die Technologie zur Bildrauschenanalyse und Fehlerpegelanalyse. Es ist ersichtlich, dass reale Bilder konsistente Rauschmuster aufweisen, während der Gesichtsaustausch offensichtlich anders sein wird (die Bilder in Gruppe a sind echte Gesichter, die Bilder in Gruppe b sind synthetische Bilder). und in der Mitte Die rechte Spalte ist das Rauschanalysebild und die rechte Spalte ist das Fehlerpegelanalysebild.

Es ist ersichtlich, dass die effektive Identifizierung von „KI-Gesichtsveränderungen“ eine technische Grundlage hat und kein unlösbares Problem darstellt. Von Tencent Cloud vertretene inländische Technologieunternehmen nutzen die „Anti-Deepfake (ATDF)“-Technologie, um „Gesichtsveränderungs-Screening“-Anwendungen zu entwickeln, mit dem Ziel, mithilfe von KI-Technologie dem Missbrauch von KI-Technologien wie Gesichtsveränderung entgegenzuwirken.

Berichten zufolge ist Anti-Deepfake in zwei Kategorien unterteilt: passive Erkennung und aktive Verteidigung. Die passive Erkennungstechnologie konzentriert sich auf die Sammlung von Beweismitteln nach dem Ereignis, d Videos; die andere quasi-aktive Verteidigungstechnologie konzentriert sich auf die präventive Verteidigung, das heißt das Hinzufügen versteckter Informationen wie Wasserzeichen, Anti-Lärm usw., bevor die Gesichtsdaten freigegeben und verbreitet werden, um die Quelle aktiv zu verfolgen oder zu verhindern böswillige Benutzer davon abhalten, Gesichtsvideos mit Rauschzusatz zu Fälschungszwecken zu verwenden und so den Zweck des Schutzes menschlicher Gesichter und einer aktiven Verteidigung zu erreichen.

Artikel 6 der „Verwaltungsvorschriften zur Tiefensynthese von Internet-Informationsdiensten“, die gemeinsam von der Cyberspace Administration of China, dem Ministerium für Industrie und Informationstechnologie und dem Ministerium für öffentliche Sicherheit herausgegeben wurden, legt eindeutig fest: „Keine Organisation oder Einzelperson darf Deep nutzen.“ Synthesedienste zum Erstellen, Kopieren, Veröffentlichen oder Verbreiten von Informationen, die durch Gesetze und Verwaltungsvorschriften verboten sind. Die von Deep Synthesis-Diensten bereitgestellten Informationen dürfen nicht für Aktivitäten verwendet werden, die durch Gesetze und Verwaltungsvorschriften verboten sind, wie etwa die Gefährdung der nationalen Sicherheit und Interessen oder die Schädigung des Images des Landes , Verletzung sozialer und öffentlicher Interessen, Störung der wirtschaftlichen und sozialen Ordnung, Verletzung der legitimen Rechte und Interessen anderer usw. "

Xia Bohan betonte: „Zusätzlich zum KI-Gesichtsveränderungsvideobetrug erfordern viele Mobiltelefonanwendungen derzeit eine Gesichtserkennungs-Authentifizierung, um sich als echte Rechteinhaber auszugeben.“ , um Lecks zu verhindern, und es wird empfohlen, andere Authentifizierungsmethoden einzurichten. Andererseits müssen Softwareanbieter auch die Technologie weiterentwickeln, um die Sicherheit zu verbessern und zu verhindern, dass Kriminelle die Situation ausnutzen

Das obige ist der detaillierte Inhalt von„KI-Gesichtsveränderung“ betrügt Millionen in neun Sekunden? Wie kann Technologie eingesetzt werden, um KI-Missbrauch zu bekämpfen?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!