Ist KI-Betrug eine Erfolgsquote von 100 %? Du Xiaomans Anti-Deep-Fake-Modell „besiegt Magie mit Magie“

26.05.2023 10:22:19 Autor: Song Junyi

Vor ein paar Tagen war das Thema #AIFraud Success Rate is Close to 100%# ein Trend auf Weibo. Der gesetzliche Vertreter eines Technologieunternehmens in Fujian wurde durch ein gesichtsveränderndes KI-Video um 4,3 Millionen Yuan betrogen. Der Vorfall dauerte nur 10 Minuten.

Ein KI-bezogener Betrug kam auch im Ausland vor. Eine E-Mail mit einem angehängten Video des Google-CEOs veranlasste viele YouTube-Blogger, Dateien herunterzuladen, die gefährliche Viren enthielten.

Bei beiden Betrugsvorfällen ging es um Deepfake-Technologie. Dies ist eine gesichtsverändernde Methode, die es seit sechs Jahren gibt. Heutzutage ist es durch die Explosion der AIGC-Technologie immer einfacher geworden, schwer zu identifizierende Deepfake-Videos zu erstellen. Für die Finanzbranche, in der Gesichtserkennung weit verbreitet ist, ist auch die Verhinderung von Deep-Fake-Angriffen besonders wichtig.

In der Finanzbranche handelt es sich bei dem durch Deepfake verursachten Betrug hauptsächlich um Identitätsbetrug, d . Derzeit verfügt die Finanzbranche über relativ ausgereifte technische Methoden und Lösungen für den Umgang mit Deepfake, und Du Xiaoman verfügt über umfangreiche Erfahrungen im Umgang mit Deepfake.

Du Xiaoman stellte fest, dass in den letzten Jahren der Trend zur Verwendung von Deep-Fake-Technologie zur Umgehung des Gesichtserkennungsprozesses zugenommen hat, was eine gewisse Bedrohung für das Echtnamen-Authentifizierungssystem von Finanzinstituten darstellt. Der beste Weg, um zu erkennen und zu bestätigen, ob Inhalte gefälscht sind, ist die Entwicklung von KI-„Anti-Deepfake“-Erkennungsalgorithmen. Ausgehend von drei Dimensionen knackte Du Xiaomans Anti-Fälschungs-Tieferkennungsmodellalgorithmusstrategie erfolgreich das gefälschte Video.

Die erste besteht darin, Fehler zu erzeugen. Insbesondere aufgrund des Fehlens relevanter Trainingsdaten ist das Deepfake-Modell möglicherweise nicht in der Lage, einige menschliche Gesichtsmerkmale korrekt wiederzugeben, die von abnormaler Blinzelfrequenz bis hin zu Inkonsistenzen zwischen Mundform und Stimme usw. reichen. Durch die Entwicklung spezifischer Analysealgorithmen kann das Erkennungsmodell diese „grundsätzlich sichtbaren“ Merkmale zur weiteren Analyse und Beurteilung extrahieren.

Das zweite sind die inhärenten Eigenschaften. Da verschiedene Kameras unterschiedliche Gerätefingerabdrücke haben, hinterlassen Modelle wie GAN bei der Generierung von Gesichtern auch eindeutige Fingerabdrücke zur Identifizierung des Generators, sodass durch Vergleich Hinweise gefunden werden können.

Das dritte Detail ist die Semantik auf hoher Ebene. Es bezieht sich auf Probleme wie die Erkennung der Koordination von Gesichtsaktionseinheiten (Muskelgruppen), die Orientierungskonsistenz verschiedener Gesichtsregionen und die mikroskopische Kontinuität von Videos. Da diese Details schwer zu modellieren und zu kopieren sind, kann man sie leicht erwischen.

Da es natürlich schwierig ist, ein einzelnes Feature an komplexe Deepfake-Inhalte anzupassen, übernimmt das Gesamtgerüst des Erkennungsmodells die Fusion mehrerer Features, um die Robustheit der Entscheidungsfindung sicherzustellen.

Zusätzlich zu den Vorteilen von Datenproben hat Du Xiaoman auch seine eigene Originalität integriert, darunter Such- und Optimierungsalgorithmen für neuronale Netze, Mikroexpressionsanalyse und Graph Convolution (GCN)-Technologie sowie rekonstruktionsbasierte, selbstüberwachte Vortrainingsmethoden Damit das Modell die Transformation von „Fälschung“ zu „Authentizität“ erreichen kann.

Aus diesem Grund hat Xiaomans Anti-Deep-Fake-Erkennungsmodell im September letzten Jahres die spezielle Gesichtserkennungs-Sicherheitsbewertung der Akademie für Informations- und Kommunikationstechnologie erfolgreich bestanden und die hervorragende Zertifizierung für Live-Erkennungssicherheitsschutzfunktionen erhalten. In Bezug auf spezifische Effekte kann es verschiedene Formen von Deep Fakes abdecken, einschließlich der Aktivierung statischer Porträtbilder, der Änderung von KI-Gesichtern, der Synthese falscher Gesichter usw., wodurch eine Erinnerung von mehr als 90 % bei einer Fehlalarmrate von einem Tausendstel erreicht wird ist eine Genauigkeitsrate von über 99 %.

Da weiterhin neue Deepfake-Tools auftauchen, muss sich die Finanzbranche immer mehr Deepfake-Angriffen stellen. Du Xiaoman ist der Ansicht, dass sich in Zukunft weitere Technologien zur Erkennung von Fälschungen auf das Mining semantischer Merkmale, modalübergreifender Merkmale usw. konzentrieren sollten, damit das Modell Semantik auf hoher Ebene mit starker Interpretierbarkeit zur Erkennung von Fälschungen verwenden kann. Als innovatives Finanztechnologieunternehmen wird Du Xiaoman auch die stetige Entwicklung der Finanzbranche technologisch stärker unterstützen.

Das obige ist der detaillierte Inhalt vonIst KI-Betrug eine Erfolgsquote von 100 %? Du Xiaomans Anti-Deep-Fake-Modell „besiegt Magie mit Magie“. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!