Adakah penipuan AI adalah kadar kejayaan 100%? Model palsu anti-deep Du Xiaoman "mengalahkan sihir dengan sihir"

2023-05-26 10:22:19 Penulis: Song Junyi

Beberapa hari lalu, topik #AIfraudsuccessratenear100%# telah menjadi sohor kini di Weibo. Wakil sah sebuah syarikat teknologi di Fujian telah ditipu sebanyak 4.3 juta yuan oleh video AI yang mengubah wajah Insiden itu mengambil masa hanya 10 minit.

Penipuan berkaitan AI juga berlaku di luar negara. E-mel dengan video CEO Google dilampirkan menyebabkan ramai penulis blog YouTube memuat turun fail yang mengandungi virus berbahaya.

Kedua-dua insiden penipuan ini melibatkan teknologi deepfake. Ini adalah kaedah mengubah wajah yang telah wujud selama 6 tahun Pada masa kini, ledakan teknologi AIGC telah memudahkan dan memudahkan untuk mencipta video palsu yang sukar dikenal pasti. Bagi industri kewangan di mana pengecaman muka digunakan secara meluas, mencegah serangan palsu mendalam juga amat penting.

Dalam industri kewangan, penipuan yang disebabkan oleh deepfake adalah terutamanya penipuan identiti, iaitu, menggunakan imej dan video palsu mendalam untuk menyamar sebagai identiti orang lain, menipu sistem pengesahan identiti dalam proses kredit kewangan, dan kemudian melakukan penipuan dan pendaftaran berniat jahat. Pada masa ini, industri kewangan mempunyai kaedah dan penyelesaian teknikal yang agak matang untuk menangani deepfake, dan Du Xiaoman telah mengumpul pengalaman yang kaya dalam menangani deepfake.

Du Xiaoman memperkenalkan bahawa dalam beberapa tahun kebelakangan ini, trend penggunaan teknologi palsu mendalam untuk memintas proses pengecaman muka telah meningkat, menimbulkan ancaman tertentu kepada sistem pengesahan nama sebenar institusi kewangan. Cara terbaik untuk mengenal pasti dan mengesahkan sama ada kandungan itu palsu adalah dengan membangunkan algoritma pengesanan "anti-deepfake" AI. Bermula dari tiga dimensi, strategi algoritma model pengesanan mendalam anti-pemalsuan Du Xiaoman berjaya memecahkan video palsu itu.

Pertama ialah menjana kecacatan. Khususnya, disebabkan kekurangan data latihan yang berkaitan, model deepfake mungkin tidak dapat memaparkan beberapa ciri wajah manusia dengan betul, daripada kekerapan berkelip tidak normal kepada ketidakkonsistenan antara bentuk mulut dan suara, dsb. Dengan mereka bentuk algoritma analisis khusus, model pengesanan boleh mengekstrak ciri "pada asasnya kelihatan" ini untuk analisis dan pertimbangan selanjutnya.

Yang kedua ialah sifat yang wujud. Memandangkan kamera yang berbeza mempunyai cap jari peranti yang berbeza, model seperti GAN juga akan meninggalkan cap jari yang unik untuk mengenal pasti penjana semasa menjana muka, jadi petunjuk boleh didapati melalui perbandingan.

Perincian ketiga ialah semantik peringkat tinggi. Ia merujuk kepada masalah seperti mengesan koordinasi unit tindakan muka (kumpulan otot), konsistensi orientasi pelbagai kawasan muka, dan kesinambungan mikroskopik video Oleh kerana butiran ini sukar untuk dimodelkan dan disalin, ia mudah ditangkap.

Sudah tentu, memandangkan satu ciri sukar untuk disesuaikan dengan kandungan deepfake yang kompleks, rangka kerja keseluruhan model pengesanan menggunakan gabungan pelbagai ciri untuk memastikan keteguhan dalam membuat keputusan.

Selain kelebihan sampel data, Du Xiaoman juga telah menggabungkan keasliannya sendiri, termasuk algoritma carian dan pengoptimuman rangkaian saraf, analisis ekspresi mikro dan teknologi lilitan graf (GCN), dan kaedah pra-latihan diselia sendiri berasaskan pada pembinaan semula, membolehkan Model merealisasikan transformasi daripada "pemalsuan" kepada "keaslian".

Atas sebab ini, pada September tahun lepas, model pengesanan palsu anti-deep Xiaoman berjaya melepasi penilaian keselamatan pengecaman muka khas Akademi Teknologi Maklumat dan Komunikasi, dan memperoleh pensijilan cemerlang untuk keupayaan perlindungan keselamatan pengesanan langsung. Dari segi kesan khusus, ia boleh merangkumi pelbagai bentuk palsu dalam, termasuk pengaktifan gambar potret statik, penukaran wajah AI, sintesis muka palsu, dsb., mencapai panggilan semula lebih daripada 90% dengan kadar penggera palsu sebanyak seperseribu, yang ialah 99%+ ketepatan.

Memandangkan alat deepfake baharu terus muncul, industri kewangan perlu menghadapi lebih banyak serangan deepfake. Du Xiaoman percaya bahawa lebih banyak teknologi pengesanan pemalsuan pada masa hadapan harus menumpukan pada ciri semantik perlombongan, ciri rentas modal, dsb., supaya model boleh menggunakan semantik peringkat tinggi dengan kebolehtafsiran yang kukuh untuk mengesan pemalsuan. Sebagai sebuah syarikat teknologi kewangan yang inovatif, Du Xiaoman juga akan menyediakan lebih banyak sokongan teknologi untuk pembangunan industri kewangan yang stabil.

Atas ialah kandungan terperinci Adakah penipuan AI adalah kadar kejayaan 100%? Model palsu anti-deep Du Xiaoman "mengalahkan sihir dengan sihir". Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!