"AI face-changer" menipu berjuta-juta dalam sembilan saat? Bagaimana untuk menggunakan teknologi untuk menentang penyalahgunaan AI?

Dihasilkan oleh Sohu Technology

Pengarang｜Zheng Songyi

Editor｜Yang Jin

Baru-baru ini, penipuan menukar wajah AI telah kerap berlaku, dan pengesahan "ramalan Musk" datang lebih awal daripada jangkaan. Dua bulan lalu, Musk dan beribu-ribu yang lain menandatangani surat bersama yang menyeru penangguhan latihan sistem AI yang lebih berkuasa selama enam bulan. Sebabnya mereka bimbang bahawa sistem AI yang lebih berkuasa akan menimbulkan potensi risiko kepada masyarakat dan manusia tidak pernah membayangkan bahawa risiko telah menyerang kehidupan manusia.

Pada 22 Mei, topik "Penipuan AI sedang merebak di seluruh negara" melanda senarai carian hangat. Selepas pemilik syarikat teknologi di Fujian ditipu sebanyak 4.3 juta yuan dalam masa 10 minit oleh penipu yang berpura-pura menjadi rakan melalui teknologi AI yang mengubah wajah, seorang lagi lelaki Anhui telah ditipu daripada 1.32 juta yuan dalam masa 9 saat sahaja. seorang penipu menggunakan teknologi AI yang mengubah wajah , netizen menyebutnya "mustahil untuk berjaga-jaga."

Xia Bohan, seorang peguam di Beijing Huarang Law Firm, memberitahu Sohu Technology, “Tingkah laku ini merupakan jenayah penipuan, yang boleh dihukum sehingga penjara seumur hidup bergantung pada jumlah penipuan Bagi penyedia perkhidmatan sintesis mendalam kepada "Pengurusan Sintesis Dalam Perkhidmatan Maklumat Internet" "Peruntukan", peraturan pengurusan yang lengkap dan konvensyen platform harus dirumus dan didedahkan, tanggungjawab pengurusan harus dilaksanakan mengikut undang-undang, dan data input dan hasil sintesis pengguna perkhidmatan sintesis mendalam harus disemak melalui kaedah teknikal atau manual "

Dilaporkan bahawa sebagai tambahan kepada penipuan video tukar muka AI, beberapa sauh e-dagang menggunakan teknologi tukar muka AI untuk menyamar sebagai selebriti seperti "Jackie Chan" dan "Yang Mi" untuk menghantar barangan secara langsung, dengan itu menarik trafik dan menjimatkan kos siaran langsung. Kakitangan berkaitan platform Douyin memberitahu Sohu Technology, "Platform ini tidak membenarkan siaran langsung bertukar muka. Jika ditemui, siaran akan dihentikan terus dan mata kredit akan ditolak daripada pedagang yang melanggar. Akaun yang masih menukar wajah mereka untuk siaran langsung selepas dilupuskan akan dihadkan." Kebenaran siaran langsungnya"

Isu risiko yang disebabkan oleh teknologi akhirnya perlu diselesaikan dengan cara teknikal Mujurlah, kerana penukaran wajah AI semakin disalahgunakan, model baharu untuk mengenal pasti teknologi menukar wajah AI juga telah digunakan.

Bagaimanakah "penukaran wajah AI" dilaksanakan?

Niat asal penyelidikan dan pembangunan teknologi AI yang mengubah wajah adalah untuk digunakan dalam hiburan filem dan televisyen, pembangunan permainan dan bidang lain, bertujuan untuk memberikan pengguna pengalaman menonton yang lebih realistik.

Difahamkan bahawa prinsip pelaksanaan teknologi menukar wajah AI terutamanya termasuk pengesanan muka, penjajaran muka, pengekstrakan ciri, gabungan ciri dan pembinaan semula imej.

Antaranya, teknologi pengesanan muka digunakan untuk mengesan kedudukan muka dan ciri-ciri muka dalam imej input teknologi penjajaran muka menggunakan teknik seperti perubahan affine untuk menjadikan titik ciri muka yang berbeza menggunakan teknologi pengekstrakan ciri; Model pembelajaran, seperti rangkaian neural convolutional (CNN), mengekstrak bentuk muka, tekstur, warna dan ciri ciri gabungan teknologi menggunakan kaedah interpolasi linear atau interpolasi bukan linear untuk menggabungkan ciri muka dua muka yang berbeza untuk menghasilkan ciri muka baharu; ; Akhir sekali, teknologi imej yang dibina semula digunakan untuk memetakan kembali ciri muka baharu ke dalam ruang imej untuk menghasilkan imej baharu dengan kesan perubahan wajah.

Sohu Technology memilih aplikasi "Tencent Cloud AI Face Fusion" yang popular pada masa ini sebagai perisian ujian untuk melihat sejauh mana teknologi "AI face-changer" boleh capai dalam membentuk semula potret.

Sohu Technology secara rawak memilih gambar seorang lelaki sebagai templat, dan menggunakan gambar Daniel Wu sebagai pemilihan wajah Hasil ujian menunjukkan bahawa potret lelaki yang diproses AI itu menunjukkan ciri-ciri Daniel Wu di antara kening dan matanya, tetapi ciri-ciri lain. selain muka seperti gaya rambut Bahagian tidak berubah.

Menurut polis Baotou, pada 20 April, seorang rakan Encik Guo, wakil sah sebuah syarikat teknologi di Fuzhou, tiba-tiba menghubunginya melalui video WeChat Selepas mereka berdua berbual sebentar, rakan itu memberitahu Encik Guo bahawa miliknya kawan sedang membida di tempat lain , deposit sebanyak 4.3 juta yuan diperlukan, dan pemindahan akaun awam ke awam diperlukan, jadi saya ingin meminjam akaun syarikat Encik Guo untuk membuat pembayaran. Rakan itu meminta nombor kad bank En. Guo dan mendakwa bahawa wang itu telah dipindahkan ke akaun En. Guo. Dia juga menghantar tangkapan skrin resit pindahan bank kepada En. Guo melalui WeChat. Berdasarkan kepercayaan sembang video, Encik Guo tidak mengesahkan sama ada wang itu telah tiba, dan memindahkan 4.3 juta yuan kepada pihak lain dalam dua ansuran. Selepas wang itu dipindahkan, Encik Guo menghantar mesej kepada rakannya di WeChat mengatakan bahawa perkara itu telah diselesaikan. Namun apa yang tidak disangkanya ialah berita kawannya itu kembali menjadi tanda tanya.

Encik Guo menelefon rakannya dan pihak yang satu lagi berkata bahawa tidak ada perkara seperti itu, barulah dia menyedari bahawa dia telah menghadapi penipuan "bertaraf tinggi" menggunakan teknologi pengubah wajah AI pintar untuk berpura-pura untuk menjadi kawan dan menipunya.

Juruteknik IT menganalisis dari Sohu Technology bahawa terdapat penggodam yang pakar dalam membangunkan alat menukar wajah masa nyata AI, yang serupa dengan pengindahan masa nyata semasa yang ditanam dalam telefon bimbit. Penjenayah mungkin menggunakan kelemahan untuk mencuri akaun WeChat rakan mangsa, mendapatkan foto atau video rakan mangsa melalui platform sosial, merakam ciri wajah mereka sendiri dengan kamera, dan kemudian menggunakan alat menukar wajah AI masa nyata untuk menggabungkan rakan mangsa ' ciri-ciri muka mereka sendiri, berpura-pura menjadi rakan mangsa untuk berbual, untuk mencapai tujuan penipuan.

Apakah kemajuan teknologi untuk menentang penyalahgunaan AI?

Syaitan setinggi satu kaki dan Tao setinggi satu kaki. Pada tahun 2020, Microsoft Research Asia dan Universiti Peking bersama-sama menerbitkan makalah "Face X-ray for More General Face Forgery Detection", model baharu yang digunakan untuk mengenal pasti teknologi perubahan wajah AI, mempunyai dua atribut utama: ia boleh generalize Kepada algoritma pertukaran muka yang tidak diketahui, ia boleh memberikan sempadan pertukaran muka yang boleh dijelaskan.

Guo Baining, salah seorang pengarang utama kertas kerja dan naib presiden eksekutif Microsoft Research Asia, berkata, "Semasa proses pengumpulan imej, setiap imej mempunyai ciri uniknya sendiri, yang mungkin datang daripada perkakasan rakaman atau perisian pemprosesan. . Selagi Imej tidak dijana dalam satu bahagian, dan semuanya meninggalkan petunjuk semasa proses gabungan ini tidak dapat dilihat oleh mata manusia, tetapi boleh ditangkap melalui pembelajaran mendalam.”

Kertas tersebut menunjukkan analisis hingar imej dan teknologi analisis tahap ralat Ia dapat dilihat bahawa imej sebenar menunjukkan corak hingar yang konsisten, tetapi penggantian muka jelas akan berbeza (gambar kumpulan a ialah wajah sebenar, gambar kumpulan b adalah imej sintetik , lajur tengah ialah imej analisis hingar, dan lajur kanan ialah imej analisis tahap ralat).

Dapat dilihat bahawa pengenalan berkesan "AI face-changer" mempunyai asas teknikal dan bukan masalah yang tidak dapat diatasi. Syarikat teknologi domestik yang diwakili oleh Tencent Cloud menggunakan teknologi "Anti-Deepfake (ATDF)" untuk membangunkan aplikasi "penyaringan perubahan muka", bertujuan untuk menggunakan teknologi AI untuk mengatasi penyalahgunaan teknologi AI seperti menukar wajah.

Menurut laporan, Anti-Deepfake terbahagi kepada dua kategori: pengesanan pasif dan teknologi pengesanan pasif memfokuskan kepada pengumpulan bukti selepas peristiwa, iaitu, mengesan video yang telah dihasilkan dan disebarkan untuk menentukan sama ada ia adalah palsu. video muka; Satu lagi jenis teknologi pertahanan aktif memfokuskan pada pertahanan terdahulu, iaitu, menambah maklumat tersembunyi, seperti tera air, anti-bunyi, dsb., sebelum data muka dikeluarkan dan disebarkan, untuk mengesan sumber secara aktif atau mencegah pengguna berniat jahat daripada menggunakan video muka dengan bunyi yang ditambah untuk pemalsuan, dengan itu mencapai tujuan melindungi wajah manusia dan mencapai pertahanan aktif.

Perkara 6 "Peraturan Pentadbiran Mengenai Sintesis Dalam Perkhidmatan Maklumat Internet" yang dikeluarkan bersama oleh Pentadbiran Ruang Siber China, Kementerian Industri dan Teknologi Maklumat, dan Kementerian Keselamatan Awam dengan jelas menetapkan bahawa "Tiada organisasi atau individu boleh menggunakan perkhidmatan deep synthesis untuk menghasilkan, menyalin, menerbitkan atau menyebarkan undang-undang, pentadbiran Untuk maklumat yang dilarang oleh peraturan, perkhidmatan deep synthesis tidak boleh digunakan untuk terlibat dalam aktiviti yang dilarang oleh undang-undang dan peraturan pentadbiran seperti membahayakan keselamatan dan kepentingan negara, merosakkan negara. imej, melanggar kepentingan sosial dan awam, mengganggu ketenteraman ekonomi dan sosial, melanggar hak dan kepentingan orang lain yang sah "

Xia Bohan menekankan, “Selain penipuan video menukar wajah AI, banyak aplikasi telefon mudah alih pada masa ini memerlukan pengesahan meleret muka Penjenayah boleh menggunakan teknologi menukar wajah AI untuk menyamar sebagai pemegang hak sebenar melindunginya. Untuk mengelakkan kebocoran maklumat peribadi, ia juga disyorkan untuk menyediakan kaedah pengesahan lain, vendor perisian juga perlu mengembangkan teknologi untuk meningkatkan keselamatan dan menghalang penjenayah daripada mengambil kesempatan daripadanya

Atas ialah kandungan terperinci "AI face-changer" menipu berjuta-juta dalam sembilan saat? Bagaimana untuk menggunakan teknologi untuk menentang penyalahgunaan AI?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!