Institut Teknologi Harbin dan Institut Teknologi Nanyang mencadangkan model "Pengesanan dan Penentududukan DeepFake Berbilang Modal" pertama di dunia: tidak memberi AIGC tempat untuk menyembunyikan kepalsuan

Disebabkan perkembangan pesat model generatif visual seperti Stable Diffusion, imej muka kesetiaan tinggi boleh dipalsukan secara automatik, mewujudkan masalah DeepFake yang semakin serius.

Dengan kemunculan model bahasa yang besar seperti ChatGPT, sejumlah besar artikel palsu juga boleh dijana dengan mudah dan menyebarkan maklumat palsu secara berniat jahat.

Untuk tujuan ini, satu siri model pengesanan mod tunggal telah direka bentuk untuk menangani pemalsuan teknologi AIGC di atas dalam modaliti imej dan teks. Walau bagaimanapun, kaedah ini tidak dapat mengatasi dengan baik gangguan berita palsu berbilang modal dalam senario pemalsuan baharu.

Khususnya, dalam gangguan media pelbagai modal, wajah tokoh penting dalam gambar pelbagai laporan berita (wajah Presiden Perancis dalam Rajah 1) diganti, dan teks Key frasa atau perkataan telah diusik (dalam Rajah 1, frasa positif "dialu-alukan" telah diusik dengan frasa negatif "terpaksa meletakkan jawatan").

Ini akan mengubah atau menutup identiti tokoh berita utama, serta mengubah suai atau mengelirukan maksud teks berita, mewujudkan berita palsu pelbagai mod yang disebarkan secara besar-besaran di Internet. ​

Rajah 1. Kertas kerja ini mencadangkan tugas untuk mengesan dan mengesan gangguan media berbilang modal (DGM⁴). Berbeza daripada tugas pengesanan DeepFake mod tunggal sedia ada, DGM⁴ bukan sahaja meramalkan klasifikasi benar dan salah bagi pasangan teks imej input, tetapi juga cuba untuk mengesan lebih banyak jenis gangguan halus dan mengesan kawasan dan teks imej yang diubah. perkataan yang mengganggu. Selain klasifikasi binari benar dan palsu, tugas ini memberikan penjelasan yang lebih komprehensif dan pemahaman yang lebih mendalam tentang pengesanan gangguan.

Jadual 1: Cadangan DGM ⁴ berbanding pengesanan pemalsuan imej dan teks sedia ada Perbandingan tugas berkaitan

Pengesanan dan penyetempatan tugas gangguan media pelbagai mod

Untuk memahami cabaran baharu ini, penyelidikan daripada Institut Teknologi Harbin (Shenzhen) dan Institut Nanyang Teknologi Para penyelidik mencadangkan tugas untuk mengesan dan mencari gangguan media berbilang modal (DGM⁴), membina dan sumber terbuka set data DGM⁴, dan juga mencadangkan hierarki pelbagai mod model inferens gangguan. Pada masa ini, kerja ini telah dimasukkan dalam CVPR 2023.

Dihidupkan Alamat artikel: https://arxiv.org/abs / 2304.02556​

GitHub: https://github.com/rshaojimmy/MultiModal-DeepFake

Laman utama projek: https://rshaojimmy.github.io/Projects/MultiModal-DeepFake

Seperti yang ditunjukkan dalam Rajah 1 dan Jadual 1, pengesanan Dan perbezaan antara Mengesan dan Membumikan Manipulasi Media Pelbagai Modal (DGM⁴)) dan pengesanan gangguan mod tunggal sedia ada ialah:

1) Tidak seperti pengesanan imej DeepFake sedia ada dan kaedah pengesanan teks palsu yang hanya boleh mengesan maklumat palsu mod tunggal, DGM4 ^{memerlukan pengesanan serentak berbilang mod dalam pasangan teks imej Penggangguran negeri; 2) Tidak seperti pengesanan DeepFake sedia ada yang memfokuskan pada klasifikasi binari, DGM} 4 selanjutnya mempertimbangkan untuk mencari kawasan imej yang diusik dan perkataan yang diusik teks. Ini memerlukan model pengesanan untuk melakukan penaakulan yang lebih komprehensif dan mendalam untuk mengusik antara modaliti teks imej.

Kesan dan cari set data gangguan media berbilang modUntuk menyokong penyelidikan tentang DGM

4

, seperti yang ditunjukkan dalam Rajah 2, ini sumbangan kerja Membangunkan set data pengesanan dan penyetempatan

pertama di dunia bagi gangguan media berbilang modal (DGM

4) ^.

Rajah 2. DGM⁴Dataset

DGM ⁴ Set data menyiasat 4 jenis gangguan, gangguan penggantian muka (FS), gangguan atribut muka (FA), pengubahan penggantian teks (TS) dan pengubahan atribut teks (TA).

Rajah 2 menunjukkan statistik keseluruhan DGM⁴, termasuk (a) taburan bilangan jenis gangguan (b) kawasan yang diusik kebanyakan imej bersaiz kecil, terutamanya untuk pengubahan atribut muka; (c) pengubahan atribut teks mempunyai lebih sedikit perkataan yang diganggu daripada pengubahan penggantian teks (d) pengedaran skor sentimen teks untuk setiap jenis pengubahan;

Data ini menjana sejumlah 230,000 sampel pasangan teks imej, termasuk 77,426 pasangan teks imej asal dan 152,574 pasangan sampel diubah. Pasangan sampel yang diusik termasuk 66722 pengubahsuaian penggantian muka, 56411 pengubahsuaian atribut muka, 43546 pengubahsuaian penggantian teks dan 18588 pengubahan atribut teks.

Model inferens gangguan hierarki berbilang modal

Artikel ini percaya bahawa pengubahan berbilang modal akan menyebabkan ketidakkonsistenan semantik yang halus antara modaliti. Oleh itu, mengesan ketidakkonsistenan semantik rentas mod bagi sampel yang diusik dengan menggabungkan dan membuat kesimpulan ciri semantik antara modaliti ialah idea utama artikel ini untuk menangani DGM⁴.

Rajah 3. Model inferens pengubahan hierarki pelbagai mod yang dicadangkan HierArchical Multi-modal Manipulation rReasoning tRansformer (HAMMER) .

Model ini dibina berdasarkan seni bina model gabungan semantik berbilang modal dan penaakulan berdasarkan struktur dwi-menara, dan pengesanan serta lokasi gangguan berbilang modal adalah halus. dan hierarki melalui Lapisan cetek dan penaakulan tamper mendalam dilaksanakan.

Secara khusus, seperti yang ditunjukkan dalam Rajah 3, model HAMMER mempunyai dua ciri berikut:

1) Dalam inferens gangguan cetek , melalui

Pembelajaran Kontrastif Sedar Manipulasi untuk menjajarkan ciri semantik mod tunggal imej dan teks yang diekstrak oleh pengekod imej dan pengekod teks. Pada masa yang sama, ciri tertanam modal tunggal menggunakan mekanisme perhatian silang untuk interaksi maklumat, dan Pengagregatan Perhatian Tampalan Setempat

direka untuk mencari kawasan gangguan imej; >

2) Dalam penaakulan gangguan yang mendalam, mekanisme perhatian silang yang sedar modaliti dalam agregator berbilang modal digunakan untuk menggabungkan lagi ciri semantik berbilang modal. Atas dasar ini, penandaan jujukan berbilang modal khas dan pengelasan berbilang label berbilang mod dilakukan untuk mencari perkataan yang diusik teks dan mengesan jenis pengubahan berbutir halus. Hasil eksperimen

Seperti yang ditunjukkan di bawah, keputusan eksperimen menunjukkan bahawa HAMMER yang dicadangkan oleh pasukan penyelidik boleh mengesan dengan lebih tepat berbanding dengan pengesanan multi-modal dan single-modal kaedah dan mengesan gangguan media multimodal.

Rajah 4. Visualisasi hasil pengesanan gangguan pelbagai mod dan penyetempatan

Rajah 5 . Visualisasi Perhatian Pengesanan Tamper Model pada Teks Diganggu

Rajah 4 memberikan beberapa hasil visualisasi pengesanan dan penyetempatan gangguan pelbagai mod, menggambarkan bahawa HAMMER boleh melakukan pengesanan dan penyetempatan dengan tepat secara serentak tugasan penyetempatan. Rajah 5 memberikan hasil visualisasi perhatian model pada perkataan yang diusik, seterusnya menunjukkan bahawa HAMMER melakukan pengesanan dan penyetempatan gangguan pelbagai mod dengan memfokuskan pada kawasan imej yang tidak konsisten secara semantik dengan teks yang diusik.

Ringkasan

1. Kerja ini mencadangkan topik penyelidikan baharu: tugas untuk mengesan dan mencari gangguan media berbilang modal untuk menangani berita palsu berbilang modal.
2. Kerja ini menyumbang set data berskala besar pertama untuk mengesan dan mengesan gangguan media berbilang modal, serta menyediakan anotasi terperinci dan kaya untuk pengesanan gangguan dan lokasi. Pasukan itu percaya ia boleh membantu penyelidikan masa depan tentang pengesanan berita palsu berbilang modal.
3. Kerja ini mencadangkan model inferens gangguan hierarki pelbagai mod yang berkuasa sebagai penyelesaian permulaan yang baik untuk topik baharu ini.

Pautan kod dan set data kerja ini telah dikongsi pada GitHub projek ini Semua orang dialu-alukan untuk Membintangi Repo GitHub ini dan menggunakan DGM⁴. set data dan TUKUL Mari kita kaji masalah DGM⁴. Bidang DeepFake bukan sahaja mengenai pengesanan satu-modaliti imej, tetapi juga masalah pengesanan gangguan pelbagai mod yang lebih luas yang perlu diselesaikan dengan segera!

Atas ialah kandungan terperinci Institut Teknologi Harbin dan Institut Teknologi Nanyang mencadangkan model "Pengesanan dan Penentududukan DeepFake Berbilang Modal" pertama di dunia: tidak memberi AIGC tempat untuk menyembunyikan kepalsuan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!