Bolehkah anda mengenali foto palsu yang dicipta oleh AI?

Era melihat ialah percaya telah berlalu, dan AI telah belajar untuk mencipta realiti.

Pada 21 Ogos, berlaku kebakaran gunung di Gunung Jinyun, Beibei, Chongqing kebakaran itu pernah merebak ke kampung dan pekan di kaki gunung. Jalan gunung itu curam dan berpasir, tetapi motosikalnya cukup lincah. Penunggang motosikal yang membawa bekalan mendaki gunung sedikit demi sedikit menjadi protagonis penyelamat kebakaran hutan ini, dan turut menjadi tumpuan orang ramai di media sosial.

Pada masa yang sama, netizen menyatakan di media sosial bahawa "8 daripada 10 gambar kebakaran hutan Chongqing telah dilukis oleh AI, tetapi komen di bawah sangat terharu sehingga mereka menangis."

Sebenarnya, mungkin tidak semudah itu untuk menilai sama ada gambar tersebut adalah asli atau palsu. Di bawah, anda boleh mencubanya. AI juga boleh melukis lebih banyak lagi. Bina kerusi yang diperbuat daripada alpukat, buka pasaran ke langit, letakkan kucing dalam adegan zaman pertengahan untuk mencari Wi-Fi... ini semua perkara kecil. Jason Allen, presiden sebuah syarikat permainan papan Amerika, menggunakan alat melukis AI Midjourney untuk menjana sekeping "Space Opera" yang diperhalusinya sendiri Ia juga memenangi hadiah pertama dalam pertandingan seni di Colorado State Adil. Media teknologi TechCrunch menilai "AI Painter" yang tidak ditapis sebagai "Deepfakes untuk semua (pemalsuan dalam yang sangat berkuasa)".

Apakah AI AI digunakan untuk menukar wajah?

Teknologi "palsu" AI yang lebih awal dikenali ialah teknologi palsu mendalam, biasanya dikenali sebagai AI menukar wajah. Pada tahun 2019, laporan menyatakan bahawa sudah terdapat puluhan ribu video yang dihasilkan menggunakan teknologi deepfake di Internet pada masa itu.

Laporan itu juga menulis bahawa 96% daripada video ini adalah video lucah, dan protagonis video lucah ini adalah semua wanita Yang paling popular ialah pelakon wanita Eropah dan Amerika serta idola wanita Korea dilihat berjuta-juta kali.

Henry Ajder, penyelidik yang terlibat dalam laporan itu, berkata bahawa pengguna forum deepfake meminta atau membincangkan video lucah pertukaran muka yang memaparkan wanita yang mereka kenali (seperti bekas teman wanita). Mereka mahu melihat mereka dimasukkan ke dalam klip lucah.

Lukisan AI bukan sekadar menukar wajah.

Membuka Kotak Pandora

Kami memasukkan 5 arahan gelap untuk melihat sama ada lukisan AI tidak terhad?

AI nampaknya mempunyai pemahaman yang terhad tentang keganasan. Tetapi tafsiran seks adalah tepat - dan ia juga berpendapat demikian.

Resapan Stabil, "Pelukis AI" sumber terbuka dan berkuasa ini telah menyediakan "Pemeriksa Keselamatan" untuk dirinya sendiri, yang bersamaan dengan audit automatik: setelah ia mengesan bahawa imej yang dijana disyaki melanggar peraturan , ia Jika dinyatakan dalam dasar kandungan bahawa "imej tidak selesa, lucah, penuh kebencian, ganas dan lain-lain" tidak boleh digunakan, mesin akan menyekat imej tersebut.

Menghantar "foto jahat" yang kami hasilkan untuk semakan, mesin itu hanya menilai enam gambar bogel Justin Bieber sebagai "pelanggaran". Walau bagaimanapun, kami juga berjaya menjana beberapa foto Trump mencium Churchill melalui masa dan ruang, dan foto itu dinilai sebagai "selamat" oleh moderator.

Jelas sekali, kerana kami berjaya menghasilkan foto bogel Justin Bieber di atas kehendaknya, semakan automatik Stable Diffusion boleh dimatikan. Dengan cara ini, ia tidak boleh menolak anda lagi.

Untuk menyekat AI dan pemikiran buruk yang cenderung dimiliki orang apabila berhadapan dengan Kotak Pandora, "pelukis AI" yang paling terkenal DALL·E 2 mempunyai penapisan yang lebih ketat.

Seorang netizen mengumpul semua arahan yang menyebabkan dia menerima amaran pelanggaran dasar kandungan, termasuk "Beruk British makan ikan dan kerepek", "Sotong memandu unicycle dan melarikan diri" dan "Foto Yesus yang menjalani ujian asid nukleik " . Sebarang perihalan yang mungkin melibatkan kebencian, keganasan, pornografi dan nama semua tokoh terkenal adalah antara perkataan yang dilarang dalam DALL·E 2. Jadi, anda tidak boleh memanipulasi DALL·E 2 untuk melukis gambar Trump dan Biden berciuman, tetapi Stable Diffusion boleh.

Foto palsu yang dihasilkan oleh AI mempunyai kelemahan

Namun, foto semasa yang dijana oleh AI tidak sempurna.

Zheng Shujing, seorang wartawan di Mingcha Studio, projek semakan fakta The Paper, berkata bahawa imej yang dijana AI akan mempunyai beberapa ciri, seperti gelembung, latar belakang yang nyata, saiz gigi watak, bentuk rambut yang tidak semulajadi, dll. Penukaran wajah AI awal terdedah kepada masalah apabila mempersembahkan corak yang berterusan dan berulang, selalunya dengan saiz yang tidak sekata. Pada masa kini, sesetengah syarikat telah bertambah baik dengan rangkaian permusuhan generatif yang dinaik taraf secara berterusan, dan masalah ini menjadi agak kurang kerap, tetapi kadangkala ia masih boleh dilihat dari butiran seperti ubah bentuk latar belakang dan asimetri badan.

Perincian adalah tempat AI sering gagal Sebagai contoh, helikopter dalam gambar di bawah tidak mempunyai ekor.

Selain itu, maklumat latar belakang juga membantu membezakan keaslian foto itu "Sebagai contoh, jika anda memberi saya gambar dan ia dikatakan dari kebakaran hutan Chongqing , jika anda menjumpai bahagian terakhir gambar, Jika tarikh pengubahsuaian adalah selepas kejadian, ia pasti gambar palsu Kami kadang-kadang juga menghubungi maklumat latar belakang, seperti menyemak model helikopter dalam gambar, dll. "

Tetapi kebanyakan alatan yang dia temui tidak. Ia akan memberitahu anda secara langsung sama ada foto itu benar atau palsu, dan ia perlu dinilai oleh orang berdasarkan situasi tertentu.

Apabila kemahiran melukis AI semakin mahir, ia akan menjadi semakin sukar untuk membezakan antara benar dan palsu. Kepastian realiti semakin longgar. Pada masa itu, orang mungkin sering mendengar suara seperti ini dalam fikiran mereka: "Foto ini kelihatan terlalu nyata, jadi ia terlalu palsu."

Atas ialah kandungan terperinci Bolehkah anda mengenali foto palsu yang dicipta oleh AI?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!