Perisian "mengubah wajah AI" dijual secara terbuka dalam talian, antara beberapa ratus hingga seribu yuan! Di manakah sempadan undang-undang?

Artikel ini diterbitkan semula daripada [Berita CCTV];

Baru-baru ini, kes penipuan yang disebabkan oleh "penukaran wajah AI" telah menarik perhatian. Dengan pembangunan model AI yang besar, skop aplikasi "teknologi pertukaran muka" semakin luas dan lebih luas penemuan teknologi juga telah menjadikan ekspresi wajah dan perincian aksi watak-watak selepas bertukar-tukar muka Setelah digunakan oleh penjenayah. ia boleh menyebabkan kemudaratan yang serius.

Selepas siasatan, wartawan dari stesen utama mendapati sangat mudah untuk mendapatkan perisian "AI face-changer" dalam talian. Di manakah sempadan undang-undang untuk mengeksploitasi perisian sedemikian? Bagaimana untuk melakukan kerja yang baik dalam penyeliaan awal?

“AI face-changer” muncul dalam talianBerbayarperisian

Harga pakej antara 499 yuan hingga 2888 yuan

Di Internet, terdapat banyak tutorial yang menunjukkan penggunaan dan kesan perisian menukar wajah Banyak perisian "mengubah wajah AI" ini memerlukan pembayaran berharga tinggi.

Pemberita menghubungi pembangun berdasarkan hasil carian dan dia memberikan kepada wartawan video tunjuk cara menggunakan perisiannya untuk melaksanakan pertukaran muka - sebelah kiri halaman dwi-tetingkap ialah video asal sebelum menukar muka dan sebelah kanan adalah selepas bertukar muka Pada mata kasar, bentuk mulut, ekspresi dan pergerakan kecil "manusia digital" selepas penggantian muka hampir sempurna.

Di laman web jualannya, pembangun perisian itu turut menunjukkan cara "menyatukan" mata dan mulut dua pelakon terkenal untuk menghasilkan video "manusia digital" baharu.

Perisian berbayar ini menyediakan versi yang berbeza, daripada LV1 (junior) kepada LV4 (super), kepada LV5 (fungsi penuh). Untuk pakej peringkat permulaan, 499 yuan menyediakan antara muka perisian, panduan video, model tukar muka, dll. Jika anda membelanjakan 2,888 yuan, anda boleh mendapatkan set lengkap model tukar muka video (LV5).

“Anda boleh menukar mana-mana wajah yang anda mahukan”

Model AI yang besar boleh mengintegrasikan pelbagai fungsi untuk mencipta "manusia digital " Wartawan mendapati tiada teks di bahagian bawah tapak web yang menunjukkan bahawa ia telah didaftarkan . Penjual juga sangat berhati-hati dan hanya berkomunikasi melalui teks sepanjang proses. Beliau berkata, berbanding pakej junior (LV1) kepada super (LV4), versi penuh (LV5) mempunyai lebih banyak lelaran dan keupayaan yang lebih kukuh Ia juga boleh difahami bahawa kesan perubahan wajah adalah lebih realistik. ia bukan sahaja boleh mencapai perubahan wajah video, Ia juga menyokong perubahan wajah secara langsung.

Apabila wartawan itu bertanya lagi sama ada dia boleh menukar wajahnya mengikut keperluannya sendiri, pembangun perisian itu berkata: "Anda boleh menggunakan bahan dan melatih apa sahaja wajah yang anda mahu ubah."

Menurut juruteknik yang terlibat dalam pembangunan kecerdasan buatan, ini bermakna mungkin terdapat lebih banyak risiko yang sukar untuk dikendalikan. "Mengintegrasikan gambar Vincent, teks Vincent, audio Vincent, video Vincent dan perubahan wajah. Apabila fungsi ini digabungkan, 'manusia digital' atau 'manusia AI' yang benar-benar baharu boleh dicipta. Kos dan kesukaran penyeliaan adalah beberapa kali ganda lebih tinggi." Susunan magnitud."

Pakar: Sistem penyeliaan pelabelan yang berkesan

Dapat menjelaskan sempadan kabur yang ditimbulkan oleh "penukaran wajah AI" terlebih dahulu‍

Zhao Zhanhan, seorang peguam di Beijing Jiawei Law Firm dan pakar undang-undang IT, berkata dari perspektif mogok selepas serangan, terdapat peruntukan mengenai jenayah penipuan dalam undang-undang jenayah dengan jelas menyatakan bahawa warganegara; menikmati hak yang sepadan seperti hak potret, hak nama, dan hak reputasi. Dengan kata lain, jika terdapat kes menggunakan imej orang lain untuk melakukan penipuan, penjenayah akan dikenakan sekatan dan sekatan undang-undang. Walau bagaimanapun, dengan perkembangan pesat teknologi kecerdasan buatan, kita juga harus meneroka cara untuk mencapai pencegahan yang berkesan terlebih dahulu.

Sebagai contoh, "Peraturan mengenai Pengurusan Sintesis Dalam Perkhidmatan Maklumat Internet" menghendaki bahawa jika perkhidmatan sintesis mendalam boleh menyebabkan kekeliruan atau salah faham awam, penyedia perkhidmatan sintesis mendalam hendaklah memaparkan maklumat penting di lokasi dan kawasan yang munasabah kandungan maklumat yang dihasilkan atau diedit.

"Langkah-langkah Pengurusan Perkhidmatan Kepintaran Buatan Generatif (Draf untuk Komen)" menghendaki sebelum menggunakan produk kecerdasan buatan generatif untuk menyediakan perkhidmatan kepada orang ramai, penilaian keselamatan mesti dilaporkan kepada jabatan ruang siber negara mengikut peraturan yang berkaitan peraturan; kepentingan sah orang lain mesti dihormati;

Pan Helin, pengarah bersama Pusat Penyelidikan Ekonomi Digital dan Inovasi Kewangan Zhejiang University International Business School, percaya bahawa buat masa ini, jika keperluan untuk pelabelan dapat dilaksanakan dengan berkesan dan sistem kawal selia yang berkesan dapat dibentuk, penjelasan boleh diperjelaskan terlebih dahulu hingga ke tahap yang besar.

Pan Helin: Sistem penyeliaan pelabelan semasa untuk "mengubah wajah AI" belum lagi dibentuk Kandungan tidak berlabel mesti dikenal pasti melalui cara teknikal dan penalti khusus mesti dikenakan ke atas individu atau organisasi yang tidak melabel. piawaian dan sistem.

Zhao Zhanzhan, seorang peguam di Beijing Jiawei Law Firm dan pakar undang-undang IT, percaya bahawa Dalam jangka panjang, langkah penyeliaan dan hukuman perlu terus "diulang" dengan pembangunan teknologi untuk membentuk tiga dimensi dan rancangan tadbir urus yang berkesan.

Atas ialah kandungan terperinci Perisian "mengubah wajah AI" dijual secara terbuka dalam talian, antara beberapa ratus hingga seribu yuan! Di manakah sempadan undang-undang?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!