Perisian menukar wajah AI dijual secara terbuka dalam talian, di manakah sempadan undang-undang?

Baru-baru ini, kes penipuan yang disebabkan oleh teknologi AI yang mengubah wajah telah menarik perhatian orang ramai. Dengan pembangunan model AI yang besar, skop aplikasi teknologi "mengubah wajah" semakin luas dan lebih luas Penerobosan teknologi juga telah menjadikan ekspresi wajah dan perincian aksi watak-watak selepas menukar wajah lebih realistik , ia boleh menyebabkan kemudaratan yang serius. Siasatan wartawan mendapati bahawa sangat mudah untuk mendapatkan perisian pengubah wajah AI di Internet Di manakah sempadan undang-undang menggunakan perisian pengubah wajah AI? Bagaimana untuk melakukan kerja yang baik dalam penyeliaan awal?

01

Perisian menukar wajah AI berbayar muncul di Internet

Harga pakej antara 499 yuan hingga 2888 yuan

Pada masa ini, bergantung pada penemuan dalam model dan algoritma yang besar, penukaran wajah AI sedang digunakan dalam julat aplikasi yang lebih luas, menyebabkan lebih banyak kebimbangan. Tutorial yang menunjukkan penggunaan dan kesan perisian mengubah wajah banyak terdapat di Internet. Berbeza daripada sejumlah besar perisian percuma untuk orang biasa "mencuba", wartawan mendapati bahawa terdapat banyak perisian pengubah wajah AI berbayar yang tinggi di Internet Apakah perbezaan antara perisian berbayar ini dan perisian percuma?

Selepas mencari "perisian menukar wajah AI", wartawan menghubungi pembangun, yang memberikan wartawan video demonstrasi menggunakan perisiannya untuk melaksanakan penukaran muka - sebelah kiri halaman dwi-tetingkap adalah yang asal video sebelum menukar muka, dan sebelah kanan adalah Di sebelah adalah video selepas penggantian muka Pada mata kasar, bentuk mulut, ekspresi dan pergerakan kecil "manusia digital" selepas penggantian muka adalah. hampir sempurna.

△Kesan menukar wajah amatur ditunjukkan oleh penjual (S ialah video asal, D adalah selepas penggantian)

Di laman web jualannya, pembangun perisian itu juga menunjukkan cara menyatukan mata dan mulut dua pelakon terkenal untuk menghasilkan video "manusia digital" baharu.

△ Penggantian separa ciri muka ditunjukkan oleh penjual

Perisian berbayar ini menawarkan versi berbeza daripada pemula (LV1) kepada lanjutan (LV4) kepada set penuh (LV5). Untuk pakej peringkat permulaan, 499 yuan menyediakan antara muka perisian, panduan video, model tukar muka, dll. Jika anda membelanjakan 2888 yuan, anda boleh mendapatkan set lengkap model tukar muka video peringkat (LV5).

△Pelbagai produk perisian mengubah wajah dari tahap yang berbeza tersedia di Internet

02

“Anda boleh menukar wajah anda kepada apa sahaja wajah yang anda mahukan”

Model besar AI boleh mengintegrasikan pelbagai fungsi untuk mencipta "manusia digital"

Buka laman web, Tiada teks di bahagian bawah menunjukkan bahawa ia telah didaftarkan. Penjual juga sangat berhati-hati dan hanya berkomunikasi melalui teks sepanjang proses. Beliau berkata, berbanding pakej junior (LV1) kepada super (LV4), versi penuh (LV5) mempunyai lebih banyak lelaran dan keupayaan yang lebih kukuh Ia juga boleh difahami bahawa kesan perubahan wajah adalah lebih realistik. bukan sahaja boleh mencapai video Tukar muka juga menyokong penukaran wajah secara langsung.

Wartawan itu bertanya lagi, adakah wajah boleh diubah mengikut keperluan sendiri? Pembangun perisian berkata: "Anda boleh menukar apa sahaja wajah yang anda mahu dan menggunakan bahan untuk latihan."

△Tangkapan skrin pembangun perisian berbual dengan wartawan

Seorang juruteknik yang terlibat dalam pembangunan AI berkata, Ini bermakna mungkin terdapat lebih banyak risiko yang sukar dikawal. “Teknologi pengubah wajah AI yang serupa dengan deepfake adalah sumber terbuka Baru-baru ini, model AI besar telah menjadi popular, dan algoritmanya telah dikemas kini boleh menyepadukan gambar Vincent, teks Vincent, audio Vincent, dan wajah-. menukar , menggabungkan fungsi sedemikian, boleh mencipta 'manusia digital' atau 'manusia AI' yang benar-benar baharu, dan kos serta kesukaran penyeliaan akan menjadi beberapa urutan magnitud yang lebih tinggi "

△Maklum balas pengguna dipaparkan oleh penjual

03

Pakar: Sistem penyeliaan pelabelan yang berkesan

Dapat menjelaskan terlebih dahulu sempadan kabur yang disebabkan oleh AI berubah wajah

Zhao Zhanhan, seorang peguam di Beijing Jiawei Law Firm dan pakar undang-undang IT, berkata dari perspektif pasca serangan, undang-undang jenayah mempunyai peruntukan mengenai jenayah penipuan dengan jelas menyatakan bahawa rakyat menikmati hak kepada potret, nama, reputasi, dsb. dan hak sivil lain yang sepadan. Dalam erti kata lain, jika terdapat kes menggunakan imej orang lain untuk penipuan, penjenayah boleh dihalang secara sah dan diberi sanksi selepas itu. Namun, dengan perkembangan pesat teknologi kecerdasan buatan, kita juga harus meneroka cara untuk mencapai pencegahan yang berkesan terlebih dahulu.

Sebagai contoh, "Peraturan Pengurusan Sintesis Dalam Perkhidmatan Maklumat Internet" menghendaki jika perkhidmatan sintesis mendalam boleh menyebabkan kekeliruan atau salah faham awam, penyedia perkhidmatan sintesis mendalam hendaklah meletakkan kandungan maklumat yang dijana atau diedit pada kedudukan yang munasabah , Kawasan ditanda dengan jelas.

"Langkah-langkah untuk Pengurusan Perkhidmatan Kepintaran Buatan Generatif (Draf untuk Komen)" memerlukan sebelum menggunakan produk kecerdasan buatan generatif untuk menyediakan perkhidmatan kepada orang ramai, penilaian keselamatan harus dilaporkan kepada keselamatan siber dan pemformatan negara. jabatan mengikut peraturan yang berkaitan; Kepentingan sah orang lain mesti dihormati;

Pan Helin, pengarah bersama Pusat Penyelidikan Ekonomi Digital dan Inovasi Kewangan Zhejiang University International Business School, percaya bahawa mulai sekarang, jika keperluan pelabelan dapat dilaksanakan dengan berkesan dan sistem kawal selia yang berkesan dapat dibentuk , ia boleh dicapai pada tahap yang besar untuk menjelaskan sempadan kabur yang dibawa oleh perubahan wajah AI terlebih dahulu.

Pan Helin: Sistem penyeliaan pengenalan semasa untuk menukar wajah AI belum lagi dibentuk Kandungan tidak berlabel mesti dikenal pasti melalui cara teknikal, dan individu atau individu yang tidak dilabelkan dikenal pasti Organisasi unit mesti mempunyai langkah, standard dan sistem hukuman yang khusus.

Zhao Zhan percaya bahawa dalam jangka masa panjang, langkah penyeliaan dan hukuman perlu terus "diulang" dengan pembangunan teknologi untuk membentuk pelan tadbir urus tiga dimensi dan berkesan.

Sumber: Akaun rasmi WeChat Voice of China

Dicetak semula daripada: People’s Daily Client

Atas ialah kandungan terperinci Perisian menukar wajah AI dijual secara terbuka dalam talian, di manakah sempadan undang-undang?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!