Dengan liputan penuh nilai dan perlindungan privasi, Pentadbiran Ruang Siber China merancang untuk 'mewujudkan peraturan' untuk AI generatif

Pada 11 April, Pentadbiran Ruang Siber China (selepas ini dirujuk sebagai Pentadbiran Ruang Siber China) merangka dan mengeluarkan "Langkah-langkah Pengurusan Perkhidmatan Kepintaran Buatan Generatif (Draf untuk Komen)" dan melancarkan permintaan selama sebulan. pendapat daripada orang ramai.

Kaedah pengurusan ini (draf untuk ulasan) mempunyai sejumlah 21 artikel Daripada skop aplikasi, ia termasuk kedua-dua entiti yang menyediakan perkhidmatan kecerdasan buatan generatif dan pengguna organisasi dan individu ini; langkah pengurusan meliputi orientasi nilai kandungan output kecerdasan buatan generatif, prinsip latihan untuk penyedia perkhidmatan, perlindungan hak privasi/harta intelek dan hak lain, dsb.

Kemunculan model dan produk besar bahasa semula jadi generatif jenis GPT bukan sahaja membenarkan orang ramai mengalami lonjakan kecerdasan buatan, tetapi juga risiko keselamatan yang terdedah, termasuk penjanaan kandungan berat sebelah dan diskriminasi, kebocoran data, Isu seperti pencerobohan privasi dan penipuan AI. Di peringkat global, peraturan kecerdasan buatan di pelbagai negara secara beransur-ansur menjadi trend.

Di China, sebaik sahaja "Langkah Pengurusan Perkhidmatan Kecerdasan Buatan Generatif" diisytiharkan, model besar AI generatif domestik dan pembekal produk tidak lagi boleh "digulung" dalam kekacauan, dan pengguna juga akan menghadapi masalah apabila menggunakan generatif AI.

1. Sediakan "kawasan larangan" untuk kandungan yang dijana

"Mereka yang membangunkan dan menggunakan produk kecerdasan buatan generatif untuk menyediakan perkhidmatan kepada orang ramai di dalam wilayah Republik Rakyat China hendaklah memohon .

Kecerdasan buatan generatif seperti yang dirujuk dalam Langkah ini merujuk kepada teknologi yang menghasilkan teks, gambar, bunyi, video, kod dan kandungan lain berdasarkan algoritma, model dan peraturan ”

Hidup 11 April, Pentadbiran Ruang Siber China mengumumkan "Langkah-langkah Pentadbiran Perkhidmatan Kepintaran Buatan Generatif (Draf untuk Komen)" (selepas ini dirujuk sebagai "Langkah-langkah") menjelaskan subjek "Langkah-langkah" yang berkenaan dan takrifan. "kepintaran buatan generatif" dalam Perkara 2.

Berdasarkan kandungan artikel ini, syarikat seperti Baidu, Alibaba, Tencent, Huawei, dll. yang secara terbuka menyatakan bahawa mereka mempunyai model dan produk besar generatif, jika mereka menyediakan perkhidmatan kepada pengguna di China, mereka akan berada di bawah pengurusan "Langkah-langkah" Dalam skop, pengguna juga perlu mematuhi peruntukan Langkah apabila menggunakan produk dan perkhidmatan yang berkaitan.

"Langkah-langkah" juga menekankan bahawa negara menyokong inovasi bebas, promosi dan aplikasi, dan kerjasama antarabangsa teknologi asas seperti algoritma dan rangka kerja kecerdasan buatan, dan menggalakkan penggunaan keutamaan perisian, alatan, pengkomputeran dan sumber data.

Di bawah premis ini, "Langkah-langkah" menggambarkan "kawasan larangan" untuk penyedia produk atau perkhidmatan kecerdasan buatan generatif, termasuk kandungan terjana dan prinsip asas penyelidikan dan pembangunan.

Dari segi kandungan, "Langkah-langkah" memerlukan: Kandungan yang dijana menggunakan kecerdasan buatan generatif harus mencerminkan nilai teras sosialis, dan tidak boleh mengandungi kandungan yang menumbangkan kuasa negara, menggulingkan sistem sosialis, menghasut untuk memecahbelahkan negara , menjejaskan perpaduan negara, atau menggalakkan Keganasan, ekstremisme, menggalakkan kebencian etnik, diskriminasi etnik, keganasan, maklumat lucah dan lucah, maklumat palsu dan kandungan yang boleh mengganggu ketenteraman ekonomi dan sosial yang dijana menggunakan kecerdasan buatan generatif hendaklah benar dan tepat; , dan langkah perlu diambil untuk mencegah penjanaan maklumat maklumat palsu.

Dari segi penyelidikan dan pembangunan, "Langkah-langkah" memerlukan penyedia mengambil langkah untuk mencegah kemunculan kaum, etnik, kepercayaan, kewarganegaraan, wilayah, dll. dalam proses reka bentuk algoritma, pemilihan data latihan, penjanaan model dan pengoptimuman, dan penyediaan perkhidmatan Diskriminasi berdasarkan jantina, umur, pekerjaan, dsb.

Berdasarkan keperluan ini, "Langkah-langkah" pada asasnya meliputi isu keselamatan dan etika yang didedahkan oleh pengguna produk model bahasa semula jadi berskala besar di pasaran, termasuk penjanaan berat sebelah diskriminasi, maklumat palsu, dsb.

Kandungan bermasalah yang dihasilkan oleh manusia melalui AI generatif telah muncul tanpa henti di Internet.

Sebagai contoh, ChatGPT pernah menyediakan langkah-langkah untuk pengguna bertanya tentang "cara mengutip kedai", walaupun ia termasuk "petua tentang mencuri kedai secara haram"; fungsi "bermain peranan"nya pernah didorong oleh pengguna untuk DAN (Do Anyting Now) menjawab soalan dengan identiti "Lakukan Apa-apa Sekarang", dan jawapan yang diberikan termasuk "kata-kata kasar" sesetengah orang juga menggunakan ChatGPT untuk menguji berita palsu yang tersebar di negara ini dan menjadi kandungan "khabar angin menafikan".

Bot sembang Microsoft yang disepadukan ke dalam enjin carian Bing telah didedahkan oleh media luar negara sebagai "mendera pengguna"; aplikasi penjanaan foto AI Midjourney malah digunakan untuk mencipta "The Pope memakai jaket bawah Balenciaga" dan "Kuda Sesetengah orang menggunakannya untuk mencipta pelbagai sejarah gempa bumi yang tidak wujud, bencana ribut suria, dll.

Gambar palsu Pope (kiri) dan Musk

Dari segi maklumat palsu dan mengenal pasti kandungan yang dijana AI, "Langkah-langkah" memerlukan penyedia untuk bermula daripada sumber "Dapat memastikan keaslian, ketepatan, objektiviti dan kepelbagaian data"; sedang dibangunkan Apabila anotasi manual digunakan, pembekal hendaklah merumuskan peraturan anotasi yang jelas, khusus dan boleh dikendalikan yang mematuhi keperluan Langkah-langkah ini, menjalankan latihan yang diperlukan untuk anotor, dan mengesahkan ketepatan kandungan beranotasi berdasarkan sampel.

Peraturan China telah menetapkan kawasan larangan untuk kandungan kecerdasan buatan generatif, pada tahap tertentu, mereka juga memerlukan syarikat yang menyediakan model dan produk besar untuk mengawal pra-latihan dan data.

2. Penekanan pada sumber data dan perlindungan maklumat peribadi

Selain menekankan orientasi nilai, etika sosial, pematuhan undang-undang dan anti-diskriminasi terhadap kandungan yang dihasilkan, "Langkah-langkah" juga menekankan pada Keperluan berkaitan kecerdasan buatan generatif untuk pra-latihan dan sumber data, perlindungan maklumat peribadi dan hak dan kepentingan lain.

Sebagai contoh, "Langkah-langkah" memerlukan penyedia harus bertanggungjawab terhadap kesahihan sumber data pralatihan dan data latihan pengoptimuman untuk produk kecerdasan buatan generatif, dan tidak mengandungi kandungan yang melanggar harta intelek hak; jika data mengandungi maklumat peribadi, Persetujuan subjek maklumat peribadi mesti diperolehi syarikat hendaklah bertanggungjawab untuk melindungi maklumat input pengguna dan rekod penggunaan, tidak akan menyimpan maklumat input secara haram yang boleh menentukan identiti pengguna, tidak akan membuat profil; pengguna berdasarkan maklumat input pengguna dan penggunaan, dan tidak akan memberikan maklumat input pengguna kepada orang lain.

Masalah pelanggaran data yang disebabkan oleh AI generatif memang wujud Contohnya, apabila pengguna menggunakan robot perbualan untuk memenuhi beberapa keperluan kerja, mereka pasti akan memuat naik maklumat syarikat Jika mereka tidak berhati-hati, ia berkemungkinan menyebabkan kebocoran rahsia perniagaan. Sebelum ini, gergasi elektronik Korea Selatan Samsung menyatakan bahawa data dalaman telah bocor kerana interaksi pekerja dengan aplikasi itu selepas ia memfailkan "perintah sekatan" pada ChatGPT.

"Langkah-langkah" bukan sahaja menunjuk kepada penyedia produk dan perkhidmatan kecerdasan buatan generatif, tetapi juga menetapkan prinsip untuk pengguna produk dan perkhidmatan.

Sebagai contoh, jangan gunakan kandungan yang dijana untuk merosakkan imej, reputasi dan hak dan kepentingan sah lain orang lain, dan jangan terlibat dalam gembar-gembur komersial atau pemasaran yang tidak adil.

Memandangkan "Langkah-langkah" digubal mengikut undang-undang peringkat lebih tinggi "Undang-undang Keselamatan Siber Republik Rakyat China", "Undang-undang Keselamatan Data Republik Rakyat China", "Undang-undang Perlindungan Maklumat Peribadi bagi Republik Rakyat China" dan undang-undang dan peraturan pentadbiran lain, undang-undang dan peraturan ini akan Digunakan untuk pelanggaran Langkah-langkah, termasuk pelanggaran hak harta intelek, pelanggaran maklumat peribadi dan aktiviti haram yang lain.

"Langkah-langkah" mempunyai sejumlah 21 artikel, 13 daripadanya secara eksplisit menyasarkan "penyedia", iaitu, organisasi dan individu yang menggunakan produk kecerdasan buatan generatif untuk menyediakan perkhidmatan seperti sembang dan teks, imej dan penjanaan bunyi.

Orang ramai boleh memberi maklum balas melalui tiga saluran

Dapat dilihat apabila "Langkah-langkah" diisytiharkan secara rasmi, syarikat domestik yang membuat model generatif besar dan produk dan Pihak yang menerima pakai akan dikehendaki bertindak mengikut peraturan. Menurut laman web rasmi Pentadbiran Ruang Siber China, orang ramai boleh menghantar maklum balas melalui tiga saluran, dan tarikh akhir untuk maklum balas ialah 10 Mei 2023.

Atas ialah kandungan terperinci Dengan liputan penuh nilai dan perlindungan privasi, Pentadbiran Ruang Siber China merancang untuk 'mewujudkan peraturan' untuk AI generatif. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!