Senarai berwibawa |. NetEase Yidun telah dipilih sebagai kes cemerlang teknologi AI generatif dan aplikasi oleh Akademi Teknologi Maklumat dan Komunikasi China

Kami akan terus menjalankan kerja penyelidikan, berdasarkan teknologi kecerdasan buatan generatif, meneroka secara mendalam aplikasi dan status pembangunan industrinya, meringkaskan dan mempromosikan hasil yang cemerlang, dan menggalakkan pembangunan industri yang berkualiti tinggi. Pada Februari 2023, Akademi Teknologi Maklumat dan Komunikasi China (selepas ini dirujuk sebagai "CAICT") bergantung pada Kumpulan Kerja AI Generatif Jawatankuasa Promosi Kejuruteraan AI Makmal Utama Kecerdasan Buatan dan Penilaian Aplikasi Kementerian Industri dan Teknologi Maklumat untuk melancarkan Kumpulan Kerja Generatif AI secara rasmi untuk kes aplikasi dan teknologi AI. Pada petang 31 Mei, di Sub-Forum Aplikasi Teknologi Model Besar Forum Kecerdasan Buatan Umum Hangzhou, pusingan pertama keputusan pemilihan untuk kes cemerlang teknologi AI generatif dan aplikasi telah dikeluarkan secara rasminya, anak syarikat NetEase Intelligence Enterprise , telah berjaya dipilih sebagai kes cemerlang dan memenangi China Credit The Tongyuan Academy mengeluarkan sijil.

1. Kawalan risiko kandungan kekal sebagai keutamaan untuk keselamatan Internet

Dalam beberapa tahun kebelakangan ini, dengan perkembangan pesat Internet, data rangkaian telah berkembang dengan pesat. Kandungan dalam pelbagai bentuk, seperti teks, imej, suara dan video, telah menjadi bahagian penting dalam kehidupan dan pekerjaan harian orang ramai. Kepelbagaian bentuk kandungan dan ambang yang lebih rendah untuk penciptaan kandungan telah membawa kemudahan dan kecekapan yang besar kepada kehidupan kita Walau bagaimanapun, isu kawalan risiko kandungan yang disebabkan oleh ini telah menjadi semakin menonjol keselamatan kandungan digital telah menjadi keutamaan untuk keselamatan Internet.

2. Kawalan risiko kandungan tradisional menghadapi cabaran baharu

Pengurusan dan kawalan risiko kandungan digital mempunyai ciri-ciri skop dan jenis yang luas, butiran halus, konfrontasi yang kerap dan keperluan dan piawaian yang pelbagai. Pada masa lalu, kawalan risiko kandungan digital biasanya menggunakan pendekatan "pemprosesan + penyesuaian + persepsi" untuk pengenalan dan perlindungan.

· Post-position merujuk kepada penyelesaian yang disasarkan selepas jenis atau data yang berbahaya muncul Ketepatan masa selalunya selepas kedudukan, dan tiada keupayaan yang jelas untuk melihat dan mencegah risiko terlebih dahulu.

· Penyesuaian merujuk kepada pelbagai jenis dan skop maklumat yang berbahaya Disebabkan kekurangan keupayaan universal yang boleh dipercayai, latihan penyesuaian model berterusan diperlukan untuk jenis berbahaya yang berbeza, dan setiap penyesuaian memerlukan membina keupayaan bidang profesional dari awal, iaitu. memakan masa dan kos yang tinggi.

· Persepsi bermaksud bahawa pengenalpastian maklumat berbahaya sering disasarkan, hanya menyasarkan jenis sasaran yang berbahaya tanpa menggunakan maklumat kandungan adegan dengan baik, iaitu, kawalan risiko kandungan pada masa lalu adalah berdasarkan pengenalan peringkat persepsi daripada penaakulan peringkat kognitif.

·Pada masa yang sama, selalunya terdapat banyak perbezaan subjektif, sempadan dan terperinci dalam takrifan jenis berbahaya Kerap menyesuaikan model berdasarkan pelbagai penggantian standard tidak boleh benar-benar mencapai perlindungan yang berbeza, berhierarki dan tepat.

Oleh itu, cara melihat dan mencegah kemungkinan risiko keselamatan lebih awal, cara membina keupayaan perlindungan keselamatan dengan cepat untuk jenis bahaya yang muncul, cara menyepadukan maklumat adegan secara komprehensif untuk penaakulan kognitif yang mendalam, dan cara membezakan dan menghierarki perlindungan yang tepat mempunyai menjadi Cabaran dan kesukaran penting dalam keselamatan kandungan digital.

3. AIGC membawa idea baharu kepada kawalan risiko kandungan

Pembangunan semasa AIGC memungkinkan untuk menyediakan keupayaan kawalan risiko kandungan digital yang lebih universal, bahagian hadapan dan tindak balas pantas. AIGC menyuntik "pengetahuan dunia" untuk mempunyai keupayaan am yang lebih luas, keupayaan kreatif, persepsi data dan keupayaan gabungan pengetahuan. Khususnya:

· Berdasarkan keupayaan amnya dan keupayaan keselamatan domain tersuai selanjutnya, kitaran masa dan kos kawalan risiko kandungan akan dikurangkan dengan banyak

· Berdasarkan keupayaan kreatifnya, kawalan risiko kandungan akan mengesan dan menghalang risiko yang tidak diketahui terlebih dahulu, mengubah "kedudukan selepas" kepada "pra-kedudukan", mengurangkan bahaya tersembunyi jenis berbahaya

· Berdasarkan keupayaan suntikan dan gabungan maklumat yang kaya, ia menggunakan sepenuhnya dan menyepadukan maklumat komprehensif selain daripada jenis berbahaya seperti senario, latar belakang dan pengetahuan, yang akan meningkatkan pemahaman senario dan keupayaan pemindahan pengetahuan kawalan risiko kandungan , dan menjalankan logik kognitif yang lebih mendalam dan pencegahan dan kawalan yang menyeluruh;

· Berdasarkan paradigma pembelajaran konteks yang pantas dan proses penaakulan pemikiran, kawalan risiko kandungan akan lebih mudah menyesuaikan diri dengan piawaian yang berbeza tanpa mengemas kini model, dan menyediakan pencegahan dan kawalan tepat yang berbeza, berhierarki dan berhierarki.

4. NetEase Yidun: Teknologi AI Generatif memperkasakan kawalan risiko kandungan

Berdasarkan idea-idea di atas, NetEase Yidun menggunakan teknologi AI generatif untuk membangunkan pencegahan dan kawalan konfrontasi generasi berasaskan AIGC, pengenalan maklumat berbahaya sampel kecil, pengenalpastian adaptif yang terperinci, penaakulan logik maklumat yang komprehensif dan penyelesaian lain, dibina dengan penyelesaian terkuat. lembing Perisai terkuat. Butirannya adalah seperti berikut:

(1) Jana pelan pencegahan dan kawalan konfrontasi berdasarkan AIGC

Untuk merealisasikan persepsi awal dan pencegahan risiko keselamatan, berdasarkan keupayaan kreatif AIGC, NetEase Yidun membangunkan penyelesaian pencegahan dan kawalan konfrontasi yang dijana berdasarkan AIGC, menambah baik "penemuan + penggunaan dan kawalan" asal kepada "penemuan + generasi + penempatan dan kawalan". Penyelesaian ini akan menghasilkan jenis dan sampel berbahaya yang tidak boleh dilindungi oleh model semasa atau mempunyai kesan pengenalan yang lemah Berdasarkan jenis risiko keselamatan arus perdana, ia akan terus mensimulasikan trend perubahan risiko keselamatan melalui kaedah AIGC untuk mencapai kesedaran awal tentang keselamatan. risiko. Kaedah penempatan dan kawalan selanjutnya termasuk menggabungkan sampel yang dijana AIGC untuk latihan bersama model pencegahan dan kawalan berulang, membina perpustakaan musuh yang dijana AIGC untuk pencegahan dan kawalan titik tetap, dsb.

(2) AIGC sampel kecil skim pengenalan maklumat berbahaya

Untuk mencapai pembinaan keupayaan kawalan risiko digital yang cekap dan pantas serta membangunkan lagi keupayaan bidang profesional berdasarkan keupayaan am AIGC, kami telah membangunkan sampel kecil penyelesaian pengenalan maklumat berbahaya berdasarkan AIGC. Tingkatkan pelan asal untuk membina "keupayaan am + keupayaan domain" dari awal ke dalam langkah membina "keupayaan universal AIGC + pampasan keupayaan umum + keupayaan domain". Melalui reka bentuk modul pampasan keupayaan am sampel kecil, jurang dalam penerapan kebolehan umum AIGC dalam senario profesional dirapatkan dengan kos sebilangan kecil sampel, dan dikaitkan secara langsung dengan modul pembinaan keupayaan domain. Menggunakan kaedah "AIGC universal capabilities + universal capability compensation" adalah lebih pantas, lebih cekap dan lebih murah daripada membina keupayaan universal dari awal.

(3) Skim pengecaman adaptif berbutir halus AIGC

Untuk mencapai pencegahan dan kawalan yang berbeza, berhierarki dan tepat, berdasarkan paradigma pembelajaran konteks segera AIGC dan keupayaan penaakulan pemikiran, kami membangunkan penyelesaian pengenalan adaptif berbutir halus berasaskan AIGC dan menggunakan idea gesaan AIGC belajar kepada penyelesaian pemahaman kandungan berbahaya Dalam skema, dan dengan meneroka penjajaran gesaan berbilang modal dan input inferens dengan piawaian yang berbeza, piawaian yang berbeza dipetakan melalui gesaan dan input inferens yang berbeza. Sebagai contoh, pada masa lalu, sukar untuk membongkar genre seksi dengan cara yang lebih halus, atau kos merungkainya sangat tinggi Kini ia boleh dipecahkan kepada kategori yang lebih halus, seperti keseksian adegan pantai dan keseksian adegan kelab malam, dengan itu memperhalusi standard genre Untuk senario dan sampel, ia boleh menyesuaikan diri dengan subjektiviti yang berbeza dan piawaian sempadan yang berbeza, dan mencapai pencegahan dan kawalan yang lebih halus dan berhierarki.

(4) penyelesaian penaakulan logik maklumat komprehensif AIGC

Untuk mencapai penaakulan logik kognitif dan pencegahan serta kawalan yang komprehensif, berdasarkan suntikan maklumat dan keupayaan gabungan dan penaakulan logik AIGC, kami telah membangunkan penyelesaian penaakulan logik maklumat yang komprehensif berdasarkan AIGC. Tingkatkan pengecaman persepsi asal yang hanya menyasarkan maklumat berbahaya, supaya ia boleh menyepadukan semua maklumat termasuk maklumat berbahaya untuk penaakulan kognitif. Model bahasa visual AIGC digunakan untuk mendapatkan maklumat komprehensif kecuali maklumat berbahaya dan digunakan untuk penaakulan menyeluruh. Penyelesaian asal berdasarkan "pengekstrakan maklumat berbahaya berdasarkan keupayaan domain + pembuatan keputusan" ditambah baik kepada penyelesaian berdasarkan "pengekstrakan maklumat berbahaya berdasarkan keupayaan domain + pengekstrakan pengetahuan am berdasarkan AIGC + gabungan maklumat dan keputusan logik yang komprehensif- membuat berdasarkan model bahasa visual".

5. Generatif AI membawa manfaat yang ketara kepada kawalan risiko kandungan

Dalam senario kawalan risiko kandungan digital, NetEase Yidun membangunkan dan menyepadukan keupayaan AI generatif untuk mencapai pembinaan keupayaan keselamatan domain yang cekap dan pantas, persepsi awal dan pencegahan risiko keselamatan, penaakulan kognitif dan pencegahan dan kawalan komprehensif, serta pembezaan dan penggredan yang tepat Pencegahan dan kawalan. Pelancaran penyelesaian yang berkaitan telah membantu Yidun menggabungkan sepenuhnya keupayaan AIGC daripada tiga tahap keupayaan, data dan maklumat, dan mencapai kesan, kos, ketepatan masa, kepelbagaian dan kebolehsuaian dalam senario kawalan risiko kandungan digital yang sebenarnya digunakan oleh pelanggan , keuntungan yang ketara dalam kestabilan dan aspek lain.

Atas ialah kandungan terperinci Senarai berwibawa |. NetEase Yidun telah dipilih sebagai kes cemerlang teknologi AI generatif dan aplikasi oleh Akademi Teknologi Maklumat dan Komunikasi China. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!