Insiden penyalahgunaan teknologi kecerdasan buatan generatif kerap berlaku 360 AI mengiringi perkembangan era pintar.

Baru-baru ini, dengan perkembangan pesat teknologi kecerdasan buatan generatif, kes haram menggunakan teknologi berkaitan untuk melakukan penipuan dan fitnah semakin kerap, menarik perhatian meluas daripada masyarakat. Pada 22 Mei, satu kes penipuan telekomunikasi menggunakan AI yang dikeluarkan oleh polis Baotou menjadi topik hangat Penipu itu menggunakan teknologi AI mengubah wajah untuk menyamar, dan mangsa telah ditipu sebanyak 4.3 juta yuan dalam masa 10 minit. Sebagai syarikat keselamatan digital terkemuka di dunia, 360 (601360.SH, selepas ini dirujuk sebagai "360") bertanggungjawab membina Otak Keselamatan - platform inovasi terbuka kecerdasan buatan generasi baharu yang dimulakan oleh Kementerian Sains dan Teknologi bergantung pada keupayaan keselamatan digital peringkat kebangsaan untuk memecahkan Keselamatan kecerdasan buatan adalah isu yang sukar pada masa ini.

Kemunculan insiden penyalahgunaan teknologi kecerdasan buatan generatif adalah disebabkan oleh perkembangan pesat sintesis mendalam dan pembelajaran mesin. Penipu boleh menggunakan teknologi ini untuk melatih AI yang boleh mensimulasikan bahasa dan ekspresi manusia, dan mencipta "manusia digital" selepas menghadapi. -berubah. "Bentuk mulut, ekspresi, dan pergerakan kecil hampir sempurna. "Penukaran bunyi" menggunakan model algoritma untuk menjana bunyi yang serupa daripada sampel pertuturan sedia ada. Ketua Pegawai Eksekutif OpenAI Sam Altman telah menyatakan kebimbangan bahawa model besar boleh digunakan untuk maklumat salah berskala besar dan bahawa manusia sedang dikawal.

Pada 24 Mei, Persatuan Internet China mengeluarkan dokumen yang menyatakan bahawa dalam menghadapi penipuan baharu menggunakan teknologi AI, orang ramai perlu lebih berwaspada dan memperkukuh pencegahan. Seawal Julai 2017, Majlis Negeri mengeluarkan "Pelan Pembangunan Kecerdasan Buatan Generasi Baharu", yang mencadangkan ideologi panduan, matlamat strategik, tugas utama dan langkah perlindungan untuk pembangunan generasi baharu kecerdasan buatan negara saya pada tahun 2030, yang khususnya menyebut bahawa "menjelang 2025 Wujudkan sistem perundangan, pengawalseliaan, etika dan dasar kecerdasan buatan secara awal untuk membentuk penilaian keselamatan dan keupayaan kawalan kecerdasan buatan."

Sebagai syarikat keselamatan digital terkemuka dunia, 360 telah terlibat secara mendalam dalam bidang keselamatan kecerdasan buatan selama bertahun-tahun, melibatkan keselamatan rangka kerja, keselamatan model, keselamatan AI generatif, dsb. Setakat ini, 360 telah menemui lebih daripada 200 kelemahan dalam rangka kerja pembelajaran mesin arus perdana dan rantaian bekalan seperti Tensorflow, Caffe dan Pytorch Antaranya, 98 kerentanan telah diserahkan kepada Google Tensorflow, termasuk 24 kerentanan yang berisiko tinggi dan serius di seluruh dunia Menduduki tempat pertama, menjejaskan lebih daripada 4 bilion peranti terminal, dan telah dipilih ke dalam "Kes Aplikasi Tipikal Perusahaan Kepintaran Buatan" oleh Pentadbiran Ruang Siber China.

Pada 2019, "360 Security Brain" telah dipilih sebagai "Platform Inovasi Terbuka Kecerdasan Buatan Generasi Baharu Kebangsaan" Kementerian Sains dan Teknologi, berusaha untuk mempromosikan pembinaan ekosistem keselamatan kecerdasan buatan China. Pada masa ini, teknologi model besar yang diwakili oleh GPT sedang melanda dunia 360 telah mendapati bahawa model besar mempunyai kedua-dua risiko keselamatan yang dihadapi oleh model AI tradisional dan risiko keselamatan baharu yang unik untuk model besar, seperti kecurian model dan risiko suntikan segera. Untuk memastikan keselamatan model berskala besar di seluruh dunia, 360 Innovation melancarkan sistem penilaian risiko keselamatan model berskala besar pertama di dunia "AISE".

Beijing akan mengadakan persidangan aplikasi model besar "360 Intelligent Brain" pada 13 Jun 2023. Pada masa itu, lebih banyak penyelidikan atau penyelesaian produk yang berkaitan dengan keselamatan kecerdasan buatan akan dikeluarkan untuk meletakkan asas keselamatan untuk pembangunan kecerdasan buatan yang sihat.

Penafian: Artikel ini adalah untuk rujukan sahaja dan tidak mengandungi nasihat pelaburan.

Pengiklanan

Atas ialah kandungan terperinci Insiden penyalahgunaan teknologi kecerdasan buatan generatif kerap berlaku 360 AI mengiringi perkembangan era pintar.. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!