Cabaran dunia baharu AI: Apa yang berlaku kepada keselamatan dan privasi?

Perkembangan pesat AI generatif telah mencipta cabaran yang belum pernah berlaku sebelum ini dalam privasi dan keselamatan, mencetuskan panggilan mendesak untuk campur tangan kawal selia.

Minggu lepas, saya berpeluang membincangkan kesan berkaitan keselamatan AI dengan beberapa ahli Kongres dan kakitangan mereka di Washington, D.C.

AI generatif hari ini mengingatkan saya tentang internet pada akhir 80-an, dengan penyelidikan asas, potensi terpendam dan kegunaan akademik, tetapi ia belum lagi sedia untuk orang ramai. Kali ini, cita-cita vendor yang tidak terhalang, didorong oleh modal teroka liga kecil dan diilhamkan oleh ruang gema Twitter, sedang pesat memajukan "dunia baharu yang berani" AI.

Model asas "awam" adalah cacat dan tidak sesuai untuk penggunaan privasi pengguna dan komersial, jika ada, kebocoran seperti seni bina keselamatan adalah penting kerana permukaan serangan dan vektor ancaman masih difahami. Bagi pagar ilusi, semakin kurang dikatakan lebih baik.

Jadi bagaimana kita boleh sampai ke sini? Apa yang berlaku kepada keselamatan dan privasi?

Model asas "kompromi"

Mod "Buka" kadangkala mempunyai had. Vendor yang berbeza mengiklankan tahap keterbukaan mereka melalui pemberat mod terbuka, akses kepada dokumentasi atau ujian. Namun, tiada vendor utama menyediakan apa-apa yang hampir dengan set data latihan atau maklumat manifes atau keturunannya untuk dapat meniru dan menghasilkan semula model mereka.

Jika anda ingin menggunakan satu atau lebih model untuk melatih set data, maka anda sebagai pengguna atau organisasi tidak mempunyai sebarang keupayaan untuk mengesahkan atau mengesahkan tahap pencemaran data, sama ada berkenaan dengan harta intelek, hak cipta, dsb., atau sebagai kandungan haram.

Yang penting, tanpa manifes set data latihan, tiada cara untuk mengesahkan atau mengesahkan kandungan berniat jahat yang tidak wujud. Pelakon berniat jahat, termasuk pelakon tajaan kerajaan, menanam kandungan Trojan pada rangkaian yang, jika ditelan semasa latihan model, mengakibatkan kesan sampingan yang tidak dapat diramalkan dan berpotensi berniat jahat semasa inferens.

Ingat, sebaik sahaja model dikompromi, tidak ada cara untuk membuatnya lupa, satu-satunya pilihan ialah memusnahkannya.

Isu keselamatan "meresap"

Model AI Generatif ialah honeypot paling selamat kerana "semua" data diserap ke dalam bekas. Kategori baru vektor serangan telah muncul dalam era AI; industri masih belum memahami bagaimana model ini dilindungi daripada ancaman siber dan kesan bagaimana model ini boleh digunakan sebagai alat oleh pelaku ancaman siber.

Teknik suntikan petunjuk berniat jahat boleh digunakan untuk mencemarkan indeks keracunan data boleh digunakan untuk merosakkan serangan pembenaman, termasuk teknik penyongsangan, boleh digunakan untuk mengekstrak data yang kaya daripada inferens keahlian boleh digunakan untuk menentukan sama ada data itu ada; set latihan, dsb., hanyalah puncak gunung ais.

Aktor ancaman boleh mendapat akses kepada data sulit melalui penyongsangan model dan pertanyaan terprogram; aktiviti, seperti kuda Trojan.

Privasi "Bocor"

Model AI hanya berguna kerana set data yang mereka latih; pengambilan data berskala besar secara sembarangan mewujudkan risiko privasi yang belum pernah berlaku sebelum ini untuk individu dan orang ramai. Dalam era AI, privasi telah menjadi kebimbangan sosial peraturan yang terutama menangani hak data peribadi tidak mencukupi.

Selain data statik, gesaan untuk perbualan dinamik juga mesti dilindungi dan dikekalkan sebagai harta intelek. Jika anda seorang pengguna yang terlibat dalam mencipta bersama artifak dengan model, anda berharap gesaan yang anda gunakan untuk membimbing aktiviti penciptaan ini tidak akan digunakan untuk melatih model atau dikongsi dengan pengguna model lain.

Jika anda seorang pekerja yang menggunakan model untuk mencapai hasil perniagaan, majikan anda menjangka petua anda dirahsiakan selain itu, petua dan respons memerlukan jejak audit yang selamat sekiranya timbul isu liabiliti bagi mana-mana pihak. Ini disebabkan terutamanya oleh sifat stokastik model ini dan perubahan dalam tindak balasnya dari semasa ke semasa.

Apa yang berlaku seterusnya?

Kami sedang berhadapan dengan teknologi yang belum pernah berlaku sebelum ini yang unik dalam sejarah pengkomputeran kami kerana ia mempamerkan gelagat yang muncul dan terpendam pada skala besar kaedah yang digunakan pada masa lalu untuk keselamatan, privasi dan kerahsiaan tidak lagi mencukupi.

Pemimpin industri mengambil sikap berhati-hati, menyebabkan pengawal selia dan penggubal dasar tidak mempunyai pilihan selain untuk mengambil bahagian.

Atas ialah kandungan terperinci Cabaran dunia baharu AI: Apa yang berlaku kepada keselamatan dan privasi?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!