Pembelajaran mesin mencipta permukaan serangan baharu, memerlukan pertahanan khusus

​ Input dan output pembelajaran mesin (ML) menjadi semakin biasa apabila perniagaan di hampir setiap industri menyepadukan teknologi kecerdasan buatan (AI) ke dalam produk perkakasan dan perisian mereka menjadi semakin meluas tersedia kepada pelanggan. Ini secara semula jadi menarik perhatian pelakon yang berniat jahat.

Ketua Pegawai Eksekutif HiddenLayer Christopher Sestito bercakap tentang pertimbangan keselamatan pembelajaran mesin dan ancaman berkaitan yang harus dibimbangkan oleh perusahaan.

Perniagaan perlahan-lahan menyedari peluang yang boleh dibuka oleh pembelajaran mesin untuk mereka. Tetapi adakah mereka juga memberi perhatian kepada keselamatan siber?

Beberapa perniagaan menumpukan pada melindungi aset pembelajaran mesin mereka, malah lebih sedikit yang memperuntukkan sumber kepada keselamatan pembelajaran mesin. Terdapat banyak sebab untuk ini, termasuk keutamaan belanjawan yang bersaing, kekurangan bakat, dan sehingga baru-baru ini, kekurangan produk keselamatan yang menangani isu ini.

Sepanjang dekad yang lalu, kami telah melihat setiap industri menggunakan AI/pembelajaran mesin dengan cara yang belum pernah berlaku sebelum ini untuk menangani setiap kes penggunaan dengan data yang tersedia. Kelebihannya terbukti, tetapi seperti yang telah kita lihat dengan teknologi baharu yang lain, ia dengan cepat menjadi permukaan serangan baharu untuk pelakon yang berniat jahat.

Seiring dengan kemajuan operasi pembelajaran mesin, pasukan sains data sedang membina ekosistem AI yang lebih matang dari segi keberkesanan, kecekapan, kebolehpercayaan dan kebolehjelasan, tetapi keselamatan belum lagi diutamakan. Ini bukan lagi laluan yang berdaya maju untuk perusahaan perusahaan kerana motivasi untuk menyerang sistem pembelajaran mesin L adalah jelas, alat serangan tersedia dan mudah digunakan, dan sasaran berpotensi berkembang pada kadar yang tidak pernah berlaku sebelum ini.

Bagaimanakah penyerang boleh mengeksploitasi input pembelajaran mesin yang tersedia secara umum?

Memandangkan model pembelajaran mesin disepadukan ke dalam lebih banyak sistem pengeluaran, model tersebut ditunjukkan kepada pelanggan dalam produk perkakasan dan perisian, aplikasi web, aplikasi mudah alih dan banyak lagi. Aliran ini, sering dirujuk sebagai "AI tepi," membawa keupayaan membuat keputusan dan ramalan yang luar biasa kepada semua teknologi yang kami gunakan setiap hari. Menyampaikan pembelajaran mesin kepada semakin ramai pengguna akhir sambil mendedahkan aset pembelajaran mesin yang sama kepada pelaku ancaman.

Model pembelajaran mesin yang tidak didedahkan dalam talian juga berisiko. Model ini boleh diakses melalui teknik serangan siber tradisional, membuka jalan kepada peluang pembelajaran mesin yang menentang. Sebaik sahaja pelakon ancaman mendapat akses, mereka boleh menggunakan beberapa jenis serangan. Serangan inferens cuba memetakan atau "menyongsangkan" model, dengan itu dapat mengeksploitasi kelemahan dalam model, mengganggu fungsi keseluruhan produk, atau menyalin dan mencuri model itu sendiri.

Orang ramai telah melihat contoh sebenar vendor keselamatan yang menyerang ini untuk memintas anti-virus atau mekanisme perlindungan lain. Penyerang juga boleh memilih untuk meracuni data yang digunakan untuk melatih model untuk mengelirukan sistem supaya belajar secara tidak betul dan memberi tip untuk membuat keputusan yang memihak kepada penyerang.

Apakah ancaman terhadap sistem pembelajaran mesin yang perlu dibimbangkan terutamanya oleh perusahaan?

Walaupun semua jenis serangan pembelajaran mesin yang bertentangan perlu dipertahankan, perusahaan yang berbeza akan mempunyai keutamaan yang berbeza. Institusi kewangan yang memanfaatkan model pembelajaran mesin untuk mengenal pasti transaksi penipuan akan sangat tertumpu pada mempertahankan diri daripada serangan inferens.

Jika penyerang memahami kekuatan dan kelemahan sistem pengesanan penipuan, mereka boleh menggunakannya untuk mengubah teknik mereka agar tidak dapat dikesan, memintas model sepenuhnya. Perusahaan penjagaan kesihatan mungkin lebih sensitif terhadap keracunan data. Bidang perubatan adalah pengguna awal meramalkan hasil melalui pembelajaran mesin menggunakan set data sejarahnya yang besar.

Serangan keracunan data boleh menyebabkan salah diagnosis, mengubah keputusan percubaan ubat, salah nyata kumpulan pesakit, dsb. Perusahaan keselamatan sendiri sedang menumpukan pada serangan pengelakan pembelajaran mesin, yang digunakan secara aktif untuk menggunakan perisian tebusan atau rangkaian pintu belakang.

Apakah pertimbangan keselamatan utama yang harus diingat oleh ketua pegawai keselamatan maklumat (CISO) semasa menggunakan sistem dipacu pembelajaran mesin?

Nasihat terbaik yang boleh anda berikan kepada Ketua Pegawai Keselamatan Maklumat (CISO) hari ini adalah untuk menerima corak yang telah kami pelajari dalam teknologi baru muncul. Seperti kemajuan kami dalam infrastruktur awan, penggunaan pembelajaran mesin mewakili permukaan serangan baharu yang memerlukan pertahanan khusus. Halangan kepada kemasukan untuk serangan pembelajaran mesin musuh semakin berkurangan setiap hari menggunakan alat serangan sumber terbuka seperti Microsoft's Counterfit atau Adversarial Robustness Toolbox IBM.

Satu lagi pertimbangan utama ialah banyak daripada serangan ini tidak jelas dan mungkin tidak difahami bahawa ia berlaku jika anda tidak mencarinya. Sebagai pengamal keselamatan, kami terbiasa dengan perisian tebusan, yang merupakan petunjuk jelas bahawa perniagaan telah terjejas dan data telah dikunci atau dicuri. Serangan pembelajaran mesin yang bertentangan boleh disesuaikan untuk berlaku dalam tempoh masa yang lebih lama, dan beberapa serangan, seperti keracunan data, boleh menjadi proses yang lebih perlahan tetapi merosakkan secara kekal.

Atas ialah kandungan terperinci Pembelajaran mesin mencipta permukaan serangan baharu, memerlukan pertahanan khusus. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!