Mengapa reka bentuk AI mesti mengutamakan privasi data

• Kecerdasan buatan adalah penting dalam pembangunan penjagaan kesihatan, teknologi dan bidang lain, tetapi terdapat kebimbangan tentang cara privasi data akan dikawal.
• Privasi data adalah penting untuk mendapatkan kepercayaan orang ramai dalam kemajuan teknologi.

Privasi data sering dikaitkan dengan model kecerdasan buatan (AI) berdasarkan data pengguna. Difahamkan pengguna berhati-hati terhadap teknologi automatik yang menangkap dan menggunakan data mereka, yang mungkin termasuk maklumat sensitif. Oleh kerana model AI

bergantung pada kualiti data untuk memberikan hasil yang ketara, kewujudan berterusannya bergantung pada perlindungan privasi sebagai sebahagian daripada reka bentuk mereka.

Amalan pengurusan data dan privasi yang baik bukan sekadar cara untuk meredakan ketakutan dan kebimbangan pelanggan, ia mempunyai banyak kaitan dengan nilai organisasi teras, proses perniagaan dan pengurusan keselamatan syarikat. Isu privasi telah dikaji dan dihebahkan secara meluas, dan data tinjauan persepsi privasi menunjukkan bahawa perlindungan privasi merupakan isu penting dalam kebimbangan pengguna.

Adalah penting untuk menangani isu ini dalam konteks, dan bagi syarikat yang menggunakan AI yang berhadapan dengan pengguna, terdapat beberapa kaedah dan teknik yang boleh membantu menangani kebimbangan privasi yang biasanya dikaitkan dengan AI.

Sesetengah produk dan perkhidmatan memerlukan data, tetapi mereka tidak perlu menceroboh privasi sesiapa

Perniagaan yang menggunakan kecerdasan buatan sudah pun menghadapi keraguan orang ramai tentang privasi. Menurut tinjauan 2020 oleh Pertubuhan Pengguna Eropah, 45-60% orang Eropah bersetuju bahawa AI akan membawa kepada lebih banyak penyalahgunaan data peribadi.

Terdapat banyak perkhidmatan dan produk dalam talian popular yang bergantung pada set data yang besar untuk mempelajari dan meningkatkan algoritma AI

mereka. Sesetengah data dalam set data ini mungkin dianggap peribadi kepada pengguna yang paling kurang mementingkan privasi. Aliran data daripada web, halaman media sosial, telefon mudah alih dan peranti lain meningkatkan jumlah maklumat yang digunakan oleh perniagaan untuk melatih sistem pembelajaran mesin. Perlindungan privasi menjadi isu dasar awam di seluruh dunia disebabkan penggunaan berlebihan dan salah urus data peribadi oleh sesetengah perniagaan.

Kebanyakan data sensitif yang kami kumpulkan digunakan untuk meningkatkan proses yang didayakan AI. Kebanyakan data yang dianalisis juga didorong oleh penggunaan pembelajaran mesin, kerana algoritma yang kompleks diperlukan untuk membuat keputusan dalam masa nyata berdasarkan set data ini. Algoritma carian, pembantu suara dan enjin pengesyoran hanyalah beberapa daripada penyelesaian yang memanfaatkan

AI berdasarkan set data besar berdasarkan data pengguna dunia sebenar.

Pangkalan data besar mungkin mengandungi pelbagai data dan salah satu isu yang paling mendesak ialah data ini mungkin boleh dikenal pasti secara peribadi dan sensitif. Sebenarnya, mengajar algoritma untuk membuat keputusan tidak bergantung pada mengetahui dengan siapa data itu berkaitan. Oleh itu, syarikat di sebalik produk sedemikian harus menumpukan pada penswastaan ​​set data mereka dengan beberapa cara untuk mengenal pasti pengguna dalam data sumber, dan membangunkan langkah untuk mengalih keluar kes kelebihan daripada algoritma mereka untuk mengelakkan kejuruteraan terbalik dan pengenalan.

Hubungan antara privasi data dan kecerdasan buatan adalah sangat halus. Walaupun sesetengah algoritma mungkin memerlukan data peribadi, terdapat cara untuk menggunakannya dengan cara yang lebih selamat dan tidak mengganggu. Kaedah berikut hanyalah beberapa cara syarikat yang bekerja dengan data peribadi boleh menjadi sebahagian daripada penyelesaian.

Reka bentuk AI dengan mengutamakan privasi

Kami telah membincangkan masalah kejuruteraan terbalik, di mana pelaku jahat menemui kelemahan dalam model AI

dan ekstrak daripada output model Kenal pasti maklumat yang berpotensi kritikal. Kejuruteraan terbalik adalah sebab mengapa menukar dan menambah baik pangkalan data dan data pembelajaran dalam menghadapi cabaran ini adalah penting untuk penggunaan AI.

Contohnya, menggabungkan set data yang bercanggah dalam proses pembelajaran mesin (pembelajaran berlawanan) ialah pilihan yang baik untuk membezakan kelemahan dan berat sebelah dalam output algoritma AI

. Terdapat juga pilihan untuk menggunakan set data sintetik yang tidak menggunakan data peribadi sebenar, tetapi masih terdapat persoalan tentang keberkesanannya.

Penjagaan kesihatan ialah perintis dalam kecerdasan buatan dan tadbir urus privasi data, terutamanya apabila berurusan dengan data peribadi yang sensitif. Ia juga melakukan banyak kerja mengenai persetujuan, sama ada untuk prosedur perubatan atau pemprosesan data mereka - pertaruhannya tinggi dan ia dikuatkuasakan oleh undang-undang.

Untuk reka bentuk keseluruhan produk dan algoritma AI, penyahgandingan data daripada pengguna melalui anonimasi dan pengagregatan adalah kunci bagi mana-mana perusahaan yang menggunakan data pengguna untuk melatih model AInya.

Terdapat banyak pertimbangan untuk mengukuhkan perlindungan privasi untuk syarikat AI:

• Privasi di Teras: Letakkan perlindungan privasi pada radar pembangun dan cari cara untuk mengukuhkan keselamatan dengan berkesan.
• Tanpa nama dan agregat set data, alih keluar semua pengecam peribadi dan titik data unik.
• Kawal ketat siapa dalam syarikat yang mempunyai akses kepada set data tertentu dan teruskan mengaudit cara data ini diakses, kerana ini telah menjadi sebab di sebalik beberapa pelanggaran data pada masa lalu.
• Lebih banyak data bukanlah penyelesaian terbaik. Uji algoritma anda dengan data minimum untuk memahami jumlah minimum data yang anda perlu kumpulkan dan proses untuk menjadikan kes penggunaan anda boleh dilaksanakan.
• Kaedah yang dipermudahkan mesti disediakan untuk menghapuskan data peribadi atas permintaan pengguna. Syarikat yang hanya pseudo-anonimkan data pengguna harus terus melatih semula model mereka menggunakan data terkini.
• Gunakan strategi nyahpengenalpastian yang berkuasa, seperti set data teragregat dan sintetik dengan anonimasi penuh, pengecam tidak boleh balik untuk latihan algoritma, pengauditan, jaminan kualiti dan banyak lagi.
• Lindungi autonomi dan privasi pengguna dengan memikirkan semula cara maklumat kritikal diperoleh dan digunakan daripada pihak ketiga – teliti sumber data dan hanya gunakan sumber data yang mengumpul data dengan kebenaran termaklum dan jelas pengguna.
• Pertimbangkan risikonya: Bolehkah serangan menjejaskan privasi pengguna daripada keluaran sistem AI anda

Apakah masa depan privasi data dan kecerdasan buatan

Kecerdasan Buatan Sistem memerlukan sejumlah besar data, dan beberapa perkhidmatan dan produk dalam talian teratas tidak boleh berfungsi tanpa data peribadi yang digunakan untuk melatih algoritma AI. Walau bagaimanapun, terdapat banyak cara untuk meningkatkan pemerolehan, pengurusan dan penggunaan data, termasuk algoritma itu sendiri dan pengurusan data keseluruhan. AI yang menghormati privasi memerlukan syarikat yang menghormati privasi.

Pengarang artikel ini: Einaras von Gravrock, Ketua Pegawai Eksekutif dan pengasas CUJO AI

Atas ialah kandungan terperinci Mengapa reka bentuk AI mesti mengutamakan privasi data. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!