Apakah prinsip etika teknologi pengecaman muka?

Potensi besar teknologi pengecaman wajah dalam pelbagai bidang hampir tidak dapat dibayangkan. Walau bagaimanapun, perangkap biasa tertentu dalam kefungsiannya dan beberapa pertimbangan etika perlu ditangani sebelum aplikasinya yang paling kompleks boleh dilaksanakan.

Sistem pengecaman muka yang tepat menggunakan teknologi biometrik untuk memetakan ciri muka daripada foto atau video. Ia membandingkan maklumat dengan pangkalan data wajah yang diketahui untuk mencari padanan. Pengecaman muka boleh membantu mengesahkan identiti seseorang, tetapi ia juga menimbulkan kebimbangan privasi.

Beberapa dekad yang lalu, kami tidak dapat meramalkan bahawa pengecaman wajah akan menjadi sebahagian yang hampir penting dalam kehidupan kami pada masa hadapan. Daripada membuka kunci telefon pintar kepada menjalankan transaksi dalam talian atau luar talian, teknologi ini amat sebati dalam kehidupan seharian kita hari ini.

Sistem pengecaman muka ialah aplikasi penglihatan komputer dan komponen pembelajaran mesin bagi kecerdasan buatan. Ia berfungsi seperti ini: algoritma dilatih untuk menentukan pelbagai butiran berbeza wajah seseorang, seperti ruang antara mereka mata. Kiraan atau kelengkungan piksel dan butiran lain yang ditafsirkan secara logik untuk membina semula muka dalam sistem. Rekreasi ini kemudiannya dibandingkan dengan sejumlah besar muka yang disimpan dalam pangkalan data sistem. Sebagai contoh, jika algoritma mengesan padanan dengan wajah yang terdapat dalam pangkalan data, sistem "mengecamnya" dan melaksanakan tugas pengguna.

Selain melengkapkan keseluruhan proses dalam beberapa saat, sistem pengecaman muka hari ini mampu melakukan tugasnya walaupun dalam pencahayaan yang lemah, resolusi imej dan sudut tontonan. Seperti teknologi kecerdasan buatan lain, sistem pengecaman muka perlu mengikut beberapa prinsip etika apabila digunakan untuk pelbagai tujuan.

Peraturan ini termasuk:

1 Kesaksamaan dalam pengecaman muka

Pertama, pembangunan peranti pengecaman muka mesti menghalang sepenuhnya, atau sekurang-kurangnya meminimumkan , jantina, ciri wajah, kecacatan atau berat sebelah lain terhadap mana-mana orang atau kumpulan. Kini terdapat banyak bukti bahawa sistem pengecaman muka tidak mungkin 100% adil dalam operasinya. Akibatnya, syarikat membina sistem yang menyokong teknologi ini sering menghabiskan ratusan jam untuk membuang semua kesan berat sebelah yang terdapat dalam sistem mereka.

Syarikat bereputasi seperti Microsoft sering mengupah pakar yang berkelayakan daripada seberapa banyak komuniti etnik yang mungkin. Semasa fasa penyelidikan, pembangunan, ujian dan reka bentuk sistem pengecaman muka mereka, kepelbagaian membolehkan mereka mencipta set data besar-besaran untuk melatih model data AI. Walaupun set data yang besar mengurangkan berat sebelah, kepelbagaian juga adalah simbolik. Memilih individu dari seluruh dunia membantu mencerminkan kepelbagaian yang terdapat dalam dunia sebenar.

Untuk menghilangkan bias sistem pengecaman muka, syarikat mesti berusaha lebih. Untuk mencapai matlamat ini, set data yang digunakan untuk pembelajaran mesin dan pelabelan mestilah pelbagai. Paling penting, kualiti keluaran sistem pengecaman muka yang adil akan menjadi sangat tinggi kerana ia akan berfungsi dengan lancar di mana-mana sahaja di dunia tanpa sebarang unsur berat sebelah.

Untuk memastikan keadilan sistem pengecaman wajah, pembangun juga boleh melibatkan pelanggan akhir semasa fasa ujian beta. Keupayaan untuk menguji sistem sedemikian dalam senario dunia sebenar hanya akan meningkatkan kualiti fungsinya.

2. Keterbukaan tentang kerja dalaman AI

Perniagaan yang menggunakan sistem pengecaman muka di tempat kerja dan sistem keselamatan siber perlu mengetahui semua butiran tempat maklumat pembelajaran mesin disimpan. Perniagaan sedemikian perlu memahami batasan dan keupayaan teknologi sebelum melaksanakannya dalam operasi harian mereka. Syarikat yang menyediakan teknologi AI mesti telus sepenuhnya dengan pelanggan tentang butiran ini. Selain itu, penyedia perkhidmatan mesti memastikan bahawa pelanggan boleh menggunakan sistem pengecaman muka mereka di mana-mana sahaja. Sebarang kemas kini dalam sistem mesti diluluskan secara sah oleh pelanggan sebelum meneruskan.

3. Isu Tanggungjawab Korporat

Ringkasnya, sistem pengecaman muka digunakan dalam banyak bidang. Syarikat yang mengeluarkan sistem sedemikian mesti bertanggungjawab, terutamanya apabila teknologi itu berpotensi memberi kesan secara langsung kepada penguatkuasaan undang-undang dan pengawasan oleh mana-mana orang atau kumpulan. Akauntabiliti dalam sistem sedemikian bermakna termasuk kes penggunaan untuk mencegah bahaya fizikal atau kesihatan, penyelewengan kewangan atau masalah lain yang mungkin timbul daripada sistem. Untuk memperkenalkan elemen kawalan ke dalam proses, individu yang berkelayakan bertanggungjawab ke atas sistem dalam perniagaan untuk membuat keputusan yang terukur dan logik. Selain itu, perniagaan yang menggabungkan sistem pengecaman wajah ke dalam operasi harian mereka mesti segera menangani ketidakpuasan hati pelanggan terhadap teknologi tersebut.

4. Persetujuan dan pemberitahuan sebelum pemantauan

Dalam keadaan biasa, sistem pengecaman muka tidak boleh digunakan untuk mengintip individu, kumpulan atau tingkah laku lain tanpa persetujuan individu atau kumpulan. Sesetengah institusi, seperti Kesatuan Eropah, mempunyai satu set undang-undang piawai untuk menghalang perniagaan yang tidak dibenarkan daripada mengintip individu dalam bidang kuasa badan induk itu. Perniagaan yang mempunyai sistem sedemikian mesti mematuhi semua undang-undang perlindungan data dan privasi A.S.

5. Pengawasan undang-undang untuk mengelakkan pelanggaran hak asasi manusia

Syarikat tidak boleh menggunakan sistem pengecaman muka untuk pengawasan melainkan dibenarkan oleh kerajaan negara atau agensi kawal selia yang menentukan untuk tujuan yang berkaitan dengan keselamatan negara atau situasi penting lain kumpulan. Pada asasnya, teknologi ini dilarang sama sekali digunakan untuk melanggar hak asasi manusia dan kebebasan mangsa.

Walaupun diprogramkan untuk mematuhi peraturan ini tanpa pengecualian, sistem pengecaman muka boleh menyebabkan masalah akibat ralat operasi.

Beberapa isu utama yang berkaitan dengan teknologi ini ialah:

1 Ralat pengesahan pada masa pembelian

Seperti yang dinyatakan di atas, sistem pengecaman muka dimasukkan ke dalam pembayaran digital. aplikasi untuk memudahkan pengguna Urus niaga boleh disahkan menggunakan teknologi ini. Disebabkan kewujudan teknologi ini, aktiviti jenayah seperti kecurian identiti muka dan penipuan kad debit sangat mungkin berlaku. Pelanggan memilih sistem pengecaman muka kerana kemudahan hebat yang diberikannya kepada pengguna. Walaupun terdapat protokol keselamatan dalam sistem pengecaman muka, penyalinan muka boleh menyebabkan penyelewengan dana.

2. Ketidaktepatan dalam aplikasi penguatkuasaan undang-undang

Sistem pengecaman muka digunakan untuk mengenal pasti penjenayah awam sebelum mereka ditangkap. Walaupun teknologi sebagai konsep sudah pasti berguna dalam penguatkuasaan undang-undang, terdapat beberapa masalah yang jelas dengan kerjanya. Penjenayah boleh menyalahgunakan teknologi ini dalam beberapa cara. Sebagai contoh, konsep AI berat sebelah memberikan keputusan yang tidak tepat untuk pegawai penguatkuasa undang-undang kerana sistem kadangkala gagal membezakan antara orang kulit berwarna. Biasanya, sistem sedemikian dilatih pada set data yang mengandungi imej lelaki kulit putih. Jadi cara sistem berfungsi adalah salah apabila mengenal pasti orang dari kaum lain.

Terdapat beberapa contoh di mana perniagaan atau institusi awam telah dituduh menggunakan sistem pengecaman muka canggih untuk mengintip orang awam secara haram. Data video yang dikumpul melalui pengawasan berterusan individu boleh digunakan untuk pelbagai tujuan jahat. Salah satu kelemahan terbesar sistem pengecaman muka ialah output yang mereka berikan adalah terlalu umum.

Sebagai contoh, jika seseorang disyaki melakukan jenayah, gambar mereka akan diambil dan dipamerkan bersama beberapa gambar penjenayah untuk memeriksa sama ada orang itu mempunyai sebarang rekod jenayah. Walau bagaimanapun, menyusun data ini bersama-sama bermakna pangkalan data pengecaman muka akan mengekalkan foto lelaki itu dan penjenayah berpengalaman. Jadi, walaupun individu itu tidak bersalah, privasinya telah dicabuli. Kedua, orang ini mungkin dianggap sebagai orang jahat walaupun dia tidak bersalah dalam semua akaun.

Kita dapat melihat bahawa masalah dan ralat utama yang berkaitan dengan teknologi pengecaman muka berpunca daripada kekurangan kemajuan dalam teknologi, kekurangan kepelbagaian dalam set data, dan pengendalian sistem yang tidak cekap oleh perusahaan. Pada pendapat saya, skop AI dan aplikasinya dalam keperluan dunia nyata adalah tidak terhad, dan risiko teknologi pengecaman muka biasanya berlaku apabila teknologi berfungsi secara berbeza daripada keperluan sebenar.

Dengan perkembangan teknologi selanjutnya pada masa hadapan, masalah berkaitan teknologi akan dapat diselesaikan. Isu yang berkaitan dengan berat sebelah dalam algoritma AI akhirnya akan diselesaikan. Walau bagaimanapun, untuk membolehkan teknologi berfungsi dengan sempurna tanpa melanggar sebarang norma etika, syarikat mesti mengekalkan tahap tadbir urus yang ketat ke atas sistem tersebut. Dengan tadbir urus yang lebih baik, pepijat sistem pengecaman muka boleh ditangani pada masa hadapan. Oleh itu, penyelidikan, pembangunan dan reka bentuk sistem sedemikian mesti diperbaiki untuk mencapai penyelesaian yang positif.

Atas ialah kandungan terperinci Apakah prinsip etika teknologi pengecaman muka?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!