Prinsip Etika Teknologi Pengecaman Muka

Potensi besar teknologi pengecaman wajah dalam pelbagai bidang hampir tidak dapat dibayangkan. Walau bagaimanapun, perangkap biasa tertentu dalam kefungsiannya dan beberapa pertimbangan etika perlu ditangani sebelum aplikasinya yang paling kompleks boleh dilaksanakan.

Sistem pengecaman muka yang tepat yang menggunakan teknologi biometrik untuk melukis ciri muka daripada foto atau video. Ia membandingkan maklumat ini dengan pangkalan data wajah yang diketahui untuk mencari padanan. Pengecaman muka boleh membantu mengesahkan identiti seseorang, tetapi ia juga menimbulkan kebimbangan privasi.

Beberapa dekad yang lalu, kami tidak dapat meramalkan bahawa pengecaman muka akan menjadi bahagian yang hampir tidak boleh diketepikan dalam kehidupan kita pada masa hadapan. Daripada membuka kunci telefon pintar kepada menjalankan urus niaga dalam talian (atau luar talian), teknologi ini amat sebati dalam kehidupan seharian kita. Ini adalah aplikasi luar biasa penglihatan komputer dan komponen pembelajaran mesin kecerdasan buatan.

Sistem pengecaman muka berfungsi seperti ini:

Algoritma terlatih menentukan pelbagai butiran unik wajah seseorang, seperti piksel antara nombor mata atau bibir arka, ditafsir secara logik antara butiran lain untuk membina semula muka dalam sistem. Wajah yang dibina semula ini kemudiannya dibandingkan dengan set besar muka yang disimpan dalam pangkalan data sistem. Jika algoritma mengesan bahawa wajah yang dihasilkan semula secara matematik sepadan dengan wajah yang terdapat dalam pangkalan data, sistem "mengecamnya" dan melaksanakan tugas pengguna.

Selain melengkapkan keseluruhan proses dalam beberapa nanosaat, sistem pengecaman muka hari ini mampu berfungsi walaupun dalam cahaya malap, resolusi imej yang lemah dan sudut tontonan.

Seperti teknologi kecerdasan buatan lain, sistem pengecaman muka perlu mengikut beberapa prinsip etika apabila digunakan untuk pelbagai tujuan. Peraturan ini termasuk:

1 Kesaksamaan dalam pengecaman muka

Pertama, pembangunan peralatan pengecaman muka mesti menjadikan sistem menghalang sepenuhnya, atau sekurang-kurangnya meminimumkan Kurangkan berat sebelah. mana-mana orang atau kumpulan berdasarkan bangsa, jantina, ciri muka, kecacatan atau aspek lain. Kini terdapat banyak bukti bahawa sistem pengecaman muka tidak mungkin 100% adil dalam operasinya. Akibatnya, syarikat membina sistem untuk menyokong teknologi ini sering menghabiskan ratusan jam untuk membuang semua kesan berat sebelah yang terdapat dalam sistem mereka.

Organisasi bereputasi seperti Microsoft sering mengupah pakar yang berkelayakan daripada seberapa banyak komuniti etnik yang mungkin. Semasa peringkat penyelidikan, pembangunan, ujian dan reka bentuk sistem pengecaman muka mereka, kepelbagaian membolehkan mereka mencipta set data besar-besaran untuk melatih model data AI. Walaupun set data yang besar mengurangkan hasil bagi bias, kepelbagaian juga adalah simbolik. Memilih individu dari seluruh dunia membantu mencerminkan kepelbagaian dunia sebenar.

Untuk menghapuskan berat sebelah daripada sistem pengecaman wajah, organisasi mesti berusaha lebih. Untuk mencapai matlamat ini, set data yang digunakan untuk pembelajaran mesin dan pelabelan mestilah pelbagai. Paling penting, kualiti keluaran sistem pengecaman muka yang saksama akan menjadi sangat tinggi, kerana ia akan berfungsi dengan lancar di mana-mana sahaja di dunia, tanpa sebarang unsur berat sebelah.

Untuk memastikan keadilan sistem pengecaman wajah, pembangun juga boleh melibatkan pelanggan akhir semasa fasa ujian beta. Keupayaan untuk menguji sistem sedemikian dalam senario dunia sebenar hanya akan meningkatkan kualiti fungsinya.

2. Keterbukaan kerja dalaman kecerdasan buatan

Organisasi yang menggunakan sistem pengecaman muka di tempat kerja dan sistem keselamatan siber perlu mengetahui di mana maklumat pembelajaran mesin disimpan semua butiran. Organisasi sedemikian perlu memahami batasan dan keupayaan teknologi sebelum melaksanakannya dalam operasi harian. Syarikat yang menyediakan teknologi AI mesti telus sepenuhnya dengan pelanggan tentang butiran ini. Selain itu, penyedia perkhidmatan mesti memastikan sistem pengecaman muka mereka boleh digunakan oleh pelanggan dari mana-mana lokasi, berdasarkan kemudahan mereka. Sebarang kemas kini dalam sistem mesti diluluskan secara sah oleh pelanggan sebelum meneruskan.

3. Tanggungjawab kepada pihak berkepentingan

Seperti yang dinyatakan di atas, sistem pengecaman wajah digunakan dalam pelbagai jabatan. Organisasi yang mengeluarkan sistem sedemikian mesti bertanggungjawab terhadap mereka, terutamanya apabila teknologi itu berpotensi memberi kesan secara langsung kepada mana-mana orang atau kumpulan (penguatkuasaan undang-undang, pengawasan). Akauntabiliti dalam sistem sedemikian bermakna termasuk kes penggunaan untuk mencegah bahaya fizikal atau kesihatan, penyelewengan kewangan atau masalah lain yang mungkin timbul daripada sistem. Untuk memperkenalkan elemen kawalan ke dalam proses, individu yang berkelayakan bertanggungjawab ke atas sistem dalam organisasi untuk membuat keputusan yang terukur dan logik. Selain itu, organisasi yang menggabungkan sistem pengecaman wajah ke dalam operasi harian mereka mesti segera menangani ketidakpuasan hati pelanggan terhadap teknologi tersebut.

4. Persetujuan dan pemberitahuan sebelum pemantauan

Dalam keadaan biasa, sistem pengecaman muka tidak boleh digunakan untuk mengintip individu, kumpulan atau tingkah laku lain tanpa persetujuan individu atau kumpulan. Sesetengah institusi, seperti Kesatuan Eropah (EU), mempunyai set undang-undang piawai (GDPR) untuk menghalang organisasi yang tidak dibenarkan mengintip individu dalam bidang kuasa badan induk itu. Organisasi yang mempunyai sistem sedemikian mesti mematuhi semua undang-undang perlindungan data dan privasi A.S..

5. Pengawasan yang sah untuk mengelakkan pelanggaran hak asasi manusia

Melainkan dibenarkan oleh kerajaan negara atau badan pentadbiran yang tegas, digunakan berkaitan dengan keselamatan negara atau situasi berprofil tinggi yang lain tujuan, jika tidak sesebuah organisasi tidak boleh menggunakan sistem pengecaman muka untuk memantau mana-mana orang atau kumpulan. Pada asasnya, teknologi ini dilarang sama sekali digunakan untuk melanggar hak asasi manusia dan kebebasan mangsa.

Walaupun sistem pengecaman muka diprogramkan untuk mematuhi peraturan ini tanpa pengecualian, masalah mungkin timbul disebabkan oleh kesilapan operator. Beberapa isu utama yang berkaitan dengan teknologi ini ialah:

6. Ralat pengesahan semasa pembelian

Seperti yang dinyatakan sebelum ini, pengecaman muka disertakan dalam aplikasi pembayaran digital sistem di mana pengguna boleh mengesahkan transaksi. Disebabkan kewujudan teknologi ini, aktiviti jenayah untuk tujuan pembayaran seperti kecurian identiti muka dan penipuan kad debit sangat mungkin berlaku. Pelanggan memilih sistem pengecaman muka kerana ia memberikan kemudahan yang hebat kepada pengguna. Walau bagaimanapun, kesilapan boleh berlaku dalam sistem sedemikian apabila kembar seiras menggunakannya untuk membuat pembayaran tanpa kebenaran daripada akaun bank masing-masing. Kebimbangannya ialah walaupun terdapat protokol keselamatan dalam sistem pengecaman muka, penyalinan muka boleh menyebabkan penyelewengan dana.

7. Ketidaktepatan dalam Aplikasi Penguatkuasaan Undang-undang

Sistem pengecaman muka digunakan untuk mengenal pasti penjenayah awam sebelum mereka ditangkap. Walaupun teknologi sebagai konsep sudah pasti berguna dalam penguatkuasaan undang-undang, terdapat beberapa masalah yang jelas dengan kerjanya. Penjenayah boleh menyalahgunakan teknologi ini dalam beberapa cara. Sebagai contoh, konsep AI berat sebelah memberikan keputusan yang tidak tepat untuk pegawai penguatkuasa undang-undang kerana sistem kadangkala gagal membezakan antara orang kulit berwarna. Biasanya, sistem sedemikian dilatih pada set data yang mengandungi imej lelaki kulit putih. Jadi cara sistem berfungsi adalah salah apabila mengenal pasti orang dari kaum lain.

Terdapat beberapa kes organisasi atau institusi awam dituduh menggunakan sistem pengecaman muka canggih untuk mengintip orang awam secara haram. Data video yang dikumpul oleh individu di bawah pengawasan berterusan boleh digunakan untuk pelbagai tujuan jahat. Salah satu kelemahan terbesar sistem pengecaman muka ialah output yang mereka berikan adalah terlalu umum. Sebagai contoh, jika seseorang disyaki melakukan jenayah, foto mereka akan diambil dan dipamerkan bersama-sama gambar beberapa penjenayah untuk memeriksa sama ada orang itu mempunyai sebarang rekod jenayah. Walau bagaimanapun, menyusun data bersama bermakna pangkalan data pengecaman muka akan mengekalkan foto lelaki itu dan penjenayah berpengalaman. Jadi, walaupun individu itu agak tidak bersalah, privasinya dilanggar. Kedua, orang itu mungkin dipandang buruk walaupun tidak bersalah oleh semua akaun.

Seperti yang dinyatakan, masalah dan ralat utama yang berkaitan dengan teknologi pengecaman wajah berpunca daripada kekurangan kemajuan dalam teknologi, kekurangan kepelbagaian dalam set data, dan pengendalian sistem yang tidak cekap oleh organisasi. Walau bagaimanapun, skop aplikasi kecerdasan buatan dan aplikasinya dalam keperluan kehidupan sebenar harus tidak terhad. Risiko dengan teknologi pengecaman muka sering berlaku apabila teknologi tidak berfungsi dengan cara yang sama seperti yang sebenarnya diperlukan.

Walau bagaimanapun, adalah dijangka dengan kemajuan teknologi yang berterusan pada masa hadapan, masalah berkaitan teknologi akan dapat diselesaikan. Isu yang berkaitan dengan berat sebelah dalam algoritma AI akhirnya akan dihapuskan. Walau bagaimanapun, agar teknologi ini berfungsi dengan sempurna tanpa melanggar sebarang norma etika, organisasi mesti mengekalkan tahap tadbir urus yang ketat untuk sistem tersebut. Dengan tadbir urus yang lebih baik, pepijat sistem pengecaman muka boleh ditangani pada masa hadapan. Oleh itu, penyelidikan, pembangunan dan reka bentuk sistem sedemikian mesti diperbaiki untuk mencapai penyelesaian yang positif.

Atas ialah kandungan terperinci Prinsip Etika Teknologi Pengecaman Muka. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!