Prinsip etika untuk teknologi pengecaman muka

Potensi besar teknologi pengecaman wajah dalam pelbagai bidang hampir tidak dapat dibayangkan.

Walau bagaimanapun, terdapat pepijat tertentu yang biasa dalam fungsinya dan beberapa isu etika yang perlu ditangani sebelum digunakan.

Sistem pengecaman muka menggunakan teknologi biometrik untuk memetakan ciri muka daripada foto atau video, kemudian bandingkan maklumat ini dengan pangkalan data wajah yang diketahui untuk mencari padanan. Pengecaman muka boleh membantu mengesahkan identiti seseorang, tetapi ia juga menimbulkan kebimbangan privasi.

Seperti teknologi kecerdasan buatan lain, terdapat beberapa prinsip etika yang perlu dipatuhi apabila menggunakan sistem pengecaman muka. Prinsip-prinsip ini termasuk:

1. Kesaksamaan pengecaman muka

Pertama, pembangunan teknologi pengecaman muka mesti memastikan sistem dapat mencegah sepenuhnya atau sekurang-kurangnya meminimumkan risiko diskriminasi berdasarkan kaum, jantina, ciri muka, kecacatan, dsb. atau sebaliknya memprejudiskan mana-mana orang atau kumpulan. Kini terdapat banyak bukti bahawa sistem pengecaman muka tidak mungkin 100% adil dalam operasinya. Akibatnya, syarikat yang membangunkan teknologi sering menghabiskan beratus-ratus jam untuk membuang semua kesan berat sebelah yang terdapat di dalamnya.

Organisasi mesti menggandakan usaha mereka untuk menghapuskan berat sebelah dalam sistem pengecaman muka, dan untuk melakukan ini, set data yang digunakan untuk pembelajaran mesin dan pelabelan mestilah pelbagai. Paling penting, kualiti keluaran sistem pengecaman muka yang adil akan menjadi sangat tinggi kerana ia boleh berfungsi dengan lancar di mana-mana sahaja di dunia tanpa sebarang berat sebelah.

Untuk memastikan keadilan sistem pengecaman wajah, pembangun juga boleh melibatkan pelanggan akhir semasa fasa ujian.

2. Keterbukaan dalam cara AI beroperasi

Organisasi yang menggabungkan sistem pengecaman muka ke dalam tempat kerja dan sistem keselamatan siber perlu mengetahui segala-galanya tentang tempat data pembelajaran mesin disimpan. Organisasi sedemikian perlu memahami batasan dan keupayaan teknologi sebelum melaksanakannya. Syarikat yang menyediakan teknologi AI mesti telus sepenuhnya dengan pelanggan mengenai butiran ini. Selain itu, penyedia perkhidmatan mesti memastikan sistem pengecaman muka mereka boleh digunakan oleh pelanggan dari mana-mana lokasi berdasarkan kemudahan mereka. Dan sebarang kemas kini dalam sistem mesti dibuat selepas mendapat kelulusan yang sah daripada pelanggan.

3. Tanggungjawab Pihak Berkepentingan

Seperti yang dinyatakan sebelum ini, sistem pengecaman wajah digunakan dalam pelbagai bidang. Organisasi yang membangunkan sistem sedemikian mesti bertanggungjawab terhadap mereka, terutamanya apabila teknologi boleh memberi kesan secara langsung kepada mana-mana individu atau kumpulan (penguatkuasaan undang-undang, pengawasan). Liabiliti dalam sistem sedemikian bertujuan untuk mengelakkan bahaya fizikal atau kesihatan, penyelewengan kewangan atau masalah lain yang disebabkan oleh sistem yang mungkin berlaku. Untuk memperkenalkan elemen kawalan ke dalam proses, seseorang yang berkelayakan perlu ditugaskan untuk menjaga sistem dalam organisasi untuk membuat keputusan yang baik. Selain itu, organisasi yang menggabungkan sistem pengecaman wajah ke dalam operasi harian mereka mesti segera menangani ketidakpuasan hati pelanggan yang berkaitan dengan teknologi.

4. Persetujuan dan pemberitahuan sebelum pengawasan

Dalam keadaan biasa, sistem pengecaman muka tidak boleh digunakan untuk mengintip individu, kumpulan atau orang lain tanpa kebenaran mereka. Sesetengah institusi, seperti Kesatuan Eropah, mempunyai set undang-undang piawai (GDPR) untuk menghalang organisasi yang tidak dibenarkan daripada memantau individu. Organisasi yang mempunyai sistem sedemikian mesti mematuhi semua peraturan perlindungan data dan privasi di negara ini.

5. Pengawasan yang sah untuk mengelakkan pelanggaran hak asasi manusia

Organisasi tidak boleh menggunakan sistem pengecaman muka melainkan dibenarkan oleh pihak berkuasa membuat keputusan negeri atau kerajaan untuk tujuan yang berkaitan dengan keselamatan negara atau situasi penting lain mana-mana individu atau kumpulan. Pada asasnya, penggunaan teknologi ini untuk melanggar hak asasi manusia dan kebebasan mangsa adalah dilarang sama sekali.

6. Ralat pengesahan semasa membeli-belah

Seperti yang dinyatakan sebelum ini, sistem pengecaman muka dimasukkan ke dalam aplikasi pembayaran digital supaya pengguna boleh mengesahkan transaksi menggunakan teknologi. Aktiviti jenayah seperti kecurian identiti muka dan penipuan kad debit berkemungkinan berlaku menggunakan teknologi ini untuk pembayaran. Pelanggan memilih sistem pengecaman muka kerana kemudahan hebat yang diberikannya kepada pengguna. Walau bagaimanapun, satu ralat yang boleh berlaku dalam sistem sedemikian ialah kembar seiras boleh menggunakan akaun bank masing-masing untuk membuat pembayaran tanpa kebenaran.

7. Aplikasi Penguatkuasaan Undang-undang Tidak Tepat

Sistem pengecaman muka digunakan untuk mengenal pasti penjenayah sebelum mereka ditangkap. Walaupun teknologi sebagai konsep sudah pasti berguna dalam penguatkuasaan undang-undang, terdapat beberapa isu yang ketara dengan kerjanya, seperti kecerdasan buatan berat sebelah yang memberikan hasil yang tidak tepat untuk pegawai penguatkuasa undang-undang kerana kadangkala sistem gagal membezakan antara orang kulit berwarna. Biasanya, sistem sedemikian dilatih pada set data yang mengandungi imej orang kulit putih. Akibatnya, kerja sistem itu penuh dengan kesilapan ketika mengenal pasti orang dari kaum lain.

Seperti yang telah kita lihat, masalah dan ralat utama yang berkaitan dengan teknologi pengecaman muka berpunca daripada kekurangan kemajuan dalam teknologi, kekurangan kepelbagaian dalam set data, dan pengendalian sistem yang tidak cekap oleh organisasi.

Adalah dijangka bahawa dengan kemajuan teknologi yang lebih maju pada masa hadapan, masalah berkaitan teknologi akan diselesaikan masalah yang berkaitan dengan berat sebelah dalam algoritma kecerdasan buatan akhirnya akan dihapuskan. Walau bagaimanapun, untuk membolehkan teknologi berfungsi dengan sempurna tanpa melanggar sebarang prinsip etika, organisasi mesti mengekalkan tahap tadbir urus yang ketat untuk sistem tersebut.

Atas ialah kandungan terperinci Prinsip etika untuk teknologi pengecaman muka. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!