Kajian menunjukkan alatan AI mempunyai kesan terhad ke atas pengambilan berat sebelah

Penyelidik dari University of Cambridge berkata dalam jurnal Philosophy & Technology: "Terdapat minat yang semakin meningkat dalam kaedah baharu yang boleh menangani isu seperti bias temu duga Aplikasi praktikal AI menjadi semakin biasa, tetapi masih pada ". tahap pseudo-saintifik” apabila melibatkan pemilihan calon melalui video atau metrik aplikasi.

Sebuah organisasi profesional sumber manusia pernah memberitahu media bahawa teknologi AI berpotensi untuk memerangi berat sebelah.

Penyelidikan mendapati bahawa tinjauan merentas negara 2020 terhadap 500 profesional HR menunjukkan bahawa hampir satu perempat daripada pengamal menggunakan AI untuk "mengautomatikkan pemilihan bakat Tetapi pendekatan mengurangkan berat sebelah ini nampaknya tidak Kerry Mackereth, seorang penyelidik pasca doktoral di Pusat Kajian Gender di Universiti Cambridge, berkata dalam temu bual bahawa perkara ini adalah "omong kosong".

Beliau menjelaskan: “Alat ini tidak boleh dilatih untuk mengenal pasti ciri-ciri berkaitan pekerjaan semata-mata, dan juga tidak boleh menghapuskan faktor jantina dan bangsa daripada proses pengambilan ini kerana manusia sentiasa percaya sama ada seseorang pekerja itu bagus atau tidak akan membuat perubahan secara intrinsik dikaitkan dengan jantina, ciri dan etnik mereka.”

Sesetengah syarikat juga menemui masalah dengan alatan itu sendiri, menurut penyelidikan. Pada 2018, Amazon mengumumkan bahawa ia akan meninggalkan pembangunan enjin perekrutan dipacu AI kerana didapati ia akan mengesan jantina daripada resume dan mendiskriminasi pemohon wanita.

"Frenologi Moden"

Penyelidik juga memberi perhatian khusus kepada alatan yang boleh "menganalisis butiran pertuturan dan pergerakan badan calon" Dikatakan bahawa unsur-unsur halus ini juga boleh mencerminkan sama ada subjek memenuhi keperluan khusus jawatan.

Pengarang bersama penyelidikan Dr. Eleanor Drage mengakui bahawa jenis teknologi analisis video dan imej ini "tiada asas saintifik" dan menolaknya sebagai "frenologi moden" - iaitu, bergantung pada bentuk tengkorak untuk membuat kesimpulan personaliti dan kepintaran teori.

Dia menekankan: "Mereka fikir mereka boleh memahami keperibadian satu sama lain melalui pemerhatian muka. Idea ini tidak boleh dipercayai sebagai alat ujian. AI tidak boleh 'melihat melalui' muka untuk melihat dalaman sebenar."

Tangkapan skrin alat Cambridge

Para penyelidik juga bekerjasama dengan enam pelajar sains komputer untuk membina versi ringkas alat pengambilan AI mereka sendiri, berdasarkan apa- dipanggil " Foto calon diberi markah pada ciri personaliti "Lima Besar":

• Boleh Didekati
• Extroversion
• Terbuka
• Bertanggungjawab
• Neurotik

Tetapi penilaian akhir masih akan dipengaruhi oleh pelbagai pembolehubah yang tidak berkaitan.

Dr. Drage menulis: "Apabila menggunakan alat ini, anda boleh melihat bahawa kesimpulan watak yang dibuat oleh AI ​​berubah hanya dengan melaraskan kontras/kecerahan/ketepuan imej." > Daftar menyatakan bahawa penyiasatan lain telah mencapai kesimpulan yang sama.

Malah penyiar awam Jerman mendapati bahawa memakai cermin mata atau tudung dalam video juga akan menjejaskan markah akhir calon.

Hayfa Mohdzaini dari Chartered Institute of Personnel and Development menegaskan bahawa penyelidikan mereka menunjukkan bahawa hanya 8% majikan menggunakan teknologi AI untuk menyaring calon pekerjaan.

“AI sememangnya boleh membantu organisasi meningkatkan kepelbagaian dengan meningkatkan saiz keseluruhan kumpulan calon – tetapi ia juga boleh kehilangan banyak calon yang baik jika peraturan dan data latihan tidak lengkap atau tidak tepat ”

Beliau membuat kesimpulan: “Pada masa ini, perisian AI untuk menganalisis pertuturan dan bahasa badan calon masih di peringkat awal, sudah tentu terdapat peluang yang besar, tetapi terdapat juga risiko yang berkaitan dengannya

Atas ialah kandungan terperinci Kajian menunjukkan alatan AI mempunyai kesan terhad ke atas pengambilan berat sebelah. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!