Mengapa begitu ramai orang marah tentang undang-undang pengambilan AI New York?

Sebilangan besar orang marah dengan kecerdasan buatan dan undang-undang pengambilan pekerja yang berkuat kuasa di New York City minggu lepas. Undang-undang ini ialah undang-undang AI yang pertama di Amerika Syarikat, jadi cara ia dilaksanakan akan memberi pengajaran dan panduan untuk bandar lain yang membangunkan dasar dan perbahasan AI. Seperti New York, negeri A.S. yang lain juga sedang mempertimbangkan untuk memasukkan peruntukan pengambilan AI ke dalam Akta Kepintaran Buatan Eropah.

Penggunaan kecerdasan buatan dalam pengambilan telah mencetuskan kritikan kerana kehadiran automasi dan cara ia dapat mengukuhkan kecenderungan kaum dan jantina yang sedia ada. Sistem AI telah ditunjukkan memihak kepada calon berkulit putih, lelaki dan berbadan sihat apabila menilai ekspresi muka dan bahasa mereka.

Isu ini wajar diberi perhatian kerana kebanyakan syarikat telah menggunakan kecerdasan buatan sekurang-kurangnya sekali dalam proses pengambilan. Charlotte Burrows, pengerusi Suruhanjaya Peluang Pekerjaan Sama A.S., berkata pada mesyuarat Januari 2023 bahawa sebanyak 80% syarikat menggunakan beberapa bentuk alat automatik untuk membuat keputusan pengambilan pekerja.

Akta Alat Keputusan Pekerjaan Automatik New York City, yang berkuat kuasa pada 5 Julai, menetapkan bahawa majikan yang menggunakan kecerdasan buatan dalam pengambilan mesti memberitahu calon dengan jujur ​​bahawa mereka berbuat demikian. Untuk membuktikan bahawa sistem mereka tidak rasis atau seksis, mereka memerlukan audit bebas tahunan. Pencari kerja boleh meminta majikan yang berpotensi untuk mendapatkan maklumat tentang pengumpulan dan analisis data yang terlibat dalam teknologi ini. Pelanggaran tertakluk kepada denda sehingga $1,500.

(Sumber: STEPHANIE ARNETT/MITTR | GETTY)

Penyokong undang-undang mengatakan ia adalah permulaan yang baik, walaupun ia tidak sempurna, untuk mengawal selia kecerdasan buatan dan mengurangkan beberapa kemudaratan dan risiko yang datang dengan penggunaannya. Syarikat diminta untuk melihat dengan lebih mendalam pada algoritma yang mereka gunakan untuk menentukan sama ada teknologi itu secara tidak sengaja mendiskriminasi wanita atau orang kulit berwarna.

Ini adalah kes yang jarang berlaku tetapi berjaya, dan dari perspektif dasar kawal selia kecerdasan buatan AS, kita mungkin melihat peraturan tempatan yang lebih berkaitan. Bunyi menjanjikan, bukan?

Tetapi undang-undang ini disambut dengan kontroversi besar. Kumpulan berkepentingan awam dan penyokong hak sivil berkata rang undang-undang itu tidak boleh dikuatkuasakan dan tidak cukup luas, manakala perniagaan yang mesti mematuhinya berpendapat ia tidak praktikal dan membebankan.

Organisasi seperti Center for Democracy & Technology dan Surveillance Technology Oversight Project (S.T.O.P.) percaya bahawa undang-undang itu "tidak inklusif secukupnya" dan berisiko kehilangan penggunaan banyak sistem automatik dalam pengambilan pekerja, termasuk penggunaan Sistem berkuasa AI yang menapis beribu-ribu calon.

Memandangkan industri audit yang berkaitan pada masa ini tidak matang, perkara yang tidak pasti tentang keputusan audit bebas adalah aspeknya yang lebih penting. BSA — kumpulan perdagangan teknologi berpengaruh yang ahlinya termasuk Adobe, Microsoft dan IBM — menyerahkan ulasan kepada New York City pada Januari 2023 mengkritik undang-undang, dengan alasan bahawa audit pihak ketiga adalah "tidak boleh dilaksanakan."

Albert Fox Cahn, pengarah eksekutif S.T.O.P., berkata: “Persoalan utama ialah bagaimana juruaudit akan mendapatkan maklumat tentang syarikat dan sejauh mana mereka sebenarnya boleh menyoal siasat cara syarikat itu dijalankan, walaupun kami menggaji juruaudit kewangan prinsip perakaunan yang diterima secara universal, apatah lagi peraturan cukai dan pengauditan.”

Menurut Kahn, undang-undang ini boleh membawa kepada rasa selamat palsu tentang kecerdasan buatan dan proses pengambilan pekerja. Dia berkata: "Ini adalah daun ara yang digunakan hanya untuk menunjukkan bahawa perlindungan wujud, dan dalam praktiknya saya tidak fikir mana-mana syarikat akan bertanggungjawab akibat perkara ini termaktub dalam undang-undang."

Yang penting, audit mandatori mesti menilai sama ada output sistem AI adalah berat sebelah terhadap kumpulan orang tertentu Ini akan menggunakan metrik yang dipanggil "nisbah kesan" untuk menentukan sama ada "kadar pemilihan" teknologi adalah berbeza untuk kumpulan berbeza.

Audit tidak perlu cuba menentukan cara algoritma membuat keputusan, dan undang-undang mengetepikan isu "kebolehjelasan" dalam bentuk pembelajaran mesin yang kompleks seperti pembelajaran mendalam. Seperti yang anda boleh bayangkan, peninggalan ini telah menjadi topik perdebatan hangat di kalangan pakar AI.

Di Amerika Syarikat, sementara menunggu undang-undang persekutuan, kita mungkin melihat lebih banyak undang-undang tempatan yang mengawal selia kecerdasan buatan, kebanyakannya menyasarkan satu aplikasi khusus teknologi. Dengan melibatkan diri dengan kontroversi undang-undang tempatan ini, kami boleh menjelaskan bagaimana definisi alat AI, mekanisme keselamatan dan penguatkuasaan akan berkembang dalam dekad akan datang. New Jersey dan California sudah mempertimbangkan undang-undang yang serupa.

Sokongan: Ren

Atas ialah kandungan terperinci Mengapa begitu ramai orang marah tentang undang-undang pengambilan AI New York?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!