Penyelidikan baharu mendedahkan kecenderungan berlarutan AI terhadap dialek Inggeris Afrika Amerika

Satu kajian baharu telah mendedahkan perkauman terselindung yang tertanam dalam model bahasa AI, terutamanya dalam rawatan mereka terhadap Bahasa Inggeris Afrika Amerika (AAE). Tidak seperti penyelidikan terdahulu yang memfokuskan pada perkauman terang-terangan (seperti kajian CrowS-Pairs untuk mengukur berat sebelah sosial dalam Masked LLMs), kajian ini memberi penekanan khusus pada cara model AI secara halus mengekalkan stereotaip negatif melalui prasangka dialek. Kecondongan ini tidak kelihatan serta-merta tetapi nyata jelas, seperti mengaitkan pembesar suara AAE dengan pekerjaan berstatus lebih rendah dan penghakiman jenayah yang lebih keras.

Kajian mendapati bahawa walaupun model yang dilatih untuk mengurangkan berat sebelah terang-terangan masih mempunyai prasangka yang mendalam. Ini mungkin mempunyai implikasi yang meluas, terutamanya apabila sistem AI semakin disepadukan ke dalam bidang kritikal seperti pekerjaan dan keadilan jenayah, di mana keadilan dan kesaksamaan adalah kritikal di atas segala-galanya.

Para penyelidik menggunakan teknik yang dipanggil "penyelidikan samaran dipadankan" untuk mendedahkan bias ini. Dengan membandingkan cara model AI bertindak balas kepada teks yang ditulis dalam Standard American English (SAE) berbanding AAE, mereka dapat menunjukkan bahawa model tersebut secara konsisten mengaitkan AAE dengan stereotaip negatif, walaupun kandungannya adalah sama. Ini adalah penunjuk yang jelas tentang kecacatan maut dalam kaedah latihan AI semasa — penambahbaikan peringkat permukaan dalam mengurangkan perkauman secara terang-terangan tidak semestinya diterjemahkan kepada penghapusan bentuk berat sebelah yang lebih mendalam dan berbahaya.

AI sudah pasti akan terus berkembang dan disepadukan ke dalam lebih banyak aspek masyarakat. Walau bagaimanapun, itu juga meningkatkan risiko untuk mengekalkan dan juga memperkukuh ketidaksamaan masyarakat sedia ada, dan bukannya mengurangkannya. Senario seperti ini adalah sebab percanggahan ini harus ditangani sebagai keutamaan.

Atas ialah kandungan terperinci Penyelidikan baharu mendedahkan kecenderungan berlarutan AI terhadap dialek Inggeris Afrika Amerika. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!