Cara Mencegah Bias AI dengan Cara yang Adil

Kecerdasan buatan (AI) mempunyai potensi besar untuk merevolusikan operasi perniagaan. Malah, satu kajian mendapati bahawa 67% daripada perusahaan menjangkakan kes penggunaan AI dan pembelajaran mesin akan meningkat pada tahun akan datang. Teknologi ini mempunyai kelebihan dalam meningkatkan kecekapan perniagaan, menjana pandangan, meningkatkan daya saing pasaran dan menyampaikan pengalaman pelanggan yang diperibadikan.

Walau bagaimanapun, dalam industri yang sangat dikawal selia, syarikat menghadapi cabaran unik yang berkaitan dengan kebolehjelasan AI. Industri seperti perkhidmatan kewangan, insurans dan penjagaan kesihatan mesti menggunakan platform membuat keputusan yang telus dan boleh diaudit untuk mematuhi peraturan yang ketat dan piawaian pematuhan. Hari ini, terdapat banyak penyelesaian kecerdasan buatan yang mengautomasikan proses dan keputusan perniagaan, tetapi hanya sedikit yang memberikan penjelasan yang bermakna. Walaupun penuh dengan potensi, perniagaan tidak boleh melupakan sebab di sebalik keputusan dan ramalan automatik.

Bersedia untuk peraturan masa depan

Hari ini, organisasi politik dan masyarakat sama-sama meminta ketelusan yang lebih tinggi dalam AI. Selain itu, kerajaan dan pengguna mahukan keterlihatan yang lebih besar ke dalam algoritma di sebalik kelulusan kredit dan pinjaman mereka, kempen pemasaran dan teknologi rumah pintar. Perundangan yang dicadangkan dalam Akta Akauntabiliti Algoritma A.S. dan undang-undang AI global EU berusaha untuk mewujudkan piawaian untuk hasil AI yang selamat, beretika dan telus. Walau bagaimanapun, kerajaan hanya mula mencari cara untuk mengawal selia AI kerana kes penggunaan masih berkembang dan muncul.

Sebagai contoh, Majlis Bandaraya New York meluluskan rang undang-undang yang menyasarkan algoritma kecerdasan buatan yang digunakan dalam alatan pekerjaan. Undang-undang, yang berkuat kuasa pada 2023, memerlukan majikan untuk mengupah juruaudit bebas untuk menjalankan penilaian, serta alat kecerdasan buatan untuk menilai pemohon pekerjaan dan pekerja semasa. Undang-undang memerlukan audit berat sebelah terhadap alat kecerdasan buatan yang digunakan untuk menyaring pemohon kerja atau mempromosikan pekerja. Denda sehingga $1,500 akan dikenakan untuk algoritma AI yang berat sebelah atau penggunaan alat sedemikian tanpa pemberitahuan terlebih dahulu kepada pekerja dan calon. Dalam jangka pendek, apabila peraturan muncul dan piawaian berkembang, perniagaan harus menumpukan pada cara untuk meningkatkan ketelusan dan bersedia untuk peraturan masa depan.

Satu cabaran dengan memanfaatkan pembelajaran mesin ialah, mengikut definisi, ia dibina berdasarkan berat sebelah. Walaupun tidak semua berat sebelah berbahaya, apabila ia menghasilkan keputusan yang memihak atau merugikan kelas yang dilindungi, seperti jantina, bangsa, umur, dsb., dan mempunyai kesan negatif kepada seseorang, seperti kelulusan ujian klinikal, pengurusan kesihatan, pinjaman Ia menjadi memudaratkan apabila kelayakan atau kredit diluluskan.

Keperluan untuk melindungi algoritma dan mencegah berat sebelah berbahaya sudah diketahui umum. Tetapi secara berkesan memerangi berat sebelah berbahaya memerlukan pemahaman data di sebalik setiap keputusan atau ramalan. Untuk mendapatkan ketelusan kritikal, perniagaan mesti mempunyai keterlihatan ke dalam algoritma yang terdiri daripada pembelajaran mesin dan peraturan perniagaan yang mendorong keputusan untuk menyediakan jejak audit yang lengkap. Sebagai contoh, syarikat insurans yang menggunakan AI untuk kelulusan tuntutan mesti dapat menjelaskan dengan jelas mengapa setiap keputusan dibuat.

Bagaimana masalah "kotak hitam" membebankan inovasi AI

Dengan kecerdasan buatan, banyak perusahaan menghadapi masalah di mana penyelesaian AI mereka memberikan ramalan dan membolehkan automasi, tetapi tidak dapat menjelaskan mengapa Ia meletakkan perniagaan berisiko membahayakan undang-undang atau reputasi yang ketara dengan membuat keputusan tertentu dan faktor yang mempengaruhi hasilnya.

Perniagaan perlu dapat melihat dengan jelas sebab di sebalik keputusan untuk memastikan keputusan algoritma mengembalikan hasil yang diharapkan. Mengubah kotak hitam AI menjadi "kotak kaca" yang telus dan boleh dijelaskan adalah penting untuk mencegah bahaya kepada pelanggan dan pengguna serta mengurangkan risiko kepada syarikat dan jenama.

Pada asasnya, pembelajaran mesin membuat ramalan berdasarkan data sejarah. "Kesaksamaan melalui kesedaran" merujuk kepada pendekatan yang membolehkan perniagaan menentukan sama ada model berprestasi sama baik untuk pelbagai kumpulan dengan ciri yang dikongsi melalui penggunaan medan metadata, walaupun ciri tersebut tidak digunakan secara langsung dalam model. Kesedaran ini membantu perniagaan mengelakkan, mengukur dan mengurangkan berat sebelah berbahaya sebelum ia membawa kepada keputusan yang tidak adil atau berbahaya.

Visi yang jelas untuk masa depan AI perusahaan

Memandangkan AI semakin digunakan di seluruh perusahaan, perusahaan mesti mendapatkan ketelusan dan kebolehauditan daripada AI untuk memastikan keputusan tidak tertakluk kepada Kesan berat sebelah yang berbahaya . Hanya apabila kami mengutamakan dan melaksanakan penyelesaian AI yang boleh dijelaskan dan telus, kami boleh mengurangkan berat sebelah berbahaya, mengurangkan risiko dan menggalakkan kepercayaan.

Sementara pengambilan pekerja berasaskan kemahiran semakin popular, mitos berterusan tentang keberkesanan dan kebaikan amalan ini. Menangani salah tanggapan ini adalah kunci untuk mempromosikan perubahan yang diperlukan untuk mewujudkan tenaga kerja yang lebih adil dan mampan.

Kehidupan untuk Graduan

Pasaran buruh A.S. akan terus menyesuaikan diri pada tahun 2022. Tinjauan lebih daripada 2,300 eksekutif mendapati bahawa 65% menjangkakan untuk menambah jawatan tetap baharu pada separuh pertama tahun ini. Terdapat juga 33% orang yang bersaing untuk mengisi kekosongan pekerjaan, dan pada masa ini terdapat lebih daripada 10.8 juta peluang pekerjaan di Amerika Syarikat. Amalan perekrutan tradisional bukanlah cara yang berdaya maju untuk memenuhi keperluan tenaga kerja. Syarikat mesti memodenkan pendekatan mereka untuk kekal berdaya saing. Ini bermakna menerima pengambilan pekerja berasaskan kemahiran.

Pengambilan pekerja berasaskan kemahiran menekankan kemahiran teknikal dan kecekapan teras calon, bukannya ijazah atau sijil, sebagai faktor paling kritikal untuk kejayaan pekerjaan. Amalan ini memerlukan pasukan pengambilan pekerja untuk mentakrifkan kemahiran yang diperlukan dan pilihan untuk sesuatu peranan dan menilai secara objektif kemahiran ini untuk meminimumkan berat sebelah dalam proses pengambilan pekerja.

Syarikat terkemuka semakin beralih kepada pengambilan pekerja berasaskan kemahiran, dan di bawah ini kita akan membincangkan beberapa mitos terbesar tentang menerima pakai pendekatan berasaskan kemahiran dan cara menanganinya untuk memacu anjakan budaya dalam syarikat anda.

1. Pengambilan berasaskan kemahiran adalah tidak adil kepada graduan kolej.

Pengambilan berdasarkan kemahiran bukanlah tentang mengecualikan graduan kolej daripada pertimbangan atau mengurangkan halangan untuk masuk. Ia mengenai menyatakan kemahiran khusus yang diwakili oleh ijazah. Ini membolehkan kedua-dua pemegang ijazah dan pencari kerja yang telah memperoleh kemahiran melalui cara lain untuk dipertimbangkan untuk jawatan tersebut. Ini membantu mendemokrasikan peluang ekonomi untuk semua dan mengembangkan kumpulan bakat yang tersedia untuk syarikat.

Jawatan yang tidak memerlukan kelayakan akademik pada masa lalu kini memerlukan ijazah akademik empat tahun, menyemarakkan ekonomi prestij dan menyebabkan syarikat membayar lebih kos. Di bawah model ini, banyak pekerjaan mudah alih yang pernah naik ke atas tidak dapat dicapai oleh semua orang, hanya tersedia untuk mereka yang mampu menanggung kenaikan kos pengajian tinggi. Ia juga mengecualikan bakat daripada komuniti berpendapatan rendah, terutamanya orang kulit berwarna. Pengambilan pekerja berasaskan kemahiran menawarkan cara praktikal untuk menangani ketidaksamaan ini dan memulihkan pencalonan kepada 66% rakyat Amerika tanpa ijazah sarjana muda, termasuk lebih daripada 75% orang Kulit Hitam dan lebih daripada 80% orang Hispanik .

2. Pengambilan pekerja berasaskan kemahiran membawa kepada pengambilan pekerja yang lemah dan menjejaskan perniagaan.

Mengambil pendekatan berasaskan kemahiran membolehkan saringan dan pengambilan calon yang lebih berkesan. Pengambilan pekerja berasaskan kemahiran adalah lima kali lebih meramalkan prestasi masa depan daripada pengambilan pekerja berasaskan pendidikan dan 2.5 kali lebih berkuasa daripada pengambilan pekerja berdasarkan pengalaman. Selain itu, banyak perniagaan melaporkan bahawa pekerja tanpa ijazah adalah sama produktifnya dengan graduan kolej, dan dalam beberapa kes malah lebih produktif.

Kelebihan lain pengambilan pekerja berasaskan kemahiran termasuk: mengurangkan masa pengambilan pekerja, peningkatan penglibatan pekerja dan perolehan yang lebih rendah.

3. Pengambilan berasaskan kemahiran bukanlah strategi pemerolehan bakat yang realistik.

Mungkin bukan pada masa lalu. Dari segi sejarah, pasukan merekrut telah mengambil perspektif hiper-tempatan mengenai usaha merekrut. Dengan kerja jauh yang semakin meningkat, syarikat boleh melancarkan carian calon yang lebih luas untuk mencari orang yang sepadan dengan keperluan kemahiran pasaran.

Dari perspektif makro, ini mungkin kelihatan seperti membentuk perkongsian dengan perniagaan pembangunan tenaga kerja di kawasan kurang sumber untuk membina saluran paip calon dengan kemahiran yang pelbagai untuk mengisi peranan jauh. Melalui perkongsian ini, syarikat boleh memacu hasil perniagaan dan ekuiti ekonomi secara serentak.

Walaupun mereka bentuk dan melancarkan pengambilan pekerja berasaskan kemahiran mengambil masa dan memerlukan pembelajaran dan pelepasan yang disengajakan, syarikat, pekerja dan komuniti anda akhirnya akan mendapat manfaat. Melabur dalam pengambilan pekerja berasaskan kemahiran sekarang akan menyediakan perniagaan untuk pekerjaan yang didorong oleh kemahiran pada masa hadapan dan mewujudkan ekonomi di mana semua rakyat Amerika boleh mengambil bahagian secara bermakna pada masa hadapan.

Atas ialah kandungan terperinci Cara Mencegah Bias AI dengan Cara yang Adil. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!