Bagaimana untuk membuat kecerdasan buatan boleh dijelaskan?

Wolfgang Berner, CTO syarikat RegTech Hawk: AI, berkata jika anda benar-benar kebolehjelasan amat penting untuk banyak aplikasi.

Berner berkata: “Dalam bidang yang sangat dikawal selia seperti anti pengubahan wang haram, adalah wajar untuk mempertimbangkan ketelusan dan kebolehjelasan dalam penggunaan kecerdasan buatan Apabila keputusan AI terlalu terputus hubungan daripada data asal dan cara algoritma berfungsi, Apabila terdapat kekurangan ketelusan, timbul kebimbangan mengenai "AI kotak hitam" tipikal ini "

Hawk AI percaya bahawa kunci kepada industri yang mematuhi, kepercayaan dan penerimaan ialah tahap tinggi ketelusan. Jadi bagi syarikat, keperluan untuk kebolehjelasan AI melangkaui keperluan peraturan semata-mata.

Dengan kecerdasan buatan yang boleh difahami, institusi kewangan boleh mempunyai gambaran keseluruhan dan kawalan walaupun model kompleks seperti rangkaian saraf. Untuk Hawk AI, kebolehjelasan terdiri daripada dua aspek - apakah rasional untuk keputusan individu yang didorong oleh AI? Bagaimanakah algoritma yang membantu kecerdasan buatan dibangunkan?

Hawk AI berkata: "Untuk Hawk AI, ini jelas - hanya perkara yang boleh dijelaskan secara teknikal akhirnya akan diterima. Kriteria yang tepat untuk keputusan atau kebarangkalian statistik risiko tertentu dan komposisi algoritma Sebagai penting kerana dokumentasi lengkap proses membuat keputusan AI adalah, semuanya dinyatakan dalam bahasa yang jelas dan mudah difahami dan bukannya istilah teknikal semata-mata.”

Syarikat percaya bahawa setiap butiran dan setiap Sumber data semuanya perlu boleh disahkan – contohnya, sama ada nilai tertentu jauh lebih tinggi atau lebih rendah berbanding kumpulan sebaya tertentu. Mengapa AI menganggap nilai jangkaan tertentu dan bagaimana nilai ini berkaitan antara satu sama lain mestilah telus. Gambar data mestilah begitu jelas sehingga pegawai pematuhan akan menggunakan data yang sama untuk membuat keputusan yang sama.

Selain itu, maklum balas yang konsisten dan proses pengesahan membantu untuk menambah baik keputusan secara berterusan – jadi AI belajar terus daripada keputusan pasukan pematuhan dan boleh menyokongnya dengan lebih baik pada masa hadapan.

Haw menyebut bahawa AI bukan sahaja mestilah telus pada permulaan aplikasinya - kerana ia bertambah baik secara bebas dengan terdedah kepada data baharu - tetapi juga perlu memahami pengoptimuman tersebut. Untuk tujuan ini, syarikat itu mendakwa bahawa setiap proses perubahan dalam AI juga didokumenkan dalam perisian dan memerlukan kelulusan yang jelas. Oleh itu, tanpa pasukan pematuhan dapat memahami dan mengawalnya, AI tidak akan pernah berubah.

Hawk AI menyimpulkan: "AI anti-pengubahan wang haram sudah sedia - dengan Hawk AI, ia telus dan selamat Atas sebab ini, Hawk AI bercakap tentang "kotak putih AI" yang berkaitan dengan kecerdasan buatan , teknologinya sepenuhnya boleh difahami oleh pasukan pematuhan berbanding dengan "kotak hitam AI", jadi perisian kami menyediakan kawalan dan keselamatan yang lengkap Penerapan kecerdasan buatan dalam kewangan merevolusikan perjuangan menentang jenayah

"Didorong oleh teknologi anti-pengubahan wang haram bukan sahaja dengan ketara mengatasi sistem tradisional dari segi kecekapan dan keberkesanan, ia juga sangat berpandangan ke hadapan kerana keupayaannya untuk belajar daripada corak tingkah laku jenayah. Oleh itu, dalam jangka panjang, penggunaan kecerdasan buatan untuk memerangi jenayah kewangan akan menjadi standard industri. Teknologi ini telah terbukti dalam amalan selama bertahun-tahun. Malah dalam institusi kewangan yang sangat besar ia sudah digunakan hari ini, atau sekurang-kurangnya ditubuhkan dalam perintis pertama. ”

Hawk AI telah bekerjasama dengan Diebold Nixdorf, peneraju dalam membolehkan perdagangan yang berkaitan dalam kewangan dan runcit, untuk meluaskan jangkauan penyelesaian AML bekas.

Atas ialah kandungan terperinci Bagaimana untuk membuat kecerdasan buatan boleh dijelaskan?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!