Mari bercakap tentang AI anti-penipuan yang boleh dijelaskan

Dalam beberapa tahun kebelakangan ini, kecerdasan buatan telah berkembang pesat dan digunakan sebagai alat inovatif yang berkuasa dalam banyak kes penggunaan dalam pelbagai industri. Walau bagaimanapun, tanggungjawab yang besar selalunya memerlukan keupayaan yang besar. Terima kasih kepada AI dan pembelajaran mesin, teknologi anti-penipuan menjadi lebih tepat dan berkembang lebih pantas berbanding sebelum ini. Teknologi pemarkahan masa nyata membolehkan pemimpin perniagaan mengenal pasti penipuan dengan serta-merta. Walau bagaimanapun, penggunaan pembuatan keputusan dipacu AI-ML juga menimbulkan kebimbangan tentang ketelusan. Dan, apabila model ML muncul dalam persekitaran berkepentingan tinggi, keperluan untuk kebolehtafsiran juga timbul.

Apabila bilangan keputusan kritikal yang dibuat oleh mesin terus meningkat, kebolehjelasan dan kefahaman menjadi semakin penting. Penyelidik teknologi Tim Miller berkata: Kefahaman ialah tahap di mana manusia boleh memahami sebab-sebab membuat keputusan. Oleh itu, membangunkan kebolehtafsiran model ML adalah penting untuk memudahkan pembangunan penyelesaian automasi yang boleh dipercayai.

Pembangun, pengguna dan pemimpin harus memahami maksud dan proses membuat keputusan pencegahan penipuan. Walau bagaimanapun, model ML dengan lebih sedikit parameter sukar untuk difahami oleh kebanyakan orang. Walau bagaimanapun, komuniti penyelidikan AI yang boleh dijelaskan telah berulang kali menyatakan bahawa disebabkan oleh pembangunan alat kefahaman, model kotak hitam bukan lagi kotak hitam. Dengan bantuan alatan ini, pengguna boleh memahami dan lebih mempercayai model ML yang digunakan untuk membuat keputusan penting.

SHAP of Things

SHAP (SHapley Additive exPlanations) ialah salah satu alat penjelasan model-agnostik yang paling biasa digunakan hari ini. Ia mengira nilai Sharply daripada permainan koperasi, berkongsi pengaruh ciri secara sama rata. Algoritma TreeExplainer SHAP memberi peluang untuk mendapatkan penjelasan tempatan dalam masa polinomial apabila kami menggunakan kaedah ensemble untuk memerangi penipuan berdasarkan data jadual. Dengan alat ini, hanya anggaran yang mungkin. Ini adalah kemajuan yang besar berbanding dengan penjelasan berasaskan rangkaian saraf.

Kotak putih biasanya merujuk kepada enjin peraturan yang mengira skor penipuan. Pada asasnya, kotak hitam dan kotak putih menghasilkan hasil yang berbeza kerana kotak hitam menghasilkan hasil berdasarkan apa yang mesin pelajari daripada data, manakala kotak putih menghasilkan skor berdasarkan peraturan yang telah ditetapkan. Kita boleh membangunkan kedua-dua cara berdasarkan perbezaan ini. Contohnya, melaraskan peraturan berdasarkan cincin penipuan yang ditemui oleh model kotak hitam.

Ujian kotak hitam digabungkan dengan SHAP boleh membantu kami memahami tingkah laku global model dan mendedahkan ciri utama model yang digunakan untuk mengesan aktiviti penipuan. Pada masa yang sama, bias yang tidak diingini dalam model juga boleh didedahkan. Sebagai contoh, model mungkin mendiskriminasi demografi tertentu. Ia boleh mengesan situasi sedemikian melalui tafsiran model global, sekali gus menghalang ramalan yang tidak tepat.

Selain itu, ia membantu kami memahami ramalan individu yang dibuat oleh model. Semasa proses penyahpepijatan model ML, saintis data boleh memerhati setiap ramalan secara bebas dan mentafsirkannya dengan sewajarnya. Sumbangan cirinya boleh membantu kami melihat apa yang model itu lakukan dan kami boleh mengembangkan lebih jauh daripada input ini. Dengan memanfaatkan SHAP, pengguna akhir bukan sahaja boleh mendapatkan ciri asas model, tetapi juga memahami bagaimana setiap ciri (ke arah mana) mempengaruhi kebarangkalian penipuan keluaran model.

Faktor Keyakinan

Akhir sekali, dengan bantuan SHAP, keyakinan boleh diperoleh daripada pelanggan dengan mendapat kepercayaan terhadap model yang berjaya. Secara umumnya, jika kita memahami cara sesuatu produk berfungsi, kita lebih yakin dengannya. Orang tidak suka apa yang mereka tidak faham. Dengan bantuan alat tafsiran, kita boleh melihat ke dalam kotak hitam, memahami dan mempercayainya dengan lebih baik. Dan, dengan memahami model, kami boleh terus memperbaikinya.

Explainable Booster (EBM) ialah alternatif untuk menggunakan kecerunan SHAP untuk meningkatkan model ML. Ini adalah produk utama InterpretML (syarikat kecerdasan buatan Microsoft) dan merupakan kotak kaca yang dipanggil. Nama Kotak Kaca berasal dari hakikat bahawa sifatnya boleh ditafsirkan kerana strukturnya. Menurut dokumentasi asal, "EBM secara amnya adalah tepat seperti model kotak hitam tercanggih sambil mengekalkan kebolehtafsiran penuh Walaupun EBM lebih perlahan untuk dilatih daripada algoritma moden yang lain, ia sangat padat dan pantas dalam ramalan. Model boleh tafsir tempatan - tafsiran model-agnostik (LIME) juga merupakan alat yang baik yang boleh digunakan untuk tafsiran kotak hitam. Walau bagaimanapun, ia lebih popular untuk model data tidak berstruktur.

Dengan memanfaatkan alatan di atas bersama titik data yang telus, organisasi boleh membuat keputusan dengan yakin. Semua pihak berkepentingan mesti tahu bagaimana alat mereka menghasilkan hasil yang optimum. Memahami ML kotak hitam dan pelbagai teknologi yang digabungkan dengannya boleh membantu organisasi memahami dengan lebih baik cara mereka mencapai keputusan untuk membantu mencapai matlamat perniagaan.

Komen

Bagi manusia, perkara yang tidak diketahui selalunya menakutkan dan tidak boleh dipercayai. Model algoritma pembuatan keputusan yang dipacu oleh AI-ML adalah seperti "kotak hitam". Terutamanya dalam persekitaran berisiko tinggi seperti bidang pencegahan penipuan, penerapan teknologi AI dan ML menjadi lebih sukar. Pengenalan alat kebolehtafsiran secara beransur-ansur menjadikan "kotak hitam" telus, yang sebahagian besarnya telah menghilangkan keraguan dan kebimbangan pengguna, dan juga mewujudkan syarat untuk pembangunan "kotak hitam" itu sendiri.

Atas ialah kandungan terperinci Mari bercakap tentang AI anti-penipuan yang boleh dijelaskan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!