Rangkaian saraf dalam untuk penentukuran klasifikasi dan penentukuran regresi

Rangkaian saraf dalam ialah model pembelajaran mesin berkuasa yang boleh mempelajari ciri dan corak secara automatik. Walau bagaimanapun, dalam aplikasi praktikal, output rangkaian saraf selalunya perlu ditentukur untuk meningkatkan prestasi dan kebolehpercayaan. Penentukuran klasifikasi dan penentukuran regresi adalah teknik penentukuran yang biasa digunakan, dan ia mempunyai prinsip dan aplikasi yang berbeza. Artikel ini akan memperkenalkan secara terperinci prinsip kerja dan senario aplikasi kedua-dua teknologi ini.

1. Penentukuran pengelasan

Penentukuran pengelasan adalah untuk meningkatkan kebolehpercayaan dan ketepatan pengelas, yang dicapai dengan melaraskan output vektor pengedaran kebarangkalian oleh pengelas. Dalam masalah klasifikasi, rangkaian saraf mengeluarkan vektor yang mewakili kebarangkalian yang diramalkan bagi setiap kelas. Walau bagaimanapun, kebarangkalian ini tidak selalu tepat dan mungkin berat sebelah terlalu tinggi atau terlalu rendah. Matlamat penentukuran klasifikasi adalah untuk melaraskan kebarangkalian ini untuk menjadikannya lebih dekat kepada taburan kebarangkalian sebenar. Ini meningkatkan prestasi pengelas, menjadikannya lebih dipercayai dalam meramalkan kebarangkalian kelas yang berbeza.

Kaedah penentukuran klasifikasi yang biasa digunakan termasuk dua yang berikut:

1 Penskalaan suhu

Penskalaan suhu ialah teknologi penentukuran klasifikasi yang mudah dan berkesan berdasarkan rangkaian keluaran, dan prinsipnya adalah berskala. , dengan itu melaraskan keyakinan pengelas. Khususnya, penskalaan suhu menskalakan output lapisan terakhir rangkaian saraf dengan memperkenalkan parameter suhu T, menukarkan kebarangkalian ramalan asal p kepada kebarangkalian q yang ditentukur:

q_i=\frac{p_i^{\frac{1}{T}}}{\sum_{j=1}^K p_j^{\frac{1}{T}}}

di mana, i mewakili kategori ke-i, K mewakili jumlah bilangan kategori. Apabila T=1, penskalaan suhu tidak akan mengubah kebarangkalian ramalan asal Apabila T>1, penskalaan suhu akan meningkatkan keyakinan pengelas, menjadikan kebarangkalian ramalan lebih tertumpu dan yakin apabila T

Kelebihan penskalaan suhu ialah ia mudah dilaksanakan, kos rendah, dan boleh ditentukur tanpa melatih semula model. Walau bagaimanapun, penskalaan suhu tidak dijamin untuk meningkatkan prestasi pengelas secara berkesan dalam semua kes kerana ia menganggap bahawa ralat semua kategori adalah bebas dan pada skala yang sama, yang tidak semestinya benar dalam aplikasi praktikal.

2.Platt calibration (Platt scaling)

Platt calibration ialah kaedah penentukuran klasifikasi yang agak tradisional berdasarkan model regresi logistik, yang sesuai dengan output rangkaian neural. Khususnya, penentukuran Platt memperkenalkan model regresi logistik binari untuk menyesuaikan output rangkaian saraf untuk mendapatkan taburan kebarangkalian baharu. Input model regresi logistik ialah output atau ciri rangkaian saraf, dan output ialah nilai kebarangkalian antara 0 dan 1. Dengan memasang model regresi logistik, nilai kebarangkalian yang diperbetulkan untuk setiap kategori boleh diperolehi.

Kelebihan penentukuran Platt ialah ia boleh menganggarkan kebarangkalian ramalan dengan lebih tepat dan sesuai untuk pelbagai masalah pengelasan yang berbeza. Walau bagaimanapun, penentukuran Platt memerlukan pemasangan model, jadi kos pengiraan adalah tinggi, dan sejumlah besar data berlabel diperlukan untuk melatih model regresi logistik.

2. Penentukuran regresi

Penentukuran regresi merujuk kepada membetulkan output model regresi untuk menjadikannya lebih dipercayai dan tepat. Dalam masalah regresi, output rangkaian saraf biasanya merupakan nilai sebenar berterusan yang mewakili nilai pembolehubah sasaran yang diramalkan. Walau bagaimanapun, nilai ramalan ini mungkin mempunyai bias atau varians, memerlukan penentukuran regresi untuk meningkatkan ketepatan dan kebolehpercayaan ramalan.

Kaedah penentukuran regresi yang biasa digunakan termasuk dua yang berikut:

1. Penentukuran Purata Sejarah

Penentukuran Purata Sejarah ialah penggunaan yang mudah dan berkesan, dan penentukuran datanya adalah teknologi yang mudah dan berkesan. min dan varians pembolehubah sasaran, dan kemudian laraskan nilai ramalan rangkaian saraf. Secara khusus, penentukuran purata sejarah memperoleh faktor penentukuran dengan mengira min dan varians data sejarah, dan kemudian membetulkan nilai ramalan rangkaian saraf untuk menjadikannya lebih dekat kepada nilai sasaran sebenar. Kelebihan penentukuran purata sejarah ialah ia mudah dan mudah digunakan, tidak memerlukan data latihan tambahan dan kos pengiraan, dan sesuai untuk pelbagai masalah regresi yang berbeza.

2. Penentukuran Regresi Linear

Penentukuran regresi linear ialah teknologi penentukuran regresi berdasarkan model regresi linear Prinsipnya adalah untuk memetakan nilai ramalan rangkaian saraf dengan menyesuaikan model nilai linear yang sebenar . Secara khusus, penentukuran regresi linear menggunakan data berlabel tambahan untuk melatih model regresi linear, mengambil nilai ramalan rangkaian saraf sebagai input dan nilai sasaran sebenar sebagai output untuk mendapatkan fungsi pemetaan linear, dengan itu melaksanakan ramalan pada ramalan rangkaian saraf. penentukuran.

Kelebihan penentukuran regresi linear ialah ia dapat menganggarkan hubungan antara nilai ramalan dan nilai sasaran dengan lebih tepat, dan sesuai untuk pelbagai masalah regresi. Walau bagaimanapun, pemasangan model regresi linear memerlukan sejumlah besar data berlabel dan kos pengiraan, dan mungkin tidak berkesan untuk masalah regresi dengan hubungan bukan linear.

Secara amnya, penentukuran klasifikasi dan penentukuran regresi ialah teknik penentukuran biasa dalam rangkaian saraf dalam, yang boleh meningkatkan prestasi dan kebolehpercayaan model. Penentukuran pengelasan terutamanya menjadikan kebarangkalian ramalan lebih tepat dengan melaraskan keyakinan pengelas penentukuran regresi terutamanya menjadikan hasil ramalan lebih dekat kepada nilai sasaran sebenar dengan membetulkan sisihan dan varians nilai ramalan. Dalam aplikasi praktikal, adalah perlu untuk memilih kaedah penentukuran yang sesuai berdasarkan masalah tertentu dan menggabungkannya dengan teknik lain untuk mengoptimumkan prestasi model.

Atas ialah kandungan terperinci Rangkaian saraf dalam untuk penentukuran klasifikasi dan penentukuran regresi. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!