Memperkenalkan konsep pengesahan silang dan kaedah pengesahan silang biasa

Pengesahan silang ialah kaedah penilaian prestasi model pembelajaran mesin yang biasa digunakan. Ia membahagikan set data kepada berbilang subset tidak bertindih, sebahagian daripadanya berfungsi sebagai set latihan dan selebihnya berfungsi sebagai set ujian. Melalui latihan dan ujian berbilang model, prestasi purata model diperoleh sebagai anggaran prestasi generalisasi. Pengesahan silang boleh menilai dengan lebih tepat keupayaan generalisasi model dan mengelakkan masalah terlalu muat atau kurang muat.

Kaedah cross-validation yang biasa digunakan adalah seperti berikut:

1 Simple cross-validation

Biasanya, kami membahagikan set data kepada set latihan dan set ujian, yang mana set latihan. menyumbang 70% daripada jumlah data kepada 80%, dan data selebihnya digunakan sebagai set ujian. Gunakan set latihan untuk melatih model, dan kemudian gunakan set ujian untuk menilai prestasi model. Satu kelemahan pendekatan ini ialah ia sangat sensitif terhadap cara set data dibahagikan. Jika pemisahan set latihan dan ujian tidak sesuai, ia mungkin membawa kepada penilaian prestasi model yang tidak tepat. Oleh itu, pemilihan kaedah segmentasi yang sesuai adalah sangat penting untuk mendapatkan keputusan penilaian model yang tepat.

2. Pengesahan silang lipatan K

Bahagikan set data kepada bahagian K, gunakan satu bahagian sebagai set ujian setiap kali, dan bahagian K-1 yang tinggal sebagai set latihan, dan kemudian latih model dan ujian. Ulang K kali, menggunakan bahagian yang berbeza sebagai set ujian setiap kali, dan akhirnya purata keputusan penilaian K untuk mendapatkan keputusan penilaian prestasi model. Kelebihan pendekatan ini ialah ia tidak sensitif terhadap cara set data dibahagikan, membolehkan penilaian prestasi model yang lebih tepat.

3. Kaedah bootstrapping cross-validation

Kaedah ini terlebih dahulu memilih n sampel daripada set data dengan penggantian sebagai set latihan, dan sampel yang selebihnya digunakan sebagai set ujian untuk melatih dan menguji model. Kemudian letakkan semula set ujian ke dalam set data, pilih n sampel secara rawak sebagai set latihan, dan sampel yang tinggal sebagai set ujian, ulangi K kali. Akhir sekali, keputusan penilaian K dipuratakan untuk mendapatkan keputusan penilaian prestasi model. Kelebihan pengesahan silang bootstrapping ialah ia boleh menggunakan sepenuhnya semua sampel dalam set data, tetapi kelemahannya ialah ia menggunakan semula sampel, yang mungkin membawa kepada varians yang lebih besar dalam keputusan penilaian.

4. Tinggalkan satu-keluar pengesahan silang

Kaedah ini adalah menggunakan setiap sampel sebagai set ujian untuk melatih dan menguji model, mengulangi K kali. Akhir sekali, keputusan penilaian K dipuratakan untuk mendapatkan keputusan penilaian prestasi model. Kelebihan pengesahan silang leave-one-out ialah ia lebih tepat dalam menilai set data kecil Kelemahannya ialah ia memerlukan sejumlah besar latihan dan ujian model, dan kos pengiraan adalah tinggi.

5. Pengesahan silang berstrata

Kaedah ini berdasarkan pengesahan silang K-fold, menstratkan set data mengikut kategori untuk memastikan perkadaran setiap kategori dalam set latihan dan set ujian adalah sama. Kaedah ini sesuai untuk masalah pelbagai klasifikasi di mana bilangan sampel antara kelas tidak seimbang.

6. Pengesahan silang siri masa

Kaedah ini ialah kaedah pengesahan silang untuk data siri masa Ia mengelakkan penggunaan data masa hadapan untuk melatih model dengan membahagikan set latihan dan set ujian dalam susunan kronologi. Pengesahan silang siri masa biasanya menggunakan kaedah tetingkap gelongsor, iaitu, menggelongsor set latihan dan ujian yang ditetapkan ke hadapan mengikut langkah masa tertentu, dan berulang kali melatih dan menguji model.

7. Pengesahan silang berulang

Kaedah ini berdasarkan pengesahan silang K-lipat, pengesahan silang berulang beberapa kali, setiap kali menggunakan benih rawak yang berbeza atau kaedah pembahagian set data yang berbeza, dan akhirnya berbilang. keputusan penilaian prestasi model diperoleh dengan purata keputusan penilaian. Pengesahan silang berulang boleh mengurangkan varians keputusan penilaian prestasi model dan meningkatkan kebolehpercayaan penilaian.

Ringkasnya, kaedah pengesahan silang ialah kaedah penilaian model yang sangat penting dalam bidang pembelajaran mesin. Ia boleh membantu kami menilai prestasi model dengan lebih tepat dan mengelakkan masalah pemasangan yang berlebihan atau kurang. Kaedah pengesahan silang yang berbeza sesuai untuk senario dan set data yang berbeza, dan kita perlu memilih kaedah pengesahan silang yang sesuai mengikut situasi tertentu.

Atas ialah kandungan terperinci Memperkenalkan konsep pengesahan silang dan kaedah pengesahan silang biasa. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!