Rumah  >  Artikel  >  Peranti teknologi  >  Penggunaan fungsi kehilangan biasa dalam rangkaian neural berkembar

Penggunaan fungsi kehilangan biasa dalam rangkaian neural berkembar

PHPz
PHPzke hadapan
2024-01-23 13:06:181036semak imbas

Penggunaan fungsi kehilangan biasa dalam rangkaian neural berkembar

Rangkaian saraf berkembar ialah rangkaian saraf dengan struktur dwi-cawangan, yang sering digunakan untuk pengukuran persamaan, pengelasan dan tugasan mendapatkan semula. Kedua-dua cabang rangkaian tersebut mempunyai struktur dan parameter yang sama. Selepas input melalui dua cawangan masing-masing, persamaan dikira melalui lapisan ukuran persamaan (seperti jarak Euclidean, jarak Manhattan, dll.). Semasa latihan, fungsi kehilangan kontrastif atau fungsi kehilangan tiga kali ganda biasanya digunakan.

Fungsi kehilangan kontras ialah fungsi kehilangan klasifikasi binari untuk rangkaian saraf Siam Ia bertujuan untuk memaksimumkan persamaan sampel yang serupa kepada hampir 1 dan persamaan jenis sampel yang berbeza kepada hampir 0. Ungkapan matematiknya adalah seperti berikut:

L_{con}(y,d)=ycdot d^2+(1-y)cdotmax(m-d,0)^2

Fungsi kehilangan ini digunakan untuk mengukur dua Persamaan antara sampel dioptimumkan mengikut kategori sampel. Antaranya, y mewakili sama ada sampel tergolong dalam kategori yang sama, d mewakili persamaan antara dua sampel, dan m mewakili nilai sempadan yang telah ditetapkan. Apabila y=1, matlamat fungsi kehilangan adalah untuk menjadikan d sekecil mungkin, walaupun dua sampel kategori yang sama lebih serupa. Pada masa ini, nilai fungsi kehilangan boleh dinyatakan dengan kuasa dua d, iaitu nilai fungsi kehilangan ialah d^2. Apabila y=0, matlamat fungsi kehilangan adalah untuk menjadikan d lebih besar daripada m, walaupun sampel dua kategori berbeza adalah tidak serupa yang mungkin. Pada masa ini, apabila d kurang daripada m, nilai fungsi kehilangan ialah d^2, menunjukkan persamaan antara sampel apabila d lebih besar daripada m, nilai fungsi kehilangan ialah 0, menunjukkan bahawa persamaan antara sampel telah melebihi tahap yang telah ditetapkan. Dengan mengandaikan nilai sempadan m, kerugian tidak lagi dikira

Fungsi kehilangan tiga kali ganda adalah fungsi kehilangan yang digunakan dalam rangkaian saraf berkembar Ia bertujuan untuk meminimumkan jarak antara sampel daripada jenis yang sama dan memaksimumkan jarak antara sampel yang berlainan jenis jarak antara. Ungkapan matematik bagi fungsi ini adalah seperti berikut:

L_{tri}(a,p,n)=maks(|f(a)-f(p)|^2-|f(a)-f( n )|^2+margin,0)

Antaranya, a mewakili sampel utama, p mewakili jenis sampel yang sama, n mewakili jenis sampel yang berbeza, f mewakili lapisan pengekstrakan ciri rangkaian saraf Siam , |cdot| mewakili jarak Euclidean, margin Mewakili nilai sempadan yang telah ditetapkan. Matlamat fungsi kehilangan adalah untuk menjadikan jarak antara sampel jenis yang sama sekecil mungkin, dan jarak antara sampel jenis yang berbeza seluas mungkin, dan lebih besar daripada margin. Apabila jarak antara sampel jenis yang sama adalah kurang daripada jarak sampel jenis yang berbeza tolak margin, nilai fungsi kehilangan ialah 0 apabila jarak sampel jenis yang sama lebih besar daripada jarak sampel jenis yang berbeza tolak margin, nilai fungsi kerugian ialah perbezaan antara dua jarak.

Fungsi kehilangan kontras dan fungsi kehilangan triplet kedua-duanya adalah fungsi kehilangan rangkaian saraf berkembar yang biasa digunakan. dalam ruang ciri. Dalam aplikasi praktikal, fungsi kehilangan yang sesuai boleh dipilih berdasarkan tugas dan set data tertentu, dan digabungkan dengan teknik lain (seperti peningkatan data, penyelarasan, dll.) untuk pengoptimuman model.

Atas ialah kandungan terperinci Penggunaan fungsi kehilangan biasa dalam rangkaian neural berkembar. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan:
Artikel ini dikembalikan pada:163.com. Jika ada pelanggaran, sila hubungi admin@php.cn Padam