Konsep dan langkah penyebaran balik ralat
Apakah rambatan belakang ralat
Kaedah rambatan balik ralat, juga dikenali sebagai algoritma Rambatan Balik, ialah kaedah biasa untuk melatih rangkaian saraf. Ia menggunakan peraturan rantai untuk mengira ralat antara output rangkaian saraf dan label, dan merambat belakang ralat itu ke setiap lapisan nod demi lapisan untuk mengira kecerunan setiap nod. Kecerunan ini boleh digunakan untuk mengemas kini berat dan berat sebelah rangkaian saraf, membawa rangkaian secara beransur-ansur lebih dekat kepada penyelesaian optimum. Melalui perambatan belakang, rangkaian saraf secara automatik boleh mempelajari dan melaraskan parameter untuk meningkatkan prestasi dan ketepatan model.
Dalam ralat belakang, kami menggunakan peraturan rantai untuk mengira kecerunan.
Kami mempunyai rangkaian saraf yang mempunyai input x, output y dan lapisan tersembunyi. Kami mengira kecerunan setiap nod dalam lapisan tersembunyi melalui perambatan belakang.
Pertama, kita perlu mengira ralat setiap nod. Untuk lapisan keluaran, ralat ialah perbezaan antara nilai sebenar dan nilai ramalan untuk lapisan tersembunyi, ralat ialah ralat lapisan seterusnya didarab dengan berat lapisan semasa. Ralat ini akan digunakan untuk melaraskan pemberat untuk meminimumkan perbezaan antara ramalan dan nilai sebenar.
Kemudian, kita menggunakan peraturan rantai untuk mengira kecerunan. Untuk setiap pemberat, kami mengira sumbangannya kepada ralat dan kemudian menyebarkan kembali sumbangan ini ke lapisan sebelumnya.
Secara khusus, katakan rangkaian saraf kita mempunyai berat w yang menghubungkan dua nod. Kemudian, sumbangan berat ini kepada ralat adalah hasil darab berat dan ralat. Kami menyebarkan kembali sumbangan ini kepada lapisan sebelumnya dengan mendarabkan sumbangan ini dengan hasil keluaran lapisan sebelumnya dan input lapisan semasa.
Dengan cara ini, kita boleh mengira kecerunan setiap nod dan kemudian menggunakan kecerunan ini untuk mengemas kini berat dan berat sebelah rangkaian.
Langkah terperinci perambatan balik ralat
Andaikan kita mempunyai rangkaian neural yang mempunyai lapisan input, lapisan tersembunyi dan lapisan output. Fungsi pengaktifan lapisan input ialah fungsi linear, fungsi pengaktifan lapisan tersembunyi ialah fungsi sigmoid, dan fungsi pengaktifan lapisan output juga merupakan fungsi sigmoid.
Propagasi ke hadapan
1. Masukkan data set latihan ke dalam lapisan input rangkaian saraf dan dapatkan nilai pengaktifan lapisan input.
2. Hantarkan nilai pengaktifan lapisan input ke lapisan tersembunyi, dan dapatkan nilai pengaktifan lapisan tersembunyi melalui transformasi tak linear bagi fungsi sigmoid.
3. Hantarkan nilai pengaktifan lapisan tersembunyi ke lapisan keluaran, dan dapatkan nilai pengaktifan lapisan keluaran melalui transformasi tak linear bagi fungsi sigmoid.
Ralat Kira
Ralat dikira menggunakan kehilangan entropi silang antara pengaktifan lapisan keluaran dan label sebenar. Khususnya, bagi setiap sampel, entropi silang antara label yang diramalkan dan label sebenar dikira, dan kemudian entropi silang ini didarab dengan berat sampel yang sepadan (berat sampel biasanya ditentukan berdasarkan kepentingan dan pengedaran sampel ).
Backpropagation
1. Kira kecerunan setiap nod lapisan keluaran
Mengikut peraturan rantai, untuk setiap nod, kami mengira sumbangannya kepada ralat ini, dan kemudian Kembali ke pro lantai sebelumnya. Khususnya, untuk setiap nod, kami mengira sumbangannya kepada ralat (iaitu, hasil darab berat nod dan ralat), dan kemudian darabkan sumbangan ini dengan hasil darab keluaran lapisan sebelumnya dan input lapisan semasa. Dengan cara ini, kita mendapat kecerunan setiap nod lapisan keluaran. . Khususnya, untuk setiap nod, kami mengira sumbangannya kepada ralat (iaitu, berat nod dikalikan ralat), dan kemudian darabkan sumbangan ini dengan hasil keluaran lapisan sebelumnya dan input lapisan semasa. Dengan cara ini, kita mendapat kecerunan setiap nod dalam lapisan tersembunyi. . boleh mengawal parameter kelajuan kemas kini) untuk mendapatkan jumlah kemas kini berat. Untuk setiap berat sebelah, kami juga perlu mengira kecerunannya pada ralat, dan kemudian darabkan kecerunan ini dengan kadar pembelajaran untuk mendapatkan jumlah kemas kini untuk berat sebelah itu.
Latihan berulang
Ulang proses di atas (perambatan ke hadapan, ralat pengiraan, perambatan belakang, kemas kini parameter) sehingga kriteria berhenti dipenuhi (contohnya, bilangan lelaran maksimum pratetap dicapai atau ralat mencapai pratetap nilai minimum).
Ini adalah proses terperinci penyebaran balik ralat. Perlu diingatkan bahawa dalam aplikasi praktikal, kami biasanya menggunakan struktur rangkaian saraf dan fungsi pengaktifan yang lebih kompleks, serta fungsi kehilangan dan algoritma pembelajaran yang lebih kompleks untuk meningkatkan prestasi dan keupayaan generalisasi model.
Atas ialah kandungan terperinci Konsep dan langkah penyebaran balik ralat. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Bagi anda yang mungkin baru dalam lajur saya, saya secara meluas meneroka kemajuan terkini di AI di seluruh papan, termasuk topik seperti yang terkandung AI, penaakulan AI, terobosan berteknologi tinggi di AI, kejuruteraan segera, latihan AI, Fielding of AI, AI Re Re,

Pelan Tindakan Benua AI yang bercita -cita tinggi Eropah bertujuan untuk mewujudkan EU sebagai pemimpin global dalam kecerdasan buatan. Unsur utama ialah penciptaan rangkaian AI Gigafactories, setiap perumahan sekitar 100,000 cip AI maju - empat kali kapasiti

Pendekatan Bersatu Microsoft ke Aplikasi Ejen AI: Kemenangan yang jelas untuk Perniagaan Pengumuman baru -baru ini Microsoft mengenai keupayaan ejen AI baru terkesan dengan persembahan yang jelas dan bersatu. Tidak seperti banyak pengumuman teknologi yang terjatuh di TE

Memo CEO Shopify Tobi Lütke baru -baru ini dengan berani mengisytiharkan penguasaan AI sebagai harapan asas bagi setiap pekerja, menandakan peralihan budaya yang signifikan dalam syarikat. Ini bukan trend seketika; Ini adalah paradigma operasi baru yang disatukan ke p

Kerangka utama Z17 IBM: Mengintegrasikan AI untuk operasi perniagaan yang dipertingkatkan Bulan lalu, di ibu pejabat New York IBM, saya menerima pratonton keupayaan Z17. Membina kejayaan Z16 (dilancarkan pada tahun 2022 dan menunjukkan pendapatan yang berterusan berkembang

Buka kunci keyakinan yang tidak dapat disangkal dan menghapuskan keperluan untuk pengesahan luaran! Lima chatgpt ini akan membimbing anda ke arah kepercayaan diri yang lengkap dan peralihan transformatif dalam persepsi diri. Cukup salin, tampal, dan sesuaikan dengan pendahuluan

Kajian baru -baru ini oleh Anthropic, sebuah syarikat keselamatan dan penyelidikan kecerdasan buatan, mula mendedahkan kebenaran tentang proses -proses yang kompleks ini, menunjukkan kerumitan yang mengganggu sama dengan domain kognitif kita sendiri. Kecerdasan semulajadi dan kecerdasan buatan mungkin lebih serupa daripada yang kita fikirkan. Mengintip di dalam: Kajian Interpretasi Antropik Penemuan baru dari penyelidikan yang dijalankan oleh antropik mewakili kemajuan yang signifikan dalam bidang interpretasi mekanistik, yang bertujuan untuk membalikkan pengkomputeran dalaman AI -bukan hanya memerhatikan apa yang AI lakukan, tetapi memahami bagaimana ia melakukannya di tahap neuron buatan. Bayangkan cuba memahami otak dengan melukis kebakaran neuron apabila seseorang melihat objek tertentu atau berfikir tentang idea tertentu. A

Dragonwing Qualcomm: Lonjakan Strategik ke Perusahaan dan Infrastruktur Qualcomm secara agresif memperluaskan jangkauannya di luar mudah alih, mensasarkan pasaran perusahaan dan infrastruktur di seluruh dunia dengan jenama Dragonwing yang baru. Ini bukan sekadar rebran


Alat AI Hot

Undresser.AI Undress
Apl berkuasa AI untuk mencipta foto bogel yang realistik

AI Clothes Remover
Alat AI dalam talian untuk mengeluarkan pakaian daripada foto.

Undress AI Tool
Gambar buka pakaian secara percuma

Clothoff.io
Penyingkiran pakaian AI

AI Hentai Generator
Menjana ai hentai secara percuma.

Artikel Panas

Alat panas

ZendStudio 13.5.1 Mac
Persekitaran pembangunan bersepadu PHP yang berkuasa

Muat turun versi mac editor Atom
Editor sumber terbuka yang paling popular

Pelayar Peperiksaan Selamat
Pelayar Peperiksaan Selamat ialah persekitaran pelayar selamat untuk mengambil peperiksaan dalam talian dengan selamat. Perisian ini menukar mana-mana komputer menjadi stesen kerja yang selamat. Ia mengawal akses kepada mana-mana utiliti dan menghalang pelajar daripada menggunakan sumber yang tidak dibenarkan.

SublimeText3 Linux versi baharu
SublimeText3 Linux versi terkini

SublimeText3 versi Cina
Versi Cina, sangat mudah digunakan