cari
RumahPeranti teknologiAIKonsep dan langkah penyebaran balik ralat

Konsep dan langkah penyebaran balik ralat

Jan 22, 2024 pm 09:39 PM
rangkaian saraf tiruanKonsep algoritma

Konsep dan langkah penyebaran balik ralat

Apakah rambatan belakang ralat

Kaedah rambatan balik ralat, juga dikenali sebagai algoritma Rambatan Balik, ialah kaedah biasa untuk melatih rangkaian saraf. Ia menggunakan peraturan rantai untuk mengira ralat antara output rangkaian saraf dan label, dan merambat belakang ralat itu ke setiap lapisan nod demi lapisan untuk mengira kecerunan setiap nod. Kecerunan ini boleh digunakan untuk mengemas kini berat dan berat sebelah rangkaian saraf, membawa rangkaian secara beransur-ansur lebih dekat kepada penyelesaian optimum. Melalui perambatan belakang, rangkaian saraf secara automatik boleh mempelajari dan melaraskan parameter untuk meningkatkan prestasi dan ketepatan model.

Dalam ralat belakang, kami menggunakan peraturan rantai untuk mengira kecerunan.

Kami mempunyai rangkaian saraf yang mempunyai input x, output y dan lapisan tersembunyi. Kami mengira kecerunan setiap nod dalam lapisan tersembunyi melalui perambatan belakang.

Pertama, kita perlu mengira ralat setiap nod. Untuk lapisan keluaran, ralat ialah perbezaan antara nilai sebenar dan nilai ramalan untuk lapisan tersembunyi, ralat ialah ralat lapisan seterusnya didarab dengan berat lapisan semasa. Ralat ini akan digunakan untuk melaraskan pemberat untuk meminimumkan perbezaan antara ramalan dan nilai sebenar.

Kemudian, kita menggunakan peraturan rantai untuk mengira kecerunan. Untuk setiap pemberat, kami mengira sumbangannya kepada ralat dan kemudian menyebarkan kembali sumbangan ini ke lapisan sebelumnya.

Secara khusus, katakan rangkaian saraf kita mempunyai berat w yang menghubungkan dua nod. Kemudian, sumbangan berat ini kepada ralat adalah hasil darab berat dan ralat. Kami menyebarkan kembali sumbangan ini kepada lapisan sebelumnya dengan mendarabkan sumbangan ini dengan hasil keluaran lapisan sebelumnya dan input lapisan semasa.

Dengan cara ini, kita boleh mengira kecerunan setiap nod dan kemudian menggunakan kecerunan ini untuk mengemas kini berat dan berat sebelah rangkaian.

Langkah terperinci perambatan balik ralat

Andaikan kita mempunyai rangkaian neural yang mempunyai lapisan input, lapisan tersembunyi dan lapisan output. Fungsi pengaktifan lapisan input ialah fungsi linear, fungsi pengaktifan lapisan tersembunyi ialah fungsi sigmoid, dan fungsi pengaktifan lapisan output juga merupakan fungsi sigmoid.

Propagasi ke hadapan

1. Masukkan data set latihan ke dalam lapisan input rangkaian saraf dan dapatkan nilai pengaktifan lapisan input.

2. Hantarkan nilai pengaktifan lapisan input ke lapisan tersembunyi, dan dapatkan nilai pengaktifan lapisan tersembunyi melalui transformasi tak linear bagi fungsi sigmoid.

3. Hantarkan nilai pengaktifan lapisan tersembunyi ke lapisan keluaran, dan dapatkan nilai pengaktifan lapisan keluaran melalui transformasi tak linear bagi fungsi sigmoid.

Ralat Kira

Ralat dikira menggunakan kehilangan entropi silang antara pengaktifan lapisan keluaran dan label sebenar. Khususnya, bagi setiap sampel, entropi silang antara label yang diramalkan dan label sebenar dikira, dan kemudian entropi silang ini didarab dengan berat sampel yang sepadan (berat sampel biasanya ditentukan berdasarkan kepentingan dan pengedaran sampel ).

Backpropagation

1. Kira kecerunan setiap nod lapisan keluaran

Mengikut peraturan rantai, untuk setiap nod, kami mengira sumbangannya kepada ralat ini, dan kemudian Kembali ke pro lantai sebelumnya. Khususnya, untuk setiap nod, kami mengira sumbangannya kepada ralat (iaitu, hasil darab berat nod dan ralat), dan kemudian darabkan sumbangan ini dengan hasil darab keluaran lapisan sebelumnya dan input lapisan semasa. Dengan cara ini, kita mendapat kecerunan setiap nod lapisan keluaran. . Khususnya, untuk setiap nod, kami mengira sumbangannya kepada ralat (iaitu, berat nod dikalikan ralat), dan kemudian darabkan sumbangan ini dengan hasil keluaran lapisan sebelumnya dan input lapisan semasa. Dengan cara ini, kita mendapat kecerunan setiap nod dalam lapisan tersembunyi. . boleh mengawal parameter kelajuan kemas kini) untuk mendapatkan jumlah kemas kini berat. Untuk setiap berat sebelah, kami juga perlu mengira kecerunannya pada ralat, dan kemudian darabkan kecerunan ini dengan kadar pembelajaran untuk mendapatkan jumlah kemas kini untuk berat sebelah itu.

Latihan berulang

Ulang proses di atas (perambatan ke hadapan, ralat pengiraan, perambatan belakang, kemas kini parameter) sehingga kriteria berhenti dipenuhi (contohnya, bilangan lelaran maksimum pratetap dicapai atau ralat mencapai pratetap nilai minimum).

Ini adalah proses terperinci penyebaran balik ralat. Perlu diingatkan bahawa dalam aplikasi praktikal, kami biasanya menggunakan struktur rangkaian saraf dan fungsi pengaktifan yang lebih kompleks, serta fungsi kehilangan dan algoritma pembelajaran yang lebih kompleks untuk meningkatkan prestasi dan keupayaan generalisasi model.

Atas ialah kandungan terperinci Konsep dan langkah penyebaran balik ralat. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan
Artikel ini dikembalikan pada:网易伏羲. Jika ada pelanggaran, sila hubungi admin@php.cn Padam
Penyusunan Tahunan Terkini Teknik Kejuruteraan TerbaikPenyusunan Tahunan Terkini Teknik Kejuruteraan TerbaikApr 10, 2025 am 11:22 AM

Bagi anda yang mungkin baru dalam lajur saya, saya secara meluas meneroka kemajuan terkini di AI di seluruh papan, termasuk topik seperti yang terkandung AI, penaakulan AI, terobosan berteknologi tinggi di AI, kejuruteraan segera, latihan AI, Fielding of AI, AI Re Re,

Pelan Tindakan Benua AI Eropah: Gigafactories, Lab Data, dan Green AIPelan Tindakan Benua AI Eropah: Gigafactories, Lab Data, dan Green AIApr 10, 2025 am 11:21 AM

Pelan Tindakan Benua AI yang bercita -cita tinggi Eropah bertujuan untuk mewujudkan EU sebagai pemimpin global dalam kecerdasan buatan. Unsur utama ialah penciptaan rangkaian AI Gigafactories, setiap perumahan sekitar 100,000 cip AI maju - empat kali kapasiti

Adakah cerita ejen Microsoft cukup untuk mencipta lebih banyak peminat?Adakah cerita ejen Microsoft cukup untuk mencipta lebih banyak peminat?Apr 10, 2025 am 11:20 AM

Pendekatan Bersatu Microsoft ke Aplikasi Ejen AI: Kemenangan yang jelas untuk Perniagaan Pengumuman baru -baru ini Microsoft mengenai keupayaan ejen AI baru terkesan dengan persembahan yang jelas dan bersatu. Tidak seperti banyak pengumuman teknologi yang terjatuh di TE

Menjual Strategi AI kepada Pekerja: Manifesto CEO ShopifyMenjual Strategi AI kepada Pekerja: Manifesto CEO ShopifyApr 10, 2025 am 11:19 AM

Memo CEO Shopify Tobi Lütke baru -baru ini dengan berani mengisytiharkan penguasaan AI sebagai harapan asas bagi setiap pekerja, menandakan peralihan budaya yang signifikan dalam syarikat. Ini bukan trend seketika; Ini adalah paradigma operasi baru yang disatukan ke p

IBM melancarkan kerangka utama Z17 dengan integrasi AI penuhIBM melancarkan kerangka utama Z17 dengan integrasi AI penuhApr 10, 2025 am 11:18 AM

Kerangka utama Z17 IBM: Mengintegrasikan AI untuk operasi perniagaan yang dipertingkatkan Bulan lalu, di ibu pejabat New York IBM, saya menerima pratonton keupayaan Z17. Membina kejayaan Z16 (dilancarkan pada tahun 2022 dan menunjukkan pendapatan yang berterusan berkembang

5 chatgpt meminta berhenti bergantung kepada orang lain dan mempercayai diri anda sepenuhnya5 chatgpt meminta berhenti bergantung kepada orang lain dan mempercayai diri anda sepenuhnyaApr 10, 2025 am 11:17 AM

Buka kunci keyakinan yang tidak dapat disangkal dan menghapuskan keperluan untuk pengesahan luaran! Lima chatgpt ini akan membimbing anda ke arah kepercayaan diri yang lengkap dan peralihan transformatif dalam persepsi diri. Cukup salin, tampal, dan sesuaikan dengan pendahuluan

AI berbahaya sama dengan fikiran andaAI berbahaya sama dengan fikiran andaApr 10, 2025 am 11:16 AM

Kajian baru -baru ini oleh Anthropic, sebuah syarikat keselamatan dan penyelidikan kecerdasan buatan, mula mendedahkan kebenaran tentang proses -proses yang kompleks ini, menunjukkan kerumitan yang mengganggu sama dengan domain kognitif kita sendiri. Kecerdasan semulajadi dan kecerdasan buatan mungkin lebih serupa daripada yang kita fikirkan. Mengintip di dalam: Kajian Interpretasi Antropik Penemuan baru dari penyelidikan yang dijalankan oleh antropik mewakili kemajuan yang signifikan dalam bidang interpretasi mekanistik, yang bertujuan untuk membalikkan pengkomputeran dalaman AI -bukan hanya memerhatikan apa yang AI lakukan, tetapi memahami bagaimana ia melakukannya di tahap neuron buatan. Bayangkan cuba memahami otak dengan melukis kebakaran neuron apabila seseorang melihat objek tertentu atau berfikir tentang idea tertentu. A

Dragonwing mempamerkan momentum kelebihan qualcommDragonwing mempamerkan momentum kelebihan qualcommApr 10, 2025 am 11:14 AM

Dragonwing Qualcomm: Lonjakan Strategik ke Perusahaan dan Infrastruktur Qualcomm secara agresif memperluaskan jangkauannya di luar mudah alih, mensasarkan pasaran perusahaan dan infrastruktur di seluruh dunia dengan jenama Dragonwing yang baru. Ini bukan sekadar rebran

See all articles

Alat AI Hot

Undresser.AI Undress

Undresser.AI Undress

Apl berkuasa AI untuk mencipta foto bogel yang realistik

AI Clothes Remover

AI Clothes Remover

Alat AI dalam talian untuk mengeluarkan pakaian daripada foto.

Undress AI Tool

Undress AI Tool

Gambar buka pakaian secara percuma

Clothoff.io

Clothoff.io

Penyingkiran pakaian AI

AI Hentai Generator

AI Hentai Generator

Menjana ai hentai secara percuma.

Artikel Panas

R.E.P.O. Kristal tenaga dijelaskan dan apa yang mereka lakukan (kristal kuning)
3 minggu yang laluBy尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Tetapan grafik terbaik
3 minggu yang laluBy尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Cara Memperbaiki Audio Jika anda tidak dapat mendengar sesiapa
3 minggu yang laluBy尊渡假赌尊渡假赌尊渡假赌
WWE 2K25: Cara Membuka Segala -galanya Di Myrise
3 minggu yang laluBy尊渡假赌尊渡假赌尊渡假赌

Alat panas

Dreamweaver CS6

Dreamweaver CS6

Alat pembangunan web visual

DVWA

DVWA

Damn Vulnerable Web App (DVWA) ialah aplikasi web PHP/MySQL yang sangat terdedah. Matlamat utamanya adalah untuk menjadi bantuan bagi profesional keselamatan untuk menguji kemahiran dan alatan mereka dalam persekitaran undang-undang, untuk membantu pembangun web lebih memahami proses mengamankan aplikasi web, dan untuk membantu guru/pelajar mengajar/belajar dalam persekitaran bilik darjah Aplikasi web keselamatan. Matlamat DVWA adalah untuk mempraktikkan beberapa kelemahan web yang paling biasa melalui antara muka yang mudah dan mudah, dengan pelbagai tahap kesukaran. Sila ambil perhatian bahawa perisian ini

Penyesuai Pelayan SAP NetWeaver untuk Eclipse

Penyesuai Pelayan SAP NetWeaver untuk Eclipse

Integrasikan Eclipse dengan pelayan aplikasi SAP NetWeaver.

Hantar Studio 13.0.1

Hantar Studio 13.0.1

Persekitaran pembangunan bersepadu PHP yang berkuasa

ZendStudio 13.5.1 Mac

ZendStudio 13.5.1 Mac

Persekitaran pembangunan bersepadu PHP yang berkuasa