Artikel ini akan membantu anda memahami apakah itu keturunan kecerunan

Keturunan kecerunan ialah sumber kuasa untuk pembelajaran mesin

Selepas dua bahagian sebelumnya, kita boleh mula bercakap tentang sumber kuasa untuk pembelajaran mesin: keturunan kecerunan .

Keturunan kecerunan bukanlah alat matematik yang sangat rumit. Sejarahnya telah melebihi 200 tahun Walau bagaimanapun, orang mungkin tidak menjangkakan bahawa alat matematik yang agak mudah itu akan menjadi asas kepada banyak algoritma pembelajaran mesin. ia juga mempunyai sejarah lebih daripada 200 tahun Bersama-sama dengan rangkaian saraf, ia mencetuskan revolusi pembelajaran yang mendalam.

1. Apakah kecerunan

Cari terbitan separa bagi setiap parameter fungsi multivariat, dan kemudian tulis terbitan separa yang diperolehi bagi setiap parameter dalam bentuk vektor, iaitu kecerunan .

Secara khusus, fungsi f (x1, x2) daripada dua pembolehubah bebas sepadan dengan dua ciri dalam set data pembelajaran mesin Jika terbitan separa masing-masing diperoleh untuk x1 dan x2, maka vektor kecerunan yang diperolehi Ia ialah (∂f/∂x1, ∂f/∂x2) T, yang boleh dinyatakan secara matematik sebagai Δf (x1, x2). Jadi apa gunanya mengira vektor kecerunan? Makna geometrinya ialah arah di mana fungsi berubah, dan ia adalah arah yang paling cepat berubah. Untuk fungsi f(x), pada titik (x0, y0), arah vektor kecerunan ialah arah di mana nilai y meningkat paling cepat. Dalam erti kata lain, sepanjang arah vektor kecerunan Δf (x0), nilai maksimum fungsi boleh didapati. Sebaliknya, di sepanjang arah bertentangan vektor kecerunan, iaitu arah -Δf(x0), kecerunan menurun paling cepat dan nilai minimum fungsi boleh didapati. Jika nilai vektor kecerunan pada titik tertentu ialah 0, maka ia telah mencapai titik terendah (atau titik terendah setempat) fungsi dengan terbitan 0.

2. Keturunan kecerunan: metafora menuruni bukit

Sangat biasa digunakan menuruni bukit sebagai metafora untuk penurunan kecerunan dalam pembelajaran mesin. Bayangkan anda berdiri di suatu tempat di atas gunung yang besar, melihat rupa bumi yang tidak berkesudahan di kejauhan, hanya mengetahui bahawa jaraknya jauh lebih rendah daripada di sini. Anda ingin tahu bagaimana untuk turun gunung, tetapi anda hanya boleh turun selangkah demi selangkah, iaitu setiap kali anda mencapai kedudukan, cari kecerunan kedudukan semasa. Kemudian, ambil langkah ke bawah mengikut arah negatif kecerunan, iaitu, turun ke tempat paling curam, terus selesaikan kecerunan kedudukan baharu, dan terus turun satu langkah di sepanjang tempat paling curam di kedudukan baharu. Hanya berjalan setapak demi setapak sehingga anda sampai ke kaki gunung, seperti yang ditunjukkan dalam gambar di bawah.

Daripada penjelasan di atas, tidaklah sukar untuk memahami mengapa kami hanya menyebut tentang lekuk dan cembung fungsi tersebut. Kerana, dalam fungsi bukan cembung, ia mungkin tidak sampai ke dasar gunung, tetapi berhenti di lembah tertentu. Dalam erti kata lain, keturunan kecerunan untuk fungsi bukan cembung mungkin tidak selalu mencari penyelesaian optimum global, dan mungkin hanya memperoleh penyelesaian optimum tempatan. Walau bagaimanapun, jika fungsi itu cembung, maka kaedah penurunan kecerunan secara teorinya boleh mendapatkan penyelesaian optimum global.

3. Apakah kegunaan keturunan kecerunan

Keturunan kecerunan sangat berguna dalam pembelajaran mesin. Ringkasnya, anda boleh memberi perhatian kepada perkara-perkara berikut.

Intipati pembelajaran mesin adalah untuk mencari fungsi optimum.

Bagaimana untuk mengukur sama ada fungsi adalah optimum? Kaedahnya adalah untuk meminimumkan ralat antara nilai ramalan dan nilai sebenar (juga dipanggil nilai kerugian dalam pembelajaran mesin).

Anda boleh mewujudkan fungsi antara ralat dan parameter model (sebaik-baiknya fungsi cembung).

Keturunan kecerunan boleh membimbing kita ke minimum global fungsi cembung, iaitu, untuk mencari parameter dengan ralat terkecil.

Atas ialah kandungan terperinci Artikel ini akan membantu anda memahami apakah itu keturunan kecerunan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!