Apa yang perlu dilakukan sekiranya Undang-undang Moore gagal? Pakar Pengkomputeran Neuromorphic: Menukar Fokus kepada Pembelajaran Dendritik

Pada tahun 1965, Gordon Moore meringkaskan peraturan praktikal: bilangan transistor yang boleh ditampung pada litar bersepadu akan berganda kira-kira setiap 18 hingga 24 bulan. Dalam erti kata lain, prestasi pemproses meningkat dua kali ganda kira-kira setiap dua tahun.

Peraturan praktikal ini dipanggil "Undang-undang Moore". Dalam tempoh empat puluh tahun berikutnya, proses pembuatan cip semikonduktor sememangnya telah bergerak dengan pantas . Walau bagaimanapun, dalam beberapa tahun kebelakangan ini, kesan penggandaan Undang-undang Moore semakin perlahan, malah ada yang meramalkan bahawa ia akan tamat tempoh dalam masa terdekat.

Industri telah mencadangkan pelbagai penyelesaian untuk menangani kesesakan pembangunan ini Kwabena Boahen, seorang jurutera neuromorfik dari Universiti Stanford, baru-baru ini mencadangkan idea baharu: neuron buatan harus meniru fungsi neuron biologi. . Dendrit, bukan sinaps. Kertas penyelidikan itu diterbitkan dalam Nature.

Alamat kertas: https://www.nature.com/articles/s41586-022-05340-6

Pada masa ini, pengkomputeran neuromorfik bertujuan untuk membolehkan kecerdasan buatan (AI) dengan meniru mekanisme neuron dan sinaps yang membentuk otak manusia. Rangkaian saraf tiruan berulang kali melaraskan sinaps yang menyambungkan neuron untuk mengubah suai setiap "berat" sinaps atau kekuatan pengaruh satu neuron pada yang lain Rangkaian saraf kemudian menentukan sama ada corak tingkah laku yang terhasil adalah lebih baik dalam mencari penyelesaiannya. Dari masa ke masa, sistem menemui mod yang terbaik untuk mengira hasil dan menggunakan mod tersebut sebagai lalai.

Rangkaian saraf biasanya mengandungi banyak lapisan neuron, contohnya GPT-3 mempunyai 175 bilion berat, sambungan bersamaan dengan 8.3 juta neuron, dan kedalaman 384 lapisan. Apabila rangkaian saraf terus meningkat dalam saiz dan fungsi, ia menjadi semakin mahal dan intensif tenaga. Mengambil GPT-3 sebagai contoh, OpenAI membelanjakan $4.6 juta untuk menjalankan 9,200 GPU selama dua minggu untuk melatih model besar ini. Kwabena Boahen berkata: "Tenaga yang digunakan oleh GPT-3 semasa latihan ditukar kepada pelepasan karbon bersamaan dengan 1,300 kereta." cuba graf belajar sebab-sebab penting. Meniru dendrit dalam rangkaian saraf akan meningkatkan jumlah maklumat yang disampaikan dalam isyarat yang dihantar, membolehkan sistem AI tidak lagi memerlukan kuasa megawatt dalam awan GPU dan berjalan pada peranti mudah alih seperti telefon bimbit.

Dendrit boleh bercabang secara besar-besaran, membolehkan satu neuron bersambung dengan banyak neuron lain. Kajian mendapati bahawa susunan dendrit menerima isyarat daripada cawangannya menentukan kekuatan tindak balasnya.

Model pengiraan dendrit yang dicadangkan oleh Boahen hanya membuat keputusan apabila ia menerima urutan isyarat yang tepat daripada neuron. tindak balas. Ini bermakna setiap dendrit boleh mengekod data, bukan hanya isyarat elektrik mudah seperti 0/1. Sistem asas akan menjadi lebih berkuasa bergantung pada bilangan sambungan yang ada dan panjang jujukan isyarat yang diterimanya.

Dari segi pembinaan sebenar, Boahen mencadangkan menggunakan FET ferroelektrik (FeFET) untuk mensimulasikan dendrit FeFET sepanjang 1.5 mikron dengan 5 pintu boleh mensimulasikan 5 sinaps dengan panjang 15 mikron . Versi binaan ini mungkin dilaksanakan dalam "cip 3D," kata Boahen.

Pembaca yang berminat boleh membaca teks asal kertas untuk mengetahui lebih lanjut butiran penyelidikan.

Pautan rujukan: https://spectrum.ieee.org/dendrocentric-learning​

Atas ialah kandungan terperinci Apa yang perlu dilakukan sekiranya Undang-undang Moore gagal? Pakar Pengkomputeran Neuromorphic: Menukar Fokus kepada Pembelajaran Dendritik. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!