Ralat pembangunan kecerdasan buatan meta, kegagalan untuk menggunakan GPU dalam masa mengakibatkan ketinggalan di belakang lawan

Memo dalaman menunjukkan bahawa pada akhir musim panas 2022, Ketua Pegawai Eksekutif Meta Mark Zuckerberg telah memanggil sekumpulan eksekutif syarikat untuk menganalisis kuasa pengkomputeran syarikat selama lima tahun, terutamanya keupayaan untuk mengendalikan pemotongan -kepintaran buatan tepi.

Memo itu menunjukkan bahawa walaupun pelaburan berprofil tinggi Meta dalam penyelidikan kecerdasan buatan dan pergantungan syarikat yang semakin meningkat pada kecerdasan buatan untuk menyokong pertumbuhannya, penggunaan perisian dan sistem perkakasan yang dioptimumkan kecerdasan buatan yang mahal dalam perniagaan utamanya mempunyai Rentak perlahan gergasi media sosial itu telah menghalang keupayaannya untuk bersaing dengan inovasi semasa ia berkembang. Meta perlu "menukar secara asasnya reka bentuk infrastruktur fizikal kami, sistem perisian dan pendekatan untuk menyampaikan platform yang stabil" jika ia mahu menyokong usaha AInya.

Perubahan itu meningkatkan perbelanjaan modal Meta sebanyak kira-kira $4 bilion setiap suku tahun, hampir dua kali ganda pada 2021, dan menyebabkannya menjeda atau membatalkan rancangan untuk membina pusat data di empat lokasi, dedah syarikat itu.

Meta menghadapi masalah kewangan yang teruk Sejak November tahun lalu, syarikat itu telah melakukan pemberhentian yang tidak pernah berlaku sebelum ini.

Pada masa yang sama, kemunculan ChatGPT pada November tahun lalu mencetuskan persaingan dalam kalangan gergasi teknologi, yang telah mengeluarkan produk AI generatif. Lima sumber berkata bahawa AI generatif memerlukan banyak kuasa pengkomputeran, yang memperhebatkan mendesak pengembangan Meta.

Sumber mendedahkan bahawa penggunaan GPU Meta yang perlahan dalam kecerdasan buatan adalah salah satu masalah utama. Cip GPU sesuai untuk pemprosesan AI kerana ia boleh melaksanakan sejumlah besar tugas serentak, memendekkan masa yang diperlukan untuk memproses berbilion-bilion keping data. Walau bagaimanapun, cip GPU lebih mahal, dan pembuat cip Nvidia mengawal 80% pasaran dan mengekalkan peneraju dalam perisian yang sepadan, kata sumber.

Sehingga tahun lepas, Meta menggunakan sejumlah besar CPU biasa untuk menjalankan beban kerja AI. CPU adalah cip kuda kerja dalam dunia komputer Walaupun ia telah menguasai pusat data selama beberapa dekad, ia tidak berfungsi dengan baik dalam kerja kecerdasan buatan.

Ini telah menyebabkan pesaing mengatasi Meta dalam bidang AI. Mereka menggunakan cip GPU dan mempunyai perisian AI yang lebih baik, supaya mereka boleh membangunkan produk dan perkhidmatan AI baharu dengan lebih pantas.

Menurut dua sumber, Meta juga telah mula menggunakan cip tersuainya sendiri yang direka secara dalaman untuk melatih AI. Tetapi pada tahun 2021, pendekatan serampang dua mata ini terbukti lebih perlahan dan kurang cekap daripada pendekatan yang dibina dengan GPU pada terasnya. Cip GPU juga lebih fleksibel daripada cip Meta dalam menjalankan pelbagai jenis model, kata kedua-dua sumber itu.

Kemudian, apabila Zuckerberg menggerakkan syarikat itu ke dalam Metaverse, kekurangan kuasa pengkomputeran menyebabkan syarikat itu tidak dapat bertindak balas terhadap ancaman, termasuk peningkatan perubahan privasi iklan yang diterajui oleh TikTok dan Apple.

Isu ini telah menarik perhatian bekas ahli lembaga Meta Peter Thiel. Pada awal 2022, beliau meletakkan jawatan tanpa menjelaskan sebabnya. Menurut dua orang yang biasa dengan perkara itu, semasa mesyuarat lembaga sebelum pemergiannya, Thiel menegaskan bahawa Zuckerberg dan eksekutifnya terlalu fokus pada pembangunan Metaverse dan mengabaikan perniagaan media sosial teras Meta Meninggalkan syarikat terdedah kepada cabaran daripada pesaing seperti TikTok.

Meta telah merancang untuk melancarkan cip tersuai pada tahun 2022, tetapi kemudiannya menyerah dan sebaliknya memesan berbilion dolar dalam cip GPU Nvidia pada tahun yang sama. Pada ketika ini Meta telah ketinggalan di belakang rakan sebaya seperti Google, yang pada tahun 2015 mula menggunakan versi GPU tersuainya sendiri, yang dipanggil TPU.

Meta kemudian mula menyusun semula jabatan kecerdasan buatan dan melantik dua jurutera baharu untuk mengetuainya. Pada masa itu, berpuluh-puluh eksekutif telah meninggalkan Meta, hampir kesemuanya menggantikan kepimpinan infrastruktur AInya.

Seterusnya, Meta mula merombak pusat datanya untuk menampung pengenalan GPU ini memerlukan lebih banyak kuasa dan menjana lebih banyak haba, dan mesti dikelompokkan secara rapat dan di antara mereka. Kerja ini memerlukan kapasiti rangkaian yang ketara dan sistem penyejukan cecair baharu untuk menguruskan haba kluster, yang memerlukan "reka bentuk semula lengkap" daripadanya.

Semasa kerja berjalan, Meta memulakan rancangan dalaman untuk membangunkan cip baharu yang lebih bercita-cita tinggi, serupa dengan GPU, yang boleh melatih model kecerdasan buatan dan melakukan inferens. Dua sumber berkata projek itu akan siap sekitar 2025.

Jurucakap meta Jon Carvill enggan mengulas mengenai projek cip itu.

Walaupun Meta meningkatkan GPU, syarikat seperti Microsoft dan Google mempromosikan produk AI generatif komersial, dan Meta tidak membuat banyak kemajuan yang ketara dalam hal ini.

CFO Meta mengakui pada bulan Februari bahawa syarikat itu pada masa ini tidak menumpukan sebahagian besar kuasa pengkomputerannya untuk kerja generatif. "Pada asasnya semua keupayaan kecerdasan buatan kami digunakan dalam pengiklanan, suapan berita dan Reels," katanya Reels ialah format video pendek seperti TikTok Meta yang popular dengan pengguna muda.

Menurut empat sumber, Meta tidak mengutamakan pembangunan produk AI generatif sehingga ChatGPT dilancarkan pada November tahun lalu. Walaupun cabang penyelidikan AI syarikat telah mengeluarkan prototaip teknologi sejak lewat 2021, ia tidak memfokuskan untuk mengubahnya menjadi produk. Walau bagaimanapun, apabila minat pelabur terus meningkat, Zuckerberg pada Februari mengumumkan penciptaan pasukan AI generatif peringkat tinggi baharu yang katanya akan "mempercepatkan" kerja syarikat dalam bidang ini.

Ketua Pegawai Teknologi Andrew Bosworth juga berkata bulan ini bahawa kecerdasan buatan generatif ialah kawasan di mana dia dan Zuckerberg menghabiskan paling banyak masa, dan meramalkan bahawa Meta akan melancarkan produk baharu tahun ini.

Dua orang yang biasa dengan pasukan baharu berkata kerja pasukan itu di peringkat awal dan tertumpu pada membina model asas, program teras yang kemudiannya boleh diperhalusi dan disesuaikan dengan produk yang berbeza.

Jurucakap Meta Carvill berkata bahawa syarikat itu telah membangunkan produk kecerdasan buatan generatif pada pasukan berbeza selama lebih daripada setahun. Beliau mengesahkan bahawa kerja ini telah dipercepatkan dalam beberapa bulan sejak ChatGPT dilancarkan.

Atas ialah kandungan terperinci Ralat pembangunan kecerdasan buatan meta, kegagalan untuk menggunakan GPU dalam masa mengakibatkan ketinggalan di belakang lawan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!