Pasukan Tsinghua melancarkan platform baharu: menggunakan AI terdesentralisasi untuk mengatasi kekurangan kuasa pengkomputeran

Baru-baru ini, sekeping data menunjukkan pertumbuhan yang menakjubkan dalam permintaan kuasa pengkomputeran dalam bidang AI -

Menurut anggaran daripada pakar industri, fasa latihan Sora yang dilancarkan oleh OpenAI memerlukan kira-kira 4200-10500 NVIDIA H100s selama satu bulan, dan apabila model dijana ke peringkat inferens, kos pengiraan akan cepat melebihi peringkat latihan.

Jika trend ini berterusan, mungkin sukar bagi bekalan GPU untuk memenuhi permintaan berterusan untuk model besar.

Walau bagaimanapun, terdapat trend baharu di luar negara baru-baru ini, yang mungkin memberikan penyelesaian baharu kepada "kekurangan kuasa pengkomputeran" yang akan datang - AI terdesentralisasi.

Tiga minggu lalu, pada 23 Mac, Stability AI tiba-tiba mengeluarkan pengumuman mengumumkan peletakan jawatan CEO syarikat Emad Mostaque. Emad Mostaque sendiri mendedahkan langkah seterusnya untuk mengejar "impian AI terdesentralisasi."

Namun, disebabkan kesukaran untuk menyelesaikan masalah teknikal seperti ketidakpastian dan ketidakstabilan rangkaian terdesentralisasi, adalah sukar untuk gelombang terakhir AI terdesentralisasi untuk benar-benar dilaksanakan dalam era model besar.

Baru-baru ini, Qubits mendapati bahawa pasukan Tsinghua yang memulakan perniagaan di luar negara menumpukan pada AI terdesentralisasi dan mencipta NetMind.AI. Pada tahun 2023, NetMind mengeluarkan kertas putih yang memperincikan platform perkongsian kuasa pengkomputeran terdesentralisasi NetMind Power. Platform ini bertujuan untuk menyelesaikan titik kesakitan AI terdesentralisasi dalam era model besar.

1. Jadikan GPU mampu milik untuk setiap pembangun

Pada September 2021, NetMind.AI melancarkan projek platform pengkomputeran terpencar yang dipanggil NetMind Power.

Terdapat sejumlah besar kuasa pengkomputeran di premis di dunia: kuasa pengkomputeran di premis di pusat data tradisional, kuasa pengkomputeran yang kurang digunakan yang dimiliki oleh perusahaan kecil dan sederhana, dan GPU berselerak yang dimiliki oleh individu. Kuasa pengkomputeran ini sama ada melahu atau digunakan untuk permainan dan pemaparan video. Pada masa yang sama, kuasa pengkomputeran AI menjadi semakin berkurangan, perusahaan kecil dan sederhana, terutamanya syarikat pemula AI, dan syarikat tradisional yang mengambil bahagian dalam projek AI semuanya terperangkap oleh kos tinggi dan ambang kuasa pengkomputeran AI.

NetMind Power telah mencipta rangkaian pengkomputeran khusus untuk pemusatan, memanfaatkan teknologi teras yang dibangunkan oleh NetMind untuk memanfaatkan sumber pengkomputeran global dan menyediakan perkhidmatan pengkomputeran AI yang mudah digunakan dan berpatutan untuk industri AI.

△Kuasa NetMind ialah pilihan yang menjimatkan untuk mendapatkan kuasa pengkomputeran, menyediakan pengguna dengan penyelesaian sumber pengkomputeran yang cekap dan berpatutan.

Pada masa ini, NetMind Power telah mengumpul beribu-ribu kad grafik, termasuk H100, A100, 4090, 3090.

Empat sorotan platform:

1 Kluster dinamik terdesentralisasi - Cipta aplikasi AI yang boleh dipercayai dan cekap pada kuasa pengkomputeran yang sangat tidak menentu

Platform Kuasa menggunakan teknologi kluster teragih dinamik berasaskan P2P, digabungkan dengan penghalaan dan algoritma pengelompokan Uniknya rangkaian saraf menganyam beribu-ribu nod pengkomputeran ke dalam seni bina kelompok rangkaian yang berkuasa, khususnya memenuhi keperluan peringkat tinggi seperti aplikasi AI.

Apabila pengguna melakukan operasi berkaitan AI pada platform Power, seperti latihan model, penalaan halus atau inferens, rangkaian terdesentralisasi Power boleh menggunakan AI terbaik dengan pantas melalui algoritma pengoptimuman dalam pengkomputeran nod di seluruh dunia dalam masa yang sangat singkat sumber pengkomputeran untuk menyediakan perkhidmatan kepada pengguna.

Pada masa yang sama, Power menyediakan pengguna bahagian B dengan strategi kelompok dinamik, yang boleh menyusun semula dan mengkonfigurasi nod secara bijak dalam beberapa saat, menyediakan kluster eksklusif yang boleh disesuaikan, sangat berskala dan sangat berlebihan.

2. Lengkapkan ekosistem AI: Kurangkan ambang untuk menggunakan kuasa pengkomputeran dan kembangkan senario aplikasi rangkaian terpencar

Dengan pengumpulan NetMind selama bertahun-tahun dalam bidang AI, Power Network akan menyertakan perpustakaan model sumber terbuka, pangkalan ekologi AI seperti AI set data, data dan penyulitan model, serta perkhidmatan komprehensif seperti latihan model, inferens dan penggunaan, mencipta platform MaaS (Model sebagai Perkhidmatan) untuk memperkasakan kedua-dua pembekal kuasa pengkomputeran dan aplikasi AI.

Ditujukan untuk projek AI+ untuk penyelidik saintifik, perusahaan kecil dan sederhana dalam bidang AI, dan perusahaan tradisional, platform MaaS Power akan mengurangkan ambang untuk menggunakan kuasa pengkomputeran dengan ketara, terutamanya untuk perusahaan kecil dan sederhana dan tradisional perusahaan tanpa keupayaan pembangunan AI profesional Satu perkara amat penting.

Untuk pembekal kuasa pengkomputeran tradisional, lebih ramai pengguna boleh dihubungi dengan bantuan rangkaian Power. Tambahan pula, dengan bantuan platform MaaS Power, mereka boleh mengembangkan senario aplikasi dan memperoleh keuntungan yang lebih tinggi. Dengan cara ini, Rangkaian Kuasa boleh menggabungkan kuasa pengkomputeran terpusat bersaiz kecil dan sederhana tradisional ke dalam rangkaian kuasa pengkomputeran terdesentralisasi, dengan itu meluaskan skala rangkaian.

3. Algoritma latihan tak segerak - selesaikan kesesakan rangkaian dan ketik potensi kuasa pengkomputeran terbiar

Dalam bidang pembelajaran mesin semasa, terutamanya dalam latihan model bahasa berskala besar, biasanya diperlukan untuk mencapai latihan teragih segerak antara GPU melalui kabel GPU khusus atau rangkaian dalaman lebar jalur tinggi, yang pasti meningkatkan ambang latihan dan kos.

Kuasa NetMind memecahkan halangan kelajuan rangkaian dan lebar jalur dalam latihan yang diedarkan melalui segmentasi model yang dibangunkan sendiri dan teknologi asynchronous walaupun nod latihan yang diedarkan di pelbagai sudut bumi boleh mengambil bahagian dalam latihan model besar Di tempat kerja.

4. Penyulitan model dan pengasingan data - menyelesaikan masalah keselamatan dalam rangkaian terdesentralisasi

Power menyediakan teknologi penyulitan model unik untuk memastikan keselamatan model dan data AI pengguna dalam senario pengkomputeran sukarelawan terpencar. Semua komunikasi rangkaian disulitkan untuk memastikan keselamatan penghantaran data dan pemisahan model memastikan tiada satu nod dalam rangkaian terdesentralisasi boleh mendapatkan data dan model yang lengkap, meningkatkan keselamatan dengan ketara.

Gambar

Kedua, satu lagi pasukan dengan latar belakang Tsinghua yang telah menjadi keusahawanan di luar negara selama bertahun-tahun

Pasukan teras NetMind.AI berasal dari Tsinghua dan telah bekerja dalam bidang AI selama lebih daripada 10 tahun. tahun.

Pengasas dan Ketua Pegawai Eksekutif syarikat, Kai Zou, lulus dari kelas sains asas dalam matematik dan fizik Universiti Tsinghua pada tahun 2010, dan menerima ijazah sarjana dalam matematik dan statistik dari Universiti Georgetown pada tahun 2013.

Beliau ialah seorang usahawan bersiri yang telah mengetuai kedua-dua ProtagoLabs dan organisasi bukan untung AGI Odyssey. Pada masa yang sama, beliau juga seorang pelabur malaikat dan telah melabur dalam banyak syarikat permulaan AI termasuk Haiper.ai, Auto Edge, Qdot dan Orbit.

Perlu diingat bahawa kertas kerja "EDA: Easy Data Augmentation Techniques for Boosting Performance on Text Classification Tasks" yang diterbitkan oleh Kai Zou dan penyelidik OpenAI Jason Wei telah disebut lebih daripada 2,000 kali. Ketua Pegawai Eksekutif dan pasukannya yakin bahawa platform yang mereka bina harus menyediakan sumber untuk sarjana yang benar-benar melakukan penyelidikan akademik dan jurutera korporat yang mempromosikan pembangunan AI.

Picture

CTO syarikat memperoleh ijazah sarjana dalam sains komputer dari George Washington University pada tahun 2016 sebelum menyertai NetMind.AI, beliau berkhidmat sebagai ketua pasukan kanan di Microsoft, beliau mempunyai pengalaman dalam Web3, teknologi blockchain; dan pengedaran Beliau mempunyai pengalaman luas dalam sistem hibrid, Kubernetes, pengkomputeran awan, Azure dan AWS, serta mempunyai kemahiran profesional dalam pengkomputeran tepi, pembangunan tindanan penuh dan pembelajaran mesin.

3 Ideal muktamad: membawa AI kepada setiap isi rumah

Di sebalik visi NetMind tentang AI terdesentralisasi, sebenarnya terdapat teknologi inklusif yang ideal.

Mengimbas kembali sejarah perkembangan teknologi IT, trend desentralisasi sering muncul apabila pemusatan sumber pengkomputeran meningkat secara mendadak Sebagai kuasa bottom-up, ia melawan gergasi yang cuba memonopoli semua sumber, dengan itu membuka era baharu. Pusingan keterangkuman teknologi ini telah membolehkan teknologi baharu benar-benar merebak ke setiap pelusuk dunia.

Pasaran model besar hari ini mungkin berada pada saat sebegitu.

Melihat pasaran model yang besar, selepas setahun penuh pembangunan yang giat, tidak banyak syarikat permulaan yang benar-benar boleh bertapak. Kecuali beberapa unicorn bintang, masa depan model besar nampaknya bertumpu di tangan gergasi teknologi seperti Microsoft, Google dan Nvidia. Dari masa ke masa, beberapa syarikat mungkin membangunkan kawalan monopoli ke atas harga, ketersediaan dan akses kepada sumber pengkomputeran.

Pada masa ini, naratif yang didemokrasikan seperti NetMind Power diperlukan untuk menulis pelan tindakan baharu untuk cerita AGI.

Pada masa ini, NetMind telah bekerjasama dalam bidang akademik dan komersial -

Dari segi akademik, NetMind Power pada masa ini telah bekerjasama dengan banyak universiti dalam dan luar negara terkemuka, termasuk universiti terkemuka dalam bidang sains komputer, Universiti Cambridge, Universiti Oxford , dan Universiti Carnegie Mellon Northwestern, Universiti Tsinghua, Universiti Sains dan Teknologi Huazhong, Universiti Rice, Universiti Fudan, Universiti Jiao Tong Shanghai, dsb.

Pictures

Dari segi perniagaan, NetMind Power menyediakan perusahaan dengan penyelesaian kuasa pengkomputeran AI berdasarkan rangkaian terdesentralisasi, membolehkan perusahaan menumpukan pada pembangunan model dan inovasi produk. Semakin banyak syarikat mempercepatkan pelancaran produk inovatif AI dengan bantuan Netmind Power. Sebagai contoh, Haiper.ai, pasukan video Wensheng yang telah mendapat momentum di Amerika Utara baru-baru ini, telah menyepadukan secara mendalam latihan model dan inferensnya dengan platform NetMind Power.

Pada masa hadapan, NetMind Power akan berkembang secara beransur-ansur menjadi komuniti AI yang terdesentralisasi dan mempercepatkan inovasi AI global.

Pengamal pembelajaran mesin, penyelidik akademik dan syarikat di sisi aplikasi AI boleh mencari kuasa pengkomputeran dan model yang mereka perlukan pada platform NetMind Power Mereka juga boleh mengehoskan model terlatih mereka sendiri pada platform, atau bahkan menyediakannya platform pengguna lain dan mengenakan bayaran tertentu daripada mereka.

Pengguna bukan sahaja boleh menggunakan kuasa pengkomputeran yang sepadan pada platform untuk menyelesaikan keperluan latihan mereka sendiri, tetapi juga menyediakan model terlatih mereka kepada lebih ramai orang atau syarikat yang memerlukan melalui platform, menyampaikannya pada lapisan demi lapisan.

Memanjangkan garis masa, untuk benar-benar merealisasikan AGI, penyejagatan dan pendemokrasian AI adalah prasyarat yang tidak dapat dielakkan. Hari ini, NetMind.AI, yang menerajui, membuat sumbangannya sendiri, mencari lebih ramai rakan kongsi, dan mengambil langkah kukuh ke arah era AGI yang demokratik.

Atas ialah kandungan terperinci Pasukan Tsinghua melancarkan platform baharu: menggunakan AI terdesentralisasi untuk mengatasi kekurangan kuasa pengkomputeran. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!