ChatGPT, yang telah membangkitkan 10 bilion dolar AS, sangat bergantung kepada TA?

Dalam beberapa hari lalu, berita "Microsoft melabur berpuluh bilion dolar dalam OpenAI" telah membanjiri skrin seperti gila.

Sebagai sebuah syarikat tanpa model perniagaan, bagaimanakah OpenAI boleh dinilai pada puluhan bilion dolar? Adakah pelabur begitu mudah ditipu?

Malah, jika anda menarik keluar ChatGPT di belakang OpenAI, semua orang boleh memahaminya lebih kurang. Model bahasa ini adalah "top-notch", dan boleh dikatakan tiada siapa yang mengetahuinya baru-baru ini.

Microsoft, yang hampir dengan bahagian atas, secara senyap-senyap telah mendahului dalam pergaduhan di kalangan gergasi Internet.

Hanya selepas mengatakan bahawa ChatGPT akan disepadukan ke dalam enjin cariannya sendiri Bing, yang terakhir mengumumkan bahawa ChatGPT merancang untuk menyertai Office "baldi keluarga".

Revolusi AIGC telah mencapai tahap kuasa pengkomputeran sekali lagi

2022 ialah tahun pertama revolusi AIGC.

Kelahiran DALL·E 2 menjadikan "Venture Pictures" popular selama setahun, diikuti rapat dengan Stable Diffussion and Midjourney, yang mengilhamkan inspirasi artistik yang tidak terkira banyaknya, malah menjadikan Ramai pelukis merasai "krisis pengangguran".

Pada penghujung tahun, ChatGPT mencetuskan ribut AIGC di kalangan orang ramai. Walaupun ia adalah perlawanan akhir, keajaiban yang diberikan kepadanya oleh "pembelajaran pengukuhan" (RLHF) berjaya mencetuskan karnival di seluruh negara.

Walaupun aplikasi yang kami nyatakan tadi mungkin kelihatan mewah, ia masih disokong oleh model besar yang terkenal.

Seperti yang kita semua tahu, untuk model besar, sama ada latihan awal atau inferens kemudian, mereka tidak boleh melakukannya tanpa sejumlah besar "kuasa pengkomputeran " .

Contohnya, "ayam goreng popular" ChatGPT dan DALL·E 2 adalah berdasarkan GPT-3, serta Yuan 1.0 yang dibangunkan sendiri domestik, Wudao dan Wenxin, dsb. ., bukan sahaja dari segi parameter Jumlahnya telah mencapai ratusan bilion, dan saiz set data telah mencapai terabait.

Jika anda ingin mengendalikan latihan "raksasa" ini, anda perlu melabur sekurang-kurangnya lebih daripada 1000PetaFlop/s-hari (PD) sumber pengkomputeran.

Tidak hairanlah bahawa sebelum OpenAI memperhalusi GPT-3, ia meminta Microsoft membelanjakan $1 bilion untuk menyesuaikan superkomputer secara eksklusif yang disenaraikan antara lima teratas dunia pada masa itu.

Tetapi masalahnya ialah bukan setiap syarikat atau universiti yang memerlukan banyak kuasa pengkomputeran AI mampu membelanjakan sejumlah besar wang untuk membina "pusat pengkomputeran berprestasi tinggi kecerdasan buatan sendiri " .

Jadi, jika kita mengubah pemikiran kita dan menjadikan kuasa pengkomputeran lebih "sejagat dan bermanfaat", bolehkah kita mencapai hasil yang sama atau lebih baik?

Jadi, pada Disember 2020, Pusat Maklumat Negara dan Maklumat Inspur bersama-sama mengeluarkan "Panduan Perancangan dan Pembinaan Pusat Pengkomputeran Pintar". Antaranya, konsep baharu telah disebut - pusat pengkomputeran pintar (secara ringkasnya pusat pengkomputeran pintar).

Apakah itu Pusat Pengkomputeran Pintar?

Untuk menyelesaikan masalah dalam bidang kecerdasan buatan dengan lebih baik, pembangunan pusat pengkomputeran pintar perlu berdasarkan teori AI terkini dan seni bina pengkomputeran AI termaju, dan dengan cip AI, pelayan AI , dan kelompok AI Sebagai pembawa kuasa pengkomputeran.

Pertama sekali, pengkomputeran dipercepatkan AI arus perdana terutamanya menggunakan sistem CPU yang dilengkapi dengan cip pecutan AI heterogen seperti GPU, FPGA dan ASIC.

Disebabkan bilangan besar unit logik aritmetik (ALU) dalam cip GPU yang asalnya direka untuk pengkomputeran grafik, ia boleh memberikan kesan pecutan yang baik untuk pengiraan pembelajaran mendalam berdasarkan pengiraan tensor, jadi ia digunakan secara meluas dalam dunia akademik dan industri dialu-alukan.

Dengan semakin banyak aplikasi yang mendalam, cip GPU itu sendiri juga telah melaksanakan reka bentuk inovatif yang disasarkan berdasarkan ciri pengkomputeran AI, seperti sebagai unit pengiraan Kuantiti Zhang, ketepatan berangka TF32/BF16, Enjin Transformer, dsb.

Cip pecutan pengkomputeran AI yang lebih "khusus" kebanyakannya diperoleh daripada cip GPU.

Cip Latihan Kecerdasan Buatan Tesla Dojo

Kedua, sebagai AI Pelayan unit pengkomputeran pusat pengkomputeran pintar menggunakan seni bina heterogen cip pecutan CPU+AI, dan mencapai prestasi pengkomputeran ultra tinggi dengan menyepadukan berbilang cip pecutan AI. Untuk memenuhi keperluan pengkomputeran senario dalam pelbagai bidang dan model AI yang kompleks, pelayan AI juga mempunyai keperluan yang sangat tinggi untuk interkoneksi dan skalabiliti antara cip pengkomputeran.

Akhir sekali, pusat pengkomputeran pintar juga perlu menyediakan sokongan penuh untuk ekosistem perisian arus perdana, sumber terbuka dan perisian terbuka industri.

Sebagai contoh, rangka kerja pembelajaran mendalam TensorFlow dan PyTorch untuk membangunkan algoritma AI, satu siri perpustakaan sumber terbuka yang dibina untuk menyesuaikan diri dengan pembangunan senario tertentu seperti CV dan NLP, dsb.

Struktur keseluruhan pusat pengkomputeran pintar

Walau bagaimanapun, dibandingkan dengan syarikat asing yang besar tersebut Berbeza dengan pusat pengkomputeran berprestasi tinggi yang disesuaikan oleh kilang, pusat pengkomputeran pintar sebenarnya adalah infrastruktur untuk orang ramai, yang lebih baik menyelesaikan masalah tidak dapat membina atau menggunakan kuasa pengkomputeran.

Yang paling intuitif ialah OS Pengkomputeran Pintar (Sistem Operasi Pusat Pengkomputeran Pintar) sebagai "pusat saraf" adalah untuk membolehkan Pusat Pengkomputeran Pintar mengurus kumpulan sumber pengkomputeran dengan cekap. dan penjadualan pintar untuk menyediakan perkhidmatan luaran dengan lebih baik seperti kuasa pengkomputeran, data dan algoritma.

Kini, dua tahun telah berlalu sejak pengeluaran "Panduan Perancangan dan Pembinaan Pusat Pengkomputeran Pintar" versi 2020, dan pembangunan pusat pengkomputeran pintar negara saya juga telah memasuki peringkat baru.

Untuk tujuan ini, Pusat Maklumat Negara dan Inspur Information bersama-sama menjalankan penyelidikan yang mengikut peredaran masa, dan melancarkan (selepas ini dirujuk sebagai "Garis Panduan").

Jadi, mengapa membina pusat pengkomputeran pintar?

Pusat pengkomputeran pintar ialah infrastruktur utama yang menggalakkan transformasi dan peningkatan industri, mengoptimumkan struktur perindustrian, dan meningkatkan daya saing bandar dalam era ekonomi digital. Ia juga menyediakan infrastruktur penting untuk permintaan yang berkembang pesat sokongan kuasa pengkomputeran kecerdasan buatan.

Secara khusus, ia boleh dibahagikan kepada empat aspek:

​Menggalakkan perindustrian AI, memperkasakannya boleh mendayakan AI industri, membantu tadbir urus pintar, dan menggalakkan pengelompokan industri.

• Perindustrian AI

Satu contoh penting perindustrian AI, Ia berautonomi memandu.

Dalam senario pemanduan autonomi, ia perlu berdasarkan teknologi AI supaya kenderaan itu dapat mengenal pasti maklumat penting dalam persekitaran pemanduan dengan tepat seperti pemandu manusia dan membuat ramalan pada trajektori potensi unit bergerak di sekeliling Membuat ramalan.

Dari segi latihan penggunaan kuasa pengkomputeran, model kognitif yang digunakan untuk pemanduan autonomi adalah jauh lebih besar daripada model persepsi penglihatan komputer umum.

Sebagai contoh, model persepsi gabungan pemanduan autonomi FSD tahap L2 Tesla menggunakan berjuta-juta video pengumpulan jalan semasa proses latihan, dan pelaburan kuasa pengkomputeran adalah kira-kira 500PD.

Selain itu, apabila tahap pemanduan autonomi meningkat dari L2 ke L4, permintaan untuk kuasa pengkomputeran akan terus meningkat.

Dalam hal ini, kuasa pengkomputeran inklusif yang disediakan oleh pusat pengkomputeran pintar boleh mengurangkan kos kuasa pengkomputeran yang diperlukan untuk pemanduan autonomi.

• AI Perindustrian

Pada tahun 2022, terdapat konsep yang sangat popular dipanggil "AI untuk Sains".

Ini ialah paradigma penyelidikan saintifik baharu, yang merujuk kepada saintis menggunakan teknologi AI sebagai alat pengeluaran.

Salah satu contoh AI untuk Sains yang paling terkenal tahun ini ialah AlphaFold 2 yang dibangunkan oleh DeepMind.

Sehingga kini, AlphaFold 2 telah dapat meramalkan lebih daripada 200 juta struktur protein, meliputi hampir keseluruhan "alam semesta protein". Melalui AlphaFold 2, masa ramalan struktur protein tunggal telah dipendekkan kepada minit, dan ketepatan telah mencapai 92.4%.

Pembangunan AlphaFold 2 disokong oleh sejumlah besar kuasa pengkomputeran. Dalam fasa penyediaan data latihan sahaja, AlphaFold 2 menggunakan kira-kira 200 juta jam teras kuasa pengkomputeran CPU dan kira-kira 300 PD kuasa pengkomputeran AI semasa proses latihan.

Pusat pengkomputeran pintar, yang sangat sesuai untuk keperluan kuasa pengkomputeran AI untuk Sains, akan menjadi infrastruktur penting yang menyokong penyelidikan saintifik berkualiti tinggi di universiti dan institut penyelidikan.

• Tadbir urus pintar​

Selain itu, pusat pengkomputeran pintar juga boleh menyediakan bandar perkhidmatan awam Perkhidmatan dan tadbir urus pintar menyediakan sokongan untuk keupayaan pengkomputeran pintar.

• Pengkelompokan industri

Pusat pengkomputeran pintar boleh mengagregatkan penyelidikan dan pembangunan kecerdasan buatan tempatan kelebihan , kelebihan bakat, kelebihan produk dan pelaburan industri untuk mencapai sinergi rantaian industri dan menggalakkan pembangunan kelompok industri.

Rantaian Industri Pusat Pengkomputeran Pintar

Kini, Pusat Pengkomputeran Pintar adalah lebih Ia adalah infrastruktur utama untuk meningkatkan daya saing antarabangsa.

Kita semua tahu bahawa penunjuk KDNK per kapita boleh mengukur pembangunan ekonomi sesebuah negara, dan tahap kuasa pengkomputeran per kapita juga boleh mengukur tahap kecerdasan sesebuah negara.

Menurut "Laporan Penilaian Indeks Kuasa Pengkomputeran Global 2021-2022", indeks kuasa pengkomputeran negara mempunyai korelasi positif yang ketara dengan arah aliran KDNK Secara purata, setiap kali pengkomputeran indeks kuasa meningkat 1 mata, Ekonomi digital dan KDNK masing-masing akan berkembang sebanyak 3.5‰ dan 1.8‰

Indeks Kuasa Pengkomputeran dan KDNK Trend Analisis Regresi

Menurut penyelidikan dan pengiraan, dalam tempoh "Rancangan Lima Tahun ke-14", jika pusat pengkomputeran pintar mencapai tahap aplikasi 80%, pelaburan bandar dalam pusat pengkomputeran pintar boleh memacu pertumbuhan industri kecerdasan buatan teras sebanyak kira-kira 2.9% -3.4 kali, memacu pertumbuhan industri berkaitan sebanyak kira-kira 36-42 kali ganda Pertumbuhan pelaburan dalam pembinaan pusat pengkomputeran pintar mengikut bandar/wilayah menyumbang kira-kira 14%-17% kepada output inovasi.

Tidak sukar untuk melihat bahawa pusat pengkomputeran pintar telah menjadi kuasa yang tidak boleh diabaikan untuk pembangunan ekonomi bandar.

Faedah Ekonomi dan Sosial Projek Pusat Pengkomputeran Pintar

Berdasarkan sebab-sebab ini, sebaik sahaja konsep pusat pengkomputeran pintar dicadangkan , ia mencetuskan ledakan pembinaan. Menurut statistik, lebih daripada 30 bandar di seluruh negara sedang membina atau bercadang untuk membina pusat pengkomputeran pintar.

Namun, masalah turut timbul

Tidak boleh diabaikan semasa proses pembinaan giat dijalankan, pusat pengkomputeran pintar ini juga telah mendedahkan banyak masalah dan cabaran .

Pertama sekali, permintaan negara kita untuk kuasa pengkomputeran pintar semakin meningkat dari hari ke hari.

Data daripada "Laporan Penilaian Pembangunan Kuasa Pengkomputeran Kecerdasan Buatan China 2022-2023" menunjukkan bahawa skala kuasa pengkomputeran pintar negara saya akan mencapai 155.2 EFLOPS (FP16) pada tahun 2021. Ia adalah menjangkakan menjelang 2026, kuasa pengkomputeran pintar negara saya akan mencapai 155.2 EFLOPS (FP16 Skala kuasa pengkomputeran akan mencapai 1,271.4 EFLOPS).

Pada masa hadapan, 80% senario akan berdasarkan AI, dan kebanyakan sumber pengkomputeran yang mereka duduki akan dibawa oleh pusat pengkomputeran pintar.

Perkembangan kuasa pengkomputeran pintar di negara saya

Kedua, isu yang mengelilingi algoritma Model perkhidmatan juga perlu diperbaiki.

Sejak 2011, syarikat terkemuka AI global dan institusi penyelidikan telah menyertai penyelidikan model besar AI, dan parameter model telah meningkat secara mendadak. Dalam masa tiga atau empat tahun sahaja, skala parameter telah menembusi dengan pantas daripada berbilion-bilion kepada trilion, dan banyak model besar yang mewakili telah muncul, seperti BERT dikeluarkan oleh Google, GPT-3 dikeluarkan oleh OpenAI, dsb.

Perubahan dalam paradigma pengkomputeran tradisional juga pasti akan menggalakkan transformasi model perkhidmatan pusat pengkomputeran pintar daripada terutamanya menyediakan kuasa pengkomputeran kepada menyediakan "algoritma + kuasa pengkomputeran".

Akhir sekali, pemahaman konsep semasa masih belum jelas, piawaian pembinaan tidak bersatu, senario aplikasi belum kaya, dan operasi model masih belum jelas. Isu seperti kematangan juga secara langsung mempengaruhi pembangunan pusat pengkomputeran pintar.

Bagaimana untuk menyelesaikannya?

Dalam hal ini, penyelesaian yang diberikan oleh "Panduan" ialah: 1 Manfaat universal sejagat; 2. Terbuka dan serasi .

Mula-mula mari kita bincangkan tentang maksud "manfaat universal sejagat". ​

Faedah universal sejagat bermakna memberikan permainan sepenuhnya kepada nilai sosial infrastruktur awam bukan sahaja mesti memenuhi keperluan pengguna untuk pengkomputeran am kuasa , tetapi juga untuk memenuhi keperluan pengguna yang berbeza untuk kuasa pengkomputeran yang pelbagai dalam senario yang berbeza.

Secara khusus, pusat pengkomputeran pintar harus dibangunkan ke arah penyeragaman, kos rendah, dan ambang rendah, supaya pengkomputeran pintar boleh menjadi perkhidmatan awam asas dalam masyarakat seperti air dan elektrik, memenuhi keperluan pengguna yang berbeza Senario memerlukan kuasa pengkomputeran yang pelbagai.

Kedua, ia mestilah "terbuka dan serasi". ​

Khususnya, ia adalah untuk membuka sumber dan memupuk ekosistem. Ia tertumpu terutamanya pada perkakasan terbuka dan perisian sumber terbuka, menyepadukan berbilang kuasa pengkomputeran, dan merealisasikan pengagregatan, penjadualan dan pelepasan kuasa pengkomputeran, supaya pusat pengkomputeran pintar boleh "menggunakannya dan menggunakannya dengan baik". Pada masa yang sama, adalah perlu untuk mengukuhkan sokongan penyelidikan dan pembangunan serta promosi aplikasi berskala besar bagi produk perisian dan perkakasan utama pusat pengkomputeran pintar.

Struktur Pembinaan Pusat Pengkomputeran Pintar

Untuk merealisasikan faedah sejagat dan penggunaan cekap perkhidmatan kuasa pengkomputeran, iaitu, bagaimana pusat pengkomputeran pintar boleh "mudah digunakan dan digunakan dengan baik", "Panduan" menunjukkan bahawa pembinaan pusat pengkomputeran pintar masih perlu dibinaLaluan teknikal "empat pemodenan" bagi "infrastruktur pengkomputeran, infrastruktur algoritma, perisikan perkhidmatan dan kemudahan hijau" .

Infrastruktur infrastruktur pengkomputeran bermakna pusat pengkomputeran pintar mesti berupaya menyediakan kos efektif, inklusif, dan Keupayaan sumber pengkomputeran yang selamat menjadikan kuasa pengkomputeran AI sebagai sumber awam asas di bandar, seperti air dan elektrik, untuk digunakan oleh kerajaan, perusahaan dan orang ramai secara bebas.

Infrastruktur algoritma bermakna pusat pengkomputeran pintar menyediakan algoritma industri pratetap dan membina model pangkalan data pra-latihan , menggalakkan peningkatan berterusan model algoritma, menyediakan data profesional dan perkhidmatan algoritma, membolehkan lebih ramai pengguna menikmati perkhidmatan pengkomputeran pintar universal, dan mencapai kesan "datang dengan data dan keluar dengan hasil":

Perkhidmatan perisian pintar bermakna pembangunan pusat pengkomputeran pintar akan dinaik taraf daripada perkakasan dan perisian tradisional kepada "perisian pintar" . "Perisian Pintar" merujuk kepada produk dan perkhidmatan perisian tengah yang disediakan oleh Pusat Pengkomputeran Pintar untuk mempromosikan aplikasi kecerdasan buatan. Pembinaan "perisian pintar" menyediakan pengguna dengan penjadualan kuasa pengkomputeran kecerdasan buatan yang kaya dengan ciri dan mudah digunakan, bekalan algoritma dan perkhidmatan pembangunan diperibadikan melalui antara muka operasi visual dan pembangunan kod rendah atau bahkan model pembangunan tanpa kod.

Akhir sekali, kita perlu mencapai kemudahan hijau Trend pembangunan utama semasa ialah penggunaan teknologi penyejukan cecair.

Melihat masa depan

Kini, senario baru muncul yang diwakili oleh AIGC, Metaverse dan AI untuk Sains memasuki kehidupan seharian kita, memberikan masa depan Kita mempunyai kemungkinan yang tidak berkesudahan.

Sejajar dengan itu, gelombang pembinaan dan susun atur pusat pengkomputeran pintar sedang meningkat pesat di seluruh negara.

Manfaat universal kuasa pengkomputeran pintar telah banyak merendahkan ambang untuk inovasi bagi kebanyakan perusahaan, terutamanya perusahaan kecil dan sederhana.

Saya percaya bahawa dalam masa terdekat, kami akan menyaksikan "input data, output perisikan akan menjadi seperti air dan elektrik, benar-benar memberi manfaat kepada semua orang.

Pautan laporan: ​

​http://scdrc. sic.gov.cn/archiver/SmarterCity/UpFile/Files/Default/20230111181640567177.pdf​

Atas ialah kandungan terperinci ChatGPT, yang telah membangkitkan 10 bilion dolar AS, sangat bergantung kepada TA?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!