Huawei Cloud membawa kuasa pengkomputeran AI ke dunia

Sepanjang tahun 2023, komuniti teknologi global teruja dengan model besar. Sebagai laluan terpendek antara model AI besar dan senario industri, industri pengkomputeran awan secara semula jadi telah menarik banyak perhatian dalam gelombang model besar. Pada peringkat ini, vendor awan telah memasuki industri model besar satu demi satu dan meneroka kemungkinan yang dibawa oleh model besar kepada industri pengkomputeran awan dari pelbagai sudut.

Tetapi kita cenderung mengabaikan nod utama sedemikian: cabaran pertama model besar dengan "beratus-ratus model dan beribu-ribu negeri" ialah kuasa pengkomputeran AI. Untuk melakukan kerja yang baik dalam perkhidmatan model besar, kita juga mesti melakukan kerja yang baik dalam perkhidmatan kuasa pengkomputeran.

Dalam keupayaan paling asas kuasa pengkomputeran AI, terdapat jawapan sebenar tentang cara perkhidmatan awan AI boleh pergi lebih jauh.

Pada 21 September, semasa Persidangan Huawei Connected 2023, Pengarah Urusan Huawei dan Ketua Pegawai Eksekutif Awan Huawei Zhang Pingan menyampaikan ucaptama yang memfokuskan pada "Membina Pangkalan Awan untuk Dunia Pintar, Membiarkan AI Membentuk Semula Ribuan Industri" dan mengeluarkan Pangu Model besar menyediakan perkhidmatan inovatif dalam bidang perlombongan, hal ehwal kerajaan, kereta, meteorologi, perubatan, orang digital, penyelidikan dan pembangunan, dsb., dan mengumumkan pelancaran rasmi perkhidmatan awan Huawei Cloud Ascend AI, mempercepatkan realisasi manfaat inklusif untuk model besar dalam beribu-ribu industri. Memfokuskan kepada pelaksanaan model besar Pangu, tema perkongsian Awan Huawei kali ini ialah "selesaikan masalah yang sukar dan buat perkara yang sukar". Menjadikan kuasa pengkomputeran AI boleh digunakan, mencukupi, mudah digunakan dan berguna adalah masalah pertama yang diselesaikan oleh Huawei Cloud.

Kuasa pengkomputeran telah memasuki negara ini, dan AI telah mula berlepas.

Untuk melakukan "perkara sukar" yang penting ini, Perkhidmatan Awan Shengteng AI ditetapkan.

Gunung dan sungai yang besar memerlukan kuasa pengkomputeran AI yang besar

Sejak revolusi maklumat, manusia secara beransur-ansur mendapati bahawa magnitud inovasi teknologi adalah berkadar terus dengan penggunaan kuasa pengkomputeran Ini telah disahkan sekali lagi oleh model besar.

Kemunculan dan kematangan model besar telah membawa peluang baharu kepada kecerdasan beribu-ribu industri. Boleh dikatakan bahawa setiap adegan dalam setiap industri layak untuk diintegrasikan ke dalam model besar, malah kebanyakannya boleh dibentuk semula oleh model besar. Sama ada ciri-ciri model besar itu sendiri dengan skala model yang besar dan banyak parameter data, atau permintaan yang muncul untuk model besar dalam pelbagai industri, semuanya menunjukkan hasil yang sama: kuasa pengkomputeran AI yang digunakan oleh sistem pengeluaran sosial akan meningkat secara eksponen.

Model besar memerlukan kuasa pengkomputeran yang besar, yang telah menjadi konsensus industri. Tetapi jika kita membuka isu ini secara khusus, kita akan mendapati bahawa cabaran industri yang mengelilingi kuasa pengkomputeran AI adalah sangat pelbagai. Kita boleh meringkaskannya kepada empat jenis: percanggahan antara bekalan dan permintaan, cabaran kecekapan tenaga, keperluan operasi dan penyelenggaraan serta kebimbangan keselamatan.

Mari kita lihat dahulu cabaran teras kuasa pengkomputeran AI, iaitu ketidakseimbangan objektif antara bekalan dan permintaan.

Sehingga Julai 2023, sejumlah 130 model besar telah dikeluarkan di China. "Pertempuran 100 Model" telah membawa peningkatan besar dalam kuasa pengkomputeran AI. Menurut laporan data yang berkaitan, permintaan kuasa pengkomputeran AI global telah meningkat sebanyak 300,000 kali dalam tempoh 10 tahun yang lalu, dan kami akan menghadapi peningkatan permintaan sebanyak 500 kali ganda dalam tempoh 10 tahun akan datang. Menurut "Laporan Penilaian Pembangunan Kuasa Pengkomputeran Kecerdasan Buatan China 2022-2023", jumlah keseluruhan pengkomputeran AI yang dilakukan di China pada tahun 2022 telah melebihi pengkomputeran umum. Pada masa hadapan yang boleh dijangka, kuasa pengkomputeran AI akan menjadi bentuk pengkomputeran dengan permintaan terbesar dari semua lapisan masyarakat, jurang terbesar antara bekalan dan permintaan, dan pengkomputeran paling terhad sumber.

Kedua, model besar dan kuasa pengkomputeran besar membawa isu kecekapan tenaga yang teruk.

Memandangkan latihan model besar memerlukan pengkomputeran AI berkelompok, tugas latihannya sangat bergantung pada pusat data Ketumpatan kuasa pelayan AI jauh melebihi pelayan biasa, dan penggunaan kuasa satu kabinet adalah 6 hingga 8 kali lebih tinggi daripada. pada masa lalu. Dalam konteks dwi karbon, nisbah kecekapan tenaga pusat data mesti terus menurun Oleh itu, masalah kecekapan tenaga pengkomputeran yang disebabkan oleh model besar telah menjadi mendesak. Bagaimana untuk mencapai keseimbangan antara peningkatan kuasa pengkomputeran AI dan penurunan nisbah kecekapan tenaga telah menjadi masalah yang mesti dihadapi oleh industri.

Selain itu, kita juga perlu melihat beberapa siri masalah operasi dan penyelenggaraan semasa proses aplikasi kuasa pengkomputeran AI. Memandangkan matlamat latihan dan penggunaan model besar adalah berbeza, dan persekitaran latihan dan penggunaan masing-masing juga sangat berbeza, isu operasi dan penyelenggaraan seperti kelewatan rangkaian, kebolehpercayaan model, dan ambang pengurusan operasi dan penyelenggaraan secara semula jadi akan timbul dalam tempoh ini. Sebagai contoh, sesetengah model besar memerlukan kluster kuasa pengkomputeran yang sangat besar untuk menyokongnya, dan masalah sering timbul dalam penyelarasan antara sejumlah besar pelayan dan unit pengkomputeran Sebaik sahaja terdapat masalah dengan unit pengkomputeran, pembangun perlu memulakan semula latihan. Kos masa, bakat dan kuasa pengkomputeran yang besar dalam latihan model besar berlaku disebabkan oleh kegagalan yang kerap dan dimulakan semula tugas latihan. Oleh itu, model besar bukan sahaja memerlukan kuasa pengkomputeran AI yang mencukupi, tetapi juga memerlukan perkhidmatan kuasa pengkomputeran yang canggih untuk membantu pengguna mengurangkan masalah operasi dan penyelenggaraan keseluruhan.

Akhirnya, kita juga akan melihat bahawa model besar membawa kebimbangan keselamatan baharu.

Memandangkan senario penggunaan model besar kebanyakannya berkaitan dengan ekonomi negara dan mata pencarian rakyat, semua bahaya keselamatan mesti dihapuskan. Dalam bidang seperti akses data, penyulitan storan dan keselamatan penghantaran, model besar masih mempunyai banyak risiko keselamatan.

Secara keseluruhan, model besar bukanlah produk yang sangat konsisten. Klasifikasi teknikalnya adalah kompleks dan laluan kejuruteraan boleh diubah, dan setiap pengguna juga perlu memperhalusi dan menyesuaikan model besar mengikut keperluan mereka sendiri. Masalah ini memberikan model besar permintaan yang berbeza untuk perkhidmatan kuasa pengkomputeran AI dari pelbagai aspek dan sudut.

Memenuhi keperluan kuasa pengkomputeran AI bagi model besar telah menjadi soalan ujian pertama dalam era model besar.

Jadikan perkhidmatan awan Shengteng AI praktikal, halus dan berdaya saing

Bagi Huawei Cloud, untuk menjawab persoalan kuasa pengkomputeran dengan baik, ia perlu mengambil kira dua aspek pembinaan: Satu ialah cara menjadikan kuasa pengkomputeran AI mencukupi dan tersedia, dan satu lagi ialah cara menjangkau perkhidmatan kuasa pengkomputeran dalam operasi dan cabaran penyelenggaraan, keselamatan dan kecekapan tenaga, dsb. Kuasa pengkomputeran AI mestilah praktikal dan tepat.

Pada Julai tahun ini, Huawei Cloud mengeluarkan perkhidmatan awan Ascend AI terkini, yang boleh memberikan kuasa pengkomputeran AI yang melonjak kepada pengguna dalam beribu-ribu industri. Di belakangnya ialah pembinaan infrastruktur pengkomputeran kukuh Huawei Cloud.

Setakat ini, Huawei Cloud telah membina tiga pusat pengkomputeran AI utama di Gui'an, Ulanqab dan Wuhu. Berdasarkan ini, perkhidmatan awan AI Shengteng telah mencapai bulatan kependaman 20ms di seluruh negara. Pengguna boleh mencapai akses berdekatan, dan satu gentian optik boleh menyambung kepada kuasa pengkomputeran AI yang melonjak, dan perkhidmatan itu boleh digunakan di luar kotak. Untuk memastikan keselamatan kitaran hayat penuh data latihan model besar, perkhidmatan awan Shengteng AI turut menggunakan pelbagai teknologi seperti penghantaran data dan penyulitan storan, pembersihan keselamatan data, kawalan akses data dan penanda air data untuk mengelakkan kebocoran. Perlu diingat bahawa, sama ada untuk perusahaan atau masyarakat secara keseluruhan, perkhidmatan awan adalah cara paling cekap tenaga untuk mendapatkan kuasa pengkomputeran AI dalam era dwi-karbon.

Untuk mencapai prestasi muktamad kuasa pengkomputeran AI, Huawei Cloud juga telah menjalankan pengoptimuman teknikal untuk perkhidmatan awan AI di atas infrastruktur. Sebagai contoh, ModelArts menyediakan pecutan tiga lapisan data, latihan dan inferens Melalui teknologi pecutan data DataTurbo, ia boleh menggunakan sumber storan nod pengkomputeran untuk membina cache teragih, mengurangkan kependaman bacaan data kepada sub-milisaat. Teknologi pecutan latihan TrainTurbo boleh memendekkan masa membaca data sebanyak 50% apabila data latihan melebihi 100T, dan meningkatkan kecekapan latihan keseluruhan lebih daripada 20%. Dalam proses inferens model, teknologi pecutan inferens InferTurbo mempercepatkan inferens model melalui teknologi penyusunan graf, dan meningkatkan prestasi inferens model besar sebanyak 30% melalui pengoptimuman kolaboratif menegak pautan penuh.

Dengan sokongan infrastruktur yang berkuasa dan teknologi teras, pengguna boleh memperoleh prestasi pengkomputeran AI yang muktamad Untuk menjadikan kuasa pengkomputeran bukan sahaja "mencukupi" tetapi juga "mudah digunakan", Huawei Cloud telah menjalankan satu siri ". menjadikan kuasa pengkomputeran AI lebih cekap". "Essence" penerokaan.

Sebagai contoh, pembangunan AI bergantung pada alat dan platform yang komprehensif. Di sebalik perkhidmatan awan Ascend AI, terdapat satu siri alat pembangunan asas AI dan platform teknologi yang Huawei terus bina, seperti seni bina pengkomputeran heterogen CANN, rangka kerja AI senario penuh MindSpore, dan barisan pengeluaran pembangunan AI ModelArts , untuk menyediakan pecutan selari teragih untuk model besar seperti pengoptimuman operator dan kompilasi dan pengoptimuman komunikasi peringkat kelompok meletakkan asas untuk perkhidmatan kuasa pengkomputeran AI.

Seperti yang dinyatakan di atas, dalam proses latihan dan penggunaan model besar, kami juga menghadapi beberapa siri operasi dan penyelenggaraan, kecekapan tenaga dan isu-isu lain. Dari segi pengoptimuman perkhidmatan kuasa pengkomputeran, Ascend AI Cloud Service boleh menyediakan perkhidmatan kuasa pengkomputeran AI yang lebih lama dan lebih stabil Kadar kestabilan jangka panjang latihan kilokalori 30 hari juga boleh mencapai pemerolehan maklumat peringkat minit. Persempadanan 2 jam, dan peruntukan 24 jam Penyelesaian: Masa pemulihan titik putus tidak boleh melebihi 10 minit, dan masa pemulihan tugas hendaklah kurang daripada setengah jam.

Dari segi pemindahan model, Huawei Cloud menyediakan pengguna dengan rantaian alat migrasi dan menyepadukan alatan pembangunan tindanan penuh, yang boleh mencapai kecekapan penghijrahan model biasa serendah 2 minggu dan migrasi layan diri dalam senario arus perdana. Selain itu, perkhidmatan awan Ascend AI juga disesuaikan dengan model besar sumber terbuka arus perdana industri, seperti LLAMA, Stable Diffusion, dsb., dengan itu benar-benar membenarkan perkhidmatan awan Ascend AI memenuhi keperluan "pelbagai model dan beribu-ribu negeri" bagi model besar.

Bagi atlet, kemahiran asas ialah daya saing. Di landasan model awan + besar, Huawei Cloud juga telah membangunkan kuasa pengkomputeran AI untuk menjadi kompetitif melalui penyepaduan infrastruktur, teknologi dan perkhidmatan.

Kuasa pengkomputeran AI yang mudah digunakan oleh kertas adalah asas perindustrian model besar dan permulaan semua cerita.

Kuasa pengkomputeran, teknologi, senario: membina model besar ialah kitaran positif

Dalam menghadapi peluang pintar yang besar secara tiba-tiba bagi model besar, pengguna daripada beribu-ribu industri mempunyai keperluan yang besar dan berbeza. Sesetengah orang kekurangan kuasa pengkomputeran, ada yang memerlukan model, ada yang mencari senario, dan ada yang memerlukan bantuan alat teknikal tertentu. Kekurangan mana-mana satu syarat akan menghalang roda tenaga model besar daripada berputar.

Melihat dari perspektif lain, aplikasi berasaskan senario sumber pengkomputeran, alatan teknikal dan model semuanya boleh menjadi titik tumpu. Elemen ini boleh membantu pengguna perniagaan dan pembangun memulakan jalan ke model besar melalui kerjasama timbunan penuh dan promosi bersama.

Perkhidmatan awan Shengteng AI yang disediakan oleh Huawei Cloud bukan sahaja mempunyai kuasa pengkomputeran AI yang boleh digunakan, mencukupi dan mudah digunakan, tetapi juga boleh dikaitkan dengan beberapa siri susun atur Huawei Cloud untuk menjadikan model besar "berguna" mulai sekarang , dengan itu bersama-sama merealisasikan era Pangu menyelesaikan masalah yang sukar dan melakukan perkara yang sukar.

Sebagai contoh, kita dapat melihat bahawa banyak inovasi teknologi dan perkhidmatan awan Ascend AI saling melengkapi dan bersama-sama menyelesaikan cabaran permintaan tinggi untuk kuasa pengkomputeran AI dan kesukaran dalam bekalan. Seni bina QingTian yang diedarkan Huawei Cloud yang baru dikeluarkan mempunyai kesan sedemikian.

Keperluan kuasa pengkomputeran aplikasi model besar yang diwakili oleh AIGC sangat bergantung pada keupayaan pengkomputeran teragih, yang juga menimbulkan cabaran baharu kepada seni bina kuasa pengkomputeran. Sebagai generasi baharu seni bina peer-to-peer, seni bina QingTian yang diedarkan boleh mengubah kluster pengkomputeran pusat data tradisional menjadi gugusan sistem terkumpul peer-to-peer berdasarkan bas berkelajuan tinggi, dengan itu memecahkan had prestasi satu komponen dan mencapai kerjasama perisian dan perkakasan serta pengurusan dan kawalan Pemunggahan penuh, kehilangan sumber dan prestasi sifar, dan akhirnya membawa pengguna pengalaman terbaik dari segi prestasi, kebolehpercayaan, keselamatan dan kebolehpercayaan.

Selain itu, Huawei Cloud juga telah membuat inovasi teknologi dalam satu siri bidang seperti penyimpanan awan AI, pangkalan data vektor GaussDB, gabungan kecerdasan digital, Suite kejuruteraan model besar Tanpa Server+, dsb., memfokuskan kepada keperluan AI yang sentiasa berkembang, daripada lapisan seni bina sistem kepada pemprosesan data Lapisan, lapisan latihan model dan lapisan pembangunan aplikasi mencapai inovasi sistematik, sekali gus menghapuskan halangan untuk pengguna menggunakan perkhidmatan awan AI dan membenarkan kuasa pengkomputeran AI untuk benar-benar selaras dengan keperluan berasaskan senario ribuan. industri.

Di samping kuasa pengkomputeran AI asas dan siri inovasi teknologi, terdapat siri Pangu model besar yang disediakan oleh Huawei Cloud. Pada Persidangan Sambungan Penuh Huawei 2023, kita juga dapat melihat bahawa model besar Pangu telah dilaksanakan dalam senario yang lebih mendalam dalam industri.

Dalam industri automotif, model besar Pangu Automobile boleh merangkumi reka bentuk, pengeluaran, pemasaran, R&D dan aspek lain syarikat kereta, dan memainkan nilai unik dalam bidang seperti latihan pemanduan autonomi dan pelaksanaan adegan khas. Dalam bidang pemanduan autonomi, model besar Pangu Auto boleh membina ruang kembar digital tempat kejadian berdasarkan foto dan video yang dikumpul daripada pemandangan sebenar, menambahkan objek alih, cuaca boleh diedit, pencahayaan, dll., untuk menjana sampel pemandangan untuk autonomi pembelajaran memandu. Dalam senario pengendalian seperti pelabuhan dan kawasan perlombongan, algoritma kawalan berbilang senario dan pelbagai kenderaan model besar Pangu Automobile boleh membuat ralat sisi trak berat 60 tan kurang daripada 0.2 meter dan ralat dok tepat kurang daripada 0.1 meter . Pada masa ini, 23 trak berat tanpa pemandu beroperasi di lombong 24 jam sehari di Xinjiang Jiangna Mining Industry dan Inner Mongolia Yimin Open-pit Coal Mine.

Dalam bidang siaran langsung + orang digital, model Kongres Rakyat Digital Pangu dilatih berdasarkan kemahiran pertuturan siaran langsung berkualiti tinggi 100,000 peringkat Ia secara automatik boleh menjana kemahiran pertuturan profesional untuk memperkenalkan produk dengan tepat dan lancar, dan boleh juga secara automatik menangkap benteng dan penonton interaktif masa nyata. Di Danzhai, Guizhou, model NPC digital Pangu telah membawa batik industri warisan tidak ketara ke dunia.

Untuk meringkaskan, tidak sukar untuk mendapati bahawa Huawei Cloud telah membentuk "kitaran positif model besar" dengan kuasa pengkomputeran AI sebagai asas, inovasi teknologi sebagai pemacu, dan model besar Pangu yang disepadukan ke dalam senario industri. Kuasa pengkomputeran ThePaper AI boleh memacu penggunaan model besar, inovasi teknologi akan terus menurunkan ambang untuk senario industri besar akan mendorong pelaksanaan berskala besar model besar; Kuasa pengkomputeran memacu perkembangan senario dan teknologi membolehkan kuasa pengkomputeran dikeluarkan sepenuhnya, dan nilai senario diterokai secara mendalam kemajuan senario akan memacu pembinaan kuasa pengkomputeran dan kemajuan teknologi; Ketiganya bergerak ke hadapan, menarik ribuan industri untuk mencari jawapan kepada model besar di awan.

Berdasarkan kuasa pengkomputeran dan menggunakan kuasa pengkomputeran sebagai kunci, biarkan AI berintegrasi ke dalam pergunungan dan sungai - ini adalah lagu jangka panjang AI Huawei Cloud.

Atas ialah kandungan terperinci Huawei Cloud membawa kuasa pengkomputeran AI ke dunia. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!