Rumah  >  Artikel  >  Peranti teknologi  >  "Kilang AI" akan mempromosikan pembentukan semula keseluruhan susunan perisian, dan NVIDIA menyediakan bekas Llama3 NIM untuk digunakan oleh pengguna

"Kilang AI" akan mempromosikan pembentukan semula keseluruhan susunan perisian, dan NVIDIA menyediakan bekas Llama3 NIM untuk digunakan oleh pengguna

王林
王林asal
2024-06-08 19:25:19453semak imbas

Tapak ini melaporkan pada 2 Jun bahawa pada ucapan dasar Pertunjukan Komputer Huang Jen-Hsun 2024 Taipei yang sedang berlangsung, Huang Jen-Hsun memperkenalkan bahawa kecerdasan buatan generatif akan mempromosikan pembentukan semula keseluruhan susunan perisian dan menunjukkan NIM (Nvidia Inference Microservices)nya. perkhidmatan mikro asli awan .

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

NVIDIA percaya bahawa "kilang AI" akan mencetuskan revolusi perindustrian baharu: Mengambil industri perisian yang dicipta oleh Microsoft sebagai contoh, Huang Renxun percaya bahawa kecerdasan buatan generatif akan mempromosikan pembentukan semula timbunan penuhnya .

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

Untuk memudahkan penggunaan perkhidmatan AI oleh perusahaan dari semua saiz, NVIDIA melancarkan perkhidmatan mikro asli awan NIM (Nvidia Inference Microservices) pada Mac tahun ini.

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

NIM+ ialah satu set perkhidmatan mikro asli awan yang dioptimumkan yang direka untuk mengurangkan masa untuk memasarkan dan memudahkan penggunaan model AI generatif di mana-mana sahaja dalam awan, pusat data dan stesen kerja dipercepatkan GPU. Ia menggunakan API standard industri untuk mengabstraksikan kerumitan pembangunan model AI dan pembungkusan pengeluaran, dengan itu mengembangkan kumpulan pembangun.

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

Tapak ini menyedari bahawa pegawai itu telah menghasilkan bekas NIM untuk model besar llama3, yang kini dalam talian di laman web rasmi NVIDIA, dibuka untuk semua pengguna untuk memuat turun dan menggunakan kehendak.

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署
▲ laman web rasmi NVIDIA

2024 Computex Taipei Special Topic

Atas ialah kandungan terperinci "Kilang AI" akan mempromosikan pembentukan semula keseluruhan susunan perisian, dan NVIDIA menyediakan bekas Llama3 NIM untuk digunakan oleh pengguna. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan:
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn