Maison  >  Article  >  Périphériques technologiques  >  « AI Factory » favorisera la refonte de l'ensemble de la pile logicielle, et NVIDIA fournit des conteneurs Llama3 NIM que les utilisateurs peuvent déployer

« AI Factory » favorisera la refonte de l'ensemble de la pile logicielle, et NVIDIA fournit des conteneurs Llama3 NIM que les utilisateurs peuvent déployer

王林
王林original
2024-06-08 19:25:19509parcourir

Ce site a rapporté le 2 juin que lors du discours d'ouverture du Huang Jen-Hsun 2024 Taipei Computer Show, Huang Jen-Hsun a présenté que l'intelligence artificielle générative favoriserait la refonte de l'ensemble de la pile logicielle et a démontré son NIM (Nvidia Inference Microservices) microservices cloud natifs .

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

NVIDIA estime que "l'usine IA" déclenchera une nouvelle révolution industrielle : Prenant l'exemple de l'industrie du logiciel créée par Microsoft, Huang Renxun estime que l'intelligence artificielle générative favorisera sa refonte complète .

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

Pour faciliter le déploiement de services d'IA par les entreprises de toutes tailles, NVIDIA a lancé les microservices cloud natifs NIM (Nvidia Inference Microservices) en mars de cette année.

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

NIM+ est un ensemble de microservices cloud natifs optimisés conçus pour réduire les délais de commercialisation et simplifier le déploiement de modèles d'IA génératifs n'importe où dans le cloud, les centres de données et les postes de travail accélérés par GPU. Il utilise des API standard de l'industrie pour résumer les complexités du développement de modèles d'IA et du packaging de production, élargissant ainsi le pool de développeurs.

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

Ce site a remarqué que le responsable a produit un conteneur NIM pour le grand modèle lama3, qui est maintenant en ligne sur le site officiel de NVIDIA, ouvert à tous les utilisateurs pour le télécharger et le déployer sur volonté.

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署
▲ Site officiel de NVIDIA

2024 Computex Taipei Special Topic

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration:
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn