« AI Factory » favorisera la refonte de l'ensemble de la pile logicielle, et NVIDIA fournit des conteneurs Llama3 NIM que les utilisateurs peuvent déployer

Ce site a rapporté le 2 juin que lors du discours d'ouverture du Huang Jen-Hsun 2024 Taipei Computer Show, Huang Jen-Hsun a présenté que l'intelligence artificielle générative favoriserait la refonte de l'ensemble de la pile logicielle et a démontré son NIM (Nvidia Inference Microservices) microservices cloud natifs .

NVIDIA estime que "l'usine IA" déclenchera une nouvelle révolution industrielle : Prenant l'exemple de l'industrie du logiciel créée par Microsoft, Huang Renxun estime que l'intelligence artificielle générative favorisera sa refonte complète .

Pour faciliter le déploiement de services d'IA par les entreprises de toutes tailles, NVIDIA a lancé les microservices cloud natifs NIM (Nvidia Inference Microservices) en mars de cette année.

NIM+ est un ensemble de microservices cloud natifs optimisés conçus pour réduire les délais de commercialisation et simplifier le déploiement de modèles d'IA génératifs n'importe où dans le cloud, les centres de données et les postes de travail accélérés par GPU. Il utilise des API standard de l'industrie pour résumer les complexités du développement de modèles d'IA et du packaging de production, élargissant ainsi le pool de développeurs.

Ce site a remarqué que le responsable a produit un conteneur NIM pour le grand modèle lama3, qui est maintenant en ligne sur le site officiel de NVIDIA, ouvert à tous les utilisateurs pour le télécharger et le déployer sur volonté.

▲ Site officiel de NVIDIA

2024 Computex Taipei Special Topic

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!