„AI Factory' wird die Neugestaltung des gesamten Software-Stacks vorantreiben, und NVIDIA stellt Llama3-NIM-Container für die Bereitstellung durch Benutzer bereit

Diese Website berichtete am 2. Juni, dass Huang Jen-Hsun bei der laufenden Keynote-Rede der Huang Jen-Hsun 2024 Taipei Computer Show vorstellte, dass generative künstliche Intelligenz die Umgestaltung des gesamten Software-Stacks fördern wird, und dass er seine NIM (Nvidia Inference Microservices) demonstrierte. Cloud-native Microservices.

NVIDIA glaubt, dass die „KI-Fabrik“ eine neue industrielle Revolution auslösen wird: Am Beispiel der von Microsoft geschaffenen Softwareindustrie glaubt Huang Renxun, dass generative künstliche Intelligenz deren Umgestaltung im gesamten Stack vorantreiben wird .

Um die Bereitstellung von KI-Diensten durch Unternehmen jeder Größe zu erleichtern, hat NVIDIA im März dieses Jahres die cloudnativen Mikrodienste NIM (Nvidia Inference Microservices) eingeführt.

NIM+ ist eine Reihe optimierter Cloud-nativer Mikroservices, die darauf ausgelegt sind, die Markteinführungszeit zu verkürzen und die Bereitstellung generativer KI-Modelle überall in der Cloud, in Rechenzentren und GPU-beschleunigten Workstations zu vereinfachen. Es verwendet branchenübliche APIs, um die Komplexität der Entwicklung von KI-Modellen und der Produktionsverpackung zu abstrahieren und so den Entwicklerpool zu erweitern.

Diese Website hat festgestellt, dass der Beamte einen NIM-Container für das große Modell llama3 erstellt hat, der jetzt online auf der offiziellen NVIDIA-Website

offen für alle Benutzer zum Herunterladen und Bereitstellen unter ist Wille.

▲ Offizielle NVIDIA-Website

2024 Computex Taipei Special Topic

Das obige ist der detaillierte Inhalt von„AI Factory' wird die Neugestaltung des gesamten Software-Stacks vorantreiben, und NVIDIA stellt Llama3-NIM-Container für die Bereitstellung durch Benutzer bereit. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!