「AI 工廠」將推動軟體全端重塑，英偉達提供 Llama3 NIM 容器供用戶部署

本站6 月2 日消息，在目前正在進行的黃仁勳2024 台北電腦展主題演講上，黃仁勳介紹生成式人工智慧將推動軟體全端重塑，展示其NIM（Nvidia Inference Microservices）雲端原生微服務。

英偉達認為「AI 工廠」將掀起一場新產業革命：以微軟開創的軟體產業為例，黃仁勳認為生成式人工智慧將推動其全端重塑。

為方便各種規模的企業部署 AI 服務，英偉達今年 3 月推出了 NIM（Nvidia Inference Microservices）雲端原生微服務。

NIM+是一套經過最佳化的雲端原生微服務，旨在縮短上市時間，並簡化生成式AI 模型在雲、資料中心和GPU 加速工作站的任何位置的部署。它使用行業標準 API，抽象化 AI 模型開發和生產打包的複雜性，從而擴展開發者池。

#本站注意到，官方製作了一個 llama3 大模型的 NIM 容器，現已上線英偉達官網，開放供全部使用者下載並任意部署。

#▲ 英偉達官網

2024 台北國際電腦展專題

以上是「AI 工廠」將推動軟體全端重塑，英偉達提供 Llama3 NIM 容器供用戶部署的詳細內容。更多資訊請關注PHP中文網其他相關文章！