“AI Factory”는 전체 소프트웨어 스택의 재구성을 촉진하고 NVIDIA는 사용자가 배포할 수 있도록 Llama3 NIM 컨테이너를 제공합니다.

이 사이트는 6월 2일 진행 중인 Huang Jen-Hsun 2024 타이페이 컴퓨터 쇼 기조 연설에서 Huang Jen-Hsun이 생성 인공 지능이 소프트웨어 풀 스택의 재구성을 촉진하고 NIM(Nvidia Inference Microservices)을 시연할 것이라고 소개했다고 보도했습니다. 클라우드 네이티브 마이크로서비스.

NVIDIA는 "AI 공장"이 새로운 산업 혁명을 촉발할 것이라고 믿습니다: Huang Renxun은 Microsoft가 만든 소프트웨어 산업을 예로 들어 생성 인공 지능이 풀 스택 재구성을 촉진할 것이라고 믿습니다. .

NVIDIA는 모든 규모의 기업에서 AI 서비스 배포를 촉진하기 위해 올해 3월 NIM(Nvidia Inference Microservices) 클라우드 네이티브 마이크로서비스를 출시했습니다.

NIM+는 출시 시간을 단축하고 클라우드, 데이터 센터 및 GPU 가속 워크스테이션 어디에서나 생성 AI 모델 배포를 단순화하도록 설계된 최적화된 클라우드 기반 마이크로서비스 세트입니다. 업계 표준 API를 사용하여 AI 모델 개발 및 생산 패키징의 복잡성을 추상화하여 개발자 풀을 확장합니다.

이 사이트에서는 공식이 llama3 대형 모델용 NIM 컨테이너를 제작했음을 확인했습니다. 이 컨테이너는 현재 NVIDIA 공식 웹사이트에서 온라인으로 제공됩니다. 모든 사용자가 다음에서 다운로드하고 배포할 수 있습니다. 할 것이다.

▲ NVIDIA 공식 홈페이지

2024 Computex 타이페이 특별 주제

위 내용은 “AI Factory”는 전체 소프트웨어 스택의 재구성을 촉진하고 NVIDIA는 사용자가 배포할 수 있도록 Llama3 NIM 컨테이너를 제공합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!