생성 AI 정원에서 NVIDIA가 '파는 사람'으로 작동하는 방식

NVIDIA GPU가 비싼 이유는 ​​무엇인가요?

작성자: Jiang Yue

편집자: Tao Li Lu Taoran

사진 출처 : 사진총

"CPU 확장의 시대는 끝났다"는 NVIDIA 창립자이자 CEO인 Jen-Hsun Huang이 5월 29일 타이페이 국제 컴퓨터 쇼에서 발표한 내용입니다. "2시간 동안 진행된 연설에서 그는 제너레이티브 AI가 가져온 '트리거 포인트'를 중심으로 NVIDIA의 최신 하드웨어, 소프트웨어, 새로운 시스템 제품을 철저하게 소개했습니다.

Huang Renxun은 GPU로 형성된 "새 컴퓨터"가 도착했다고 말했습니다. 엔비디아가 만든 새로운 '컴퓨터'는 이전과 다른 형태를 갖고 있으며, 한 대의 가격은 최대 20만 달러에 이른다. '비싸다'는 논란 속에서도 황런순은 GPU는 전력 예산이 제한된 모든 회사에게 유일한 선택이며 가장 '절약적인' 인프라 옵션이기도 하다라고 말했습니다.

황런쉰은 최근 공개 연설에서 AI 시대를 맞이하여 사람들은 "천천히 걷는 것이 아니라 달려야 한다"고 말했습니다. 생성 AI 정원에서 Nvidia는 확실히 열심히 노력하고 있습니다.

GPU 데이터 디코딩 심장 비용

"모두들 GPU 데이터 센터가 비싸다고 말하는데, 제가 계산해 보겠습니다." 5월 29일 NVIDIA 창립자이자 CEO인 Jen-Hsun Huang은 타이베이 국제 컴퓨터 박람회에서 GPU 데이터 센터를 대중에게 자세히 소개했습니다. 의.

NVIDIA는 공급업체 및 고객과의 미팅에서 새로운 AI 컴퓨터 DGX GH200을 가져왔습니다. 이는 256개의 Nvidia 최고 성능 CPU와 GPU를 통합한 슈퍼컴퓨터로, "초대형 모델"의 교육 요구 사항을 충족할 수 있습니다.

DGX GH200은 NVIDIA NVLink-C2C 상호 연결 기술을 사용하여 Arm 기반 Grace 아키텍처 CPU와 Hopper 아키텍처 GPU를 상호 연결하여 최대 900GB/s의 총 대역폭을 달성합니다. 이는 기존 가속 시스템의 표준 PCIe Gen5 레인보다 7배 더 높은 수치입니다. 이제 이러한 종류의 컴퓨팅 성능은 오늘날 가장 까다로운 생성 AI 및 HPC 애플리케이션을 충족할 수 있습니다.

사진은 NVIDIA가 5월 29일에 발표한 GH200 Grace Hopper 슈퍼 칩입니다

사진 제공: NVIDIA

데이터 센터 인프라에 대한 시장 수요가 증가함에 따라 Nvidia는 이제 시장에 대한 일부 "판매 방법"을 사용해야 합니다. 가장 시급한 것은 장비가 '비싸다'는 사람들의 두려움을 해소하는 것입니다.

간단히 말하면, "GPU 데이터 센터를 사용하면 성능은 150배 향상되고 비용은 2/3 절감될 수 있습니다."라고 Huang Renxun은 말했습니다.

Huang Renxun은 1,000만 달러라는 동일한 예산을 예로 들면 AIGC 개발자가 960개의 CPU 서버로 구성된 데이터 센터를 구축할 수 있으며 이는 대규모 언어 모델을 훈련하기에 충분하며 최종 운영 소비량은 11기가와트시라고 소개했습니다. (GWh, 1,100만kWh의 전력에 해당).

하지만 GPU로 전환하면 48개의 GPU 서버로 구성된 데이터 센터를 구축할 수 있습니다. 하지만 이 데이터 센터는 44개의 대규모 언어 모델을 훈련할 수 있어 총 3.2기가와트시(320만kWh에 해당)를 소비합니다.

위 계산 방법에 따르면 단일 칩 가격을 기준으로 GPU 칩 가격은 CPU 가격의 20배로 "더 비싼" 것으로 보입니다. 그러나 데이터 센터 TCO 비용 계산 방법에 따르면 GPU 데이터 센터가 "비용 절감"에 더 가깝습니다.

Huang Renxun은 데모 PPT에서 직접 공식을 나열하기도 했습니다. 데이터 센터 유지 비용 = f{하드웨어 비용(칩, 시스템, 하드웨어 생태계), 처리량(GPU, AIgo 소프트웨어, 네트워크, 시스템 소프트웨어, 소프트웨어 생태계) ), 사용량( AIgo Lib, 소프트웨어 생태계), 조달 운영, 수명주기 최적화, 컴퓨팅 성능}을 통해 데이터 센터의 TCO 비용 문제를 설명합니다.

"이게 왜 중요한가요? 실제 생활에서는 대부분의 회사에 전력 제한이 있기 때문입니다." 황 런슨이 다시 강조했습니다. AIGC에 투자할 때 기업은 이러한 객관적인 요소를 고려하여 보다 효율적이고 전력 소비가 낮은 데이터 센터 제품을 선택해야 합니다.

데이터 센터에서 GPU가 그토록 강력한 이유는 무엇입니까? Huang Renxun에 따르면 이는 주로 광선 추적(빛의 특성 시뮬레이션), 텐서 컴퓨팅을 핵심으로 하는 인공 지능, 새로운 알고리즘이라는 세 가지 주요 기능 때문이라고 합니다.

2017년부터 NVIDIA는 이 세 가지 기능을 GPU에 동시에 구현하기 시작했으며, GPU를 사용하여 이미지를 생성하는 것은 처음으로 시장을 놀라게 했습니다. 당시 CPU 서버를 사용하여 무에서 그림을 "생성"하는 데 몇 시간이 걸렸지만(이 프로세스를 전문 용어로 "렌더링"이라고 함) Nvidia는 GPU를 사용하면 15초밖에 걸리지 않았습니다.

그러나 새로운 GPU 컴퓨터의 소위 "저렴함"은 소비자 시장을 겨냥한 것이 아닙니다. 현재 개인용 컴퓨터 시장의 CPU 코어 PC와 노트북은 가격이 저렴하기 때문에 대체할 수 없습니다.

연설에서 Jen-Hsun Huang은 8개의 H100 칩으로 구성된 새로운 GPU 컴퓨터를 시연했습니다. "세계에서 가장 비싼 컴퓨터입니다." Huang Renxun이 말했습니다.

이 새로운 컴퓨터의 무게는 65파운드(약 29.5kg)이며 부드럽고 정확한 설치를 위해서는 로봇의 도움이 필요합니다. "이 컴퓨터는 US$200,000에 판매됩니다." Huang Renxun이 말했습니다.

AIGC 산업의 변화를 시작하세요

다시 쓴 글입니다. Nvidia가 AIGC 리더십 위치를 확보하기 위한 첫 번째 단계는 하드웨어를 사용하여 "CPU 시대"를 없애는 것입니다. 현재 NVIDIA는 소프트웨어 생태계에서 CUDA 컴퓨팅 모델을 400만 명의 소프트웨어 개발자에게 홍보하는 것 외에도 게임 AI 모델 OEM 서비스를 출시하고 가상 컴퓨팅을 지원하기 위해 제조 산업에 깊이 진출했습니다. 공장 및 로봇 시뮬레이션 기술 및 자동화된 감지.

"사람들은 왜 그렇게 오랜 세월 동안 새로운 컴퓨팅 방법을 만들 수 없었습니까?"라고 Huang Renxun은 CPU 시대에 대해 말했습니다. 하드웨어와 소프트웨어, 소비자 시장, 개발자와 공급업체 사이에 '닭과 달걀' 관계가 있어 상호 구속력이 생기고 CPU 기반 컴퓨팅 방식이 오랫동안 지속될 수 있기 때문이라고 지적했다. 시간.

따라서 NVIDIA는 "CPU 시대"의 족쇄를 깨기 위해 칩 하드웨어를 적극적으로 설계할 뿐만 아니라 소프트웨어 생태 환경 구축에도 큰 관심을 기울이고 있습니다. CUDA 컴퓨팅 모델은 NVIDIA가 이러한 장기 레이아웃을 위해 만든 핵심 부분입니다.

현재 3,000개 이상의 애플리케이션과 4백만 명의 개발자가 NVIDIA Cuda 컴퓨팅 모델을 사용하고 있습니다. 작년에만 Cuda의 다운로드 횟수는 2,500만 회에 이르렀고, 총 다운로드 횟수는 4,000만 회에 달했습니다. " Huang Renxun은 말했습니다. 그는 이러한 대규모 소프트웨어를 기반으로 CPU를 GPU로 교체하는 것이 가능하다고 지적했습니다.

Huang Renxun의 2시간 연설을 요약하면 핵심 슈퍼 칩, 인터커넥트 기술, 알고리즘 엔진 최적화 및 소프트웨어 업그레이드 지원을 다루는 Nvidia의 AIGC 분야 탐구를 볼 수 있습니다.

실제로 AIGC에 관련된 텍스트, 텍스트, 그림, 2D 그림, 3D 그림은 NVIDIA의 대화형 AI 모델 오픈 소스 프레임워크인 NeMo와 Meta의 대형 모델인 LLaMa, ChatGPT, 애플리케이션 등 다양한 대형 모델이나 애플리케이션을 통해 구현되고 있습니다. GPT 모델, Stable Diffusion, Vincent 그래프 애플리케이션 등을 활용

현재 세계에서 가장 영향력 있는 AIGC 기술 리더들은 NVIDIA가 제공하는 도구를 심층적으로 사용하고 있으며, 이로 인해 NVIDIA는 미국 주식 시장에서 시가총액 '1조 달러'의 정점에 올랐으며 곧 경쟁하게 될 것입니다. 애플, 마이크로소프트, 구글, 아마존이 함께 '조 클럽'에 속해 있다.

이번에 NVIDIA가 AIGC 업계에 가져온 도구의 수에 시장은 놀랐습니다. 위 제품 외에도 Nvidia가 대규모 게임 제작 및 디지털 공장에 참여하는 것도 매우 눈길을 끕니다.

게임 제작 측면에서 Huang Jenxun이 게임 클립을 보여주었습니다. 이번 영상에서는 사실적인 영상 제작 외에도 게임 플레이어와 NPC 간의 대화도 모두 AIGC로 생성되었습니다. 즉, 미래의 게임은 "수천 개의 얼굴"을 가질 수 있으며 플레이어는 더 이상 패턴화된 응답만 제공하는 NPC와 마주하지 않을 것입니다. ACE Game Development Edition은 NVIDIA에서 제공하는 AI 모델 파운드리 서비스로, 게임 개발자가 이 기능을 쉽게 사용할 수 있도록 도와줍니다.

NVIDIA는 또한 일부 주요 전자 제조업체가 이제 NVIDIA의 AIGC 및 옴니버스 플랫폼을 사용하여 공장의 "디지털화"를 실현했다고 소개했습니다.

제조업에는 전 세계적으로 약 1천만 개의 공장이 있으며, 이는 산업 디지털화의 핵심 영역입니다.

Huang Renxun은 다음과 같이 말했습니다.

"산업 제조는 모두 물리적인 물체입니다. 제품을 먼저 디지털 방식으로 제조할 수 있다면 수십억 달러를 절약할 수 있습니다."

현재 산업 분야에서는 NVIDIA가 주로 공장의 가상 공장 설계를 돕기 위해 Omniverse 및 생성 AI를 만들고 있으며 Isaac Sim 시뮬레이션 및 테스트 로봇과 Metropolis 광학 검사 자동화 도구도 출시하고 있습니다.

폭스콘(Foxconn), 페가트론(Pegatron), 콴타(Quanta) 등 전자장비 제조사들은 이미 위에서 언급한 엔비디아의 툴을 사용해 노트북과 스마트폰의 생산과 조립 속도를 높이고 있는 것으로 파악된다.

21테크

남채그룹 특집 칼럼

이전 추천

산업 인터넷에서 AIGC까지: 스마트 제조는 어떻게 도약할 수 있나요?

05-30

자오밍 명예 CEO: 온디맨드 칩 전략 개발 및 2023년 R&D 비율 10% 유지

05-30

휴대폰 제조사들이 이미징과 폴더블 스크린을 놓고 경쟁하고 있습니다. 화웨이가 기술 비밀을 자세히 설명합니다

05-29

NVIDIA는 AI에서 '걷는 대신 달리는 것'을 촉구하며 슈퍼컴퓨팅에 노력하고 CPU 시대를 타파합니다

05-29

위 내용은 생성 AI 정원에서 NVIDIA가 '파는 사람'으로 작동하는 방식의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!