구글은 자사의 4세대 TPU가 엔비디아 GPU보다 낫다고 주장하지만, 업계에서는 후자가 주도적인 위치를 흔들기 어렵다고 보고 있다.
- PHPz앞으로
- 2023-05-09 13:10:12812검색
Google은 최근 AI 슈퍼컴퓨팅 성능에서 Nvidia를 능가할 수 있다고 주장했습니다. 하지만 업계에서는 이번 소식이 시장 선두주자인 엔비디아에 큰 문제를 일으킬 가능성은 크지 않다고 보고 있다.
Google은 최근 TPU로 구동되는 AI 슈퍼컴퓨터가 Nvidia A100 GPU를 실행하는 동급 머신보다 성능과 에너지 효율성이 더 우수하다는 연구 보고서를 발표했습니다.
Google은 4,000개의 4세대 TPU를 결합하여 슈퍼컴퓨터를 구축했습니다. 이 슈퍼컴퓨터는 Nvidia A100 GPU를 사용하는 동급 컴퓨터보다 1.7배 더 빠르고 1.9배 더 효율적으로 실행될 것이라고 합니다.
Google은 오클라호마에서 TPU v4 기반 슈퍼컴퓨터를 운영합니다.
Nvidia는 Nvidia A100 GPU에 대한 사용자 수요가 급증하면서 생성 AI의 붐으로 혜택을 누리고 있습니다. A100은 주로 OpenAI의 GPT-4와 같은 대규모 언어 AI 모델을 훈련하는 데 사용됩니다.
업계에서는 Nvidia의 새로운 GPU H100 출시를 앞두고 있어 Google의 이러한 성과에 대해 우려할 가능성은 없을 것으로 보고 있습니다.
Google은 2020년부터 내부적으로 TPU v4를 사용해 왔으며 작년에 Google Cloud Platform 고객에게 이 칩을 제공했습니다. 회사 최대 규모의 대규모 언어 모델인 PaLM은 2대의 4000 TPU 슈퍼컴퓨터를 사용하여 학습되었습니다.
Google 연구원 Norm Jouppi와 저명한 엔지니어 David Patterson은 시스템에 대한 블로그 게시물에서 다음과 같이 설명했습니다. "고장난 구성 요소는 광학 회로 스위치로 쉽게 우회할 수 있습니다. 이러한 유연성을 통해 컴퓨터 상호 연결의 슈퍼 토폴로지를 변경하여 성능을 가속화할 수도 있습니다. GlobalData에서 반도체 시장 개발을 담당하고 있는 Mike Orme는 광회로 스위치의 사용이 Google 슈퍼컴퓨터의 성능을 향상시키는 열쇠라고 말했습니다. 그는 "각 TPU가 최고의 NVIDIA AI 칩만큼 빠르게 처리되지는 않지만 Google이 칩을 연결하고 칩 간에 데이터를 전달하는 데 사용하는 광회로 스위칭 기술이 성능 차이를 보완합니다."라고 설명했습니다. AI 모델 훈련을 위한 최고의 표준이며 일부 대형 기술 회사는 AI 기술 경쟁에서 상대방을 능가하기 위해 수천 대의 Nvidia A100 GPU를 구입했습니다. OpenAI가 GPT-4를 교육하는 데 사용하는 슈퍼컴퓨터에는 10,000개의 Nvidia GPU가 장착되어 있으며 각각 최대 10,000달러에 판매됩니다.
Nvidia A100 GPU
최신 뉴스에 따르면 A100은 곧 Nvidia의 최신 모델인 H100으로 대체될 예정입니다. 프로세서 성능을 추적하는 개방형 AI 엔지니어링 연합인 MLPerf가 최근 발표한 추론 벤치마크 보고서에서 H100은 전력 및 효율성 측면에서 업계 1위를 차지했습니다.
이러한 속도 이점은 Google의 광회선 스위칭 기술이 가져오는 이점을 제거합니다.
Google AI 훈련의 90%는 TPU를 사용하지만, 강력한 칩에도 불구하고 Orme는 Google이 이를 제3자에게 밀어붙일 것이라고 기대하지 않습니다. 왜냐하면 Google은 TPU가 전문인 상용 AI 칩 시장에서 Nvidia 칩과 경쟁할 야망이 없기 때문입니다. Google 데이터 센터 또는 AI 슈퍼컴퓨터. ”Google 외부에서 이 기술을 사용하는 사용자가 거의 없는 이유는 무엇입니까? Orme는 Google Cloud가 퍼블릭 클라우드 시장에서 점유율이 작기 때문이라고 생각합니다. Synergy Research Group이 발표한 조사 데이터에 따르면 Google Cloud의 시장 점유율은 11%로 뒤쳐져 있습니다. AWS와 Microsoft Azure의 34%와 21%
동시에 Google은 Google Cloud 고객에게 H100 GPU 컴퓨팅 성능을 제공하기로 NVIDIA와 계약을 체결했는데, 이는 NVIDIA가 앞으로도 계속 시장 리더십을 유지할 것임을 반영합니다. 심지어 Google도 그것 없이는 할 수 없습니다.
위 내용은 구글은 자사의 4세대 TPU가 엔비디아 GPU보다 낫다고 주장하지만, 업계에서는 후자가 주도적인 위치를 흔들기 어렵다고 보고 있다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!