엔비디아에 도전하세요! AMD, 더 큰 모델을 실행하고 시를 쓸 수 있는 AI 칩 출시

AI 컴퓨팅 파워 시장 2위이자 칩 제조사인 AMD가 인공지능 컴퓨팅 파워 시장에서 엔비디아와 경쟁하기 위해 새로운 인공지능 GPU MI300 시리즈 칩을 출시했습니다.

베이징 시간인 6월 14일 이른 아침, AMD는 예정대로 "AMD 데이터 센터 및 인공 지능 기술 프리미어"를 개최하고 회의에서 AI 프로세서 MI300 시리즈를 출시했습니다. 특히 대규모 언어 모델에 최적화된 MI300X는 올해 후반에 특정 고객 그룹에 출시될 예정입니다.

AMD CEO Su Zifeng은 AI 및 고성능 컴퓨팅(HPC)을 위한 세계 최초의 가속 프로세서(APU) 가속기인 MI300A를 처음 출시했습니다. 13개의 칩렛에 1,460억 개의 트랜지스터가 분산되어 있습니다. 이전 세대 MI250에 비해 MI300의 성능은 8배, 효율성은 5배 향상되었습니다.

이후 Su Zifeng은 이번 컨퍼런스에서 가장 화제가 되었던 제품인 MI300X를 발표했는데, 이는 대형 언어 모델에 최적화된 버전입니다.

"나는 이 칩이 마음에 듭니다."라고 Su Zifeng은 말했습니다. MI300X 칩과 그 CDNA 아키텍처는 대규모 언어 모델 및 기타 최첨단 인공 지능 모델을 위해 설계되었습니다.

생성 AI 애플리케이션을 위한 대규모 언어 모델은 점점 더 많은 계산을 실행하므로 많은 메모리를 사용합니다. AMD는 400억 매개변수 Falcon 모델을 실행하는 MI300X를 시연했습니다. OpenAI의 GPT-3 모델에는 1,750억 개의 매개변수가 있습니다.

MI300X를 기반으로 한 Hugging Face의 대형 모델을 이용해 행사가 진행된 샌프란시스코에 대한 시를 쓰기도 했습니다.

Su Zifeng은 MI300X가 제공하는 HBM(고대역폭 메모리) 밀도가 NVIDIA H100의 2.4배, HBM 대역폭이 경쟁 제품의 1.6배라고 밝혔습니다. 이는 AMD가 Nvidia H100보다 더 큰 모델을 실행할 수 있음을 의미합니다.

"모델 크기는 점점 더 커지고 있으며 실제로 최신 대형 언어 모델을 실행하려면 여러 개의 GPU가 필요합니다."라고 Su Zifeng은 AMD 칩의 메모리가 증가하면 개발자에게 그렇게 많은 GPU가 필요하지 않을 것이라고 지적했습니다. 사용자가 비용을 절약하는 데 사용됩니다.

AMD는 또한 8개의 M1300X 가속기를 하나의 시스템에 통합하는 Infinity Architecture를 출시할 것이라고 밝혔습니다. Nvidia와 Google에서는 8개 이상의 GPU를 인공 지능 애플리케이션용 상자에 결합하는 유사한 시스템을 개발하고 있습니다.

좋은 칩은 제품 자체뿐만 아니라 좋은 생태계도 필요합니다. AI 개발자가 역사적으로 Nvidia 칩을 선호하는 이유 중 하나는 칩의 핵심 하드웨어 기능에 대한 액세스를 제공하는 CUDA라는 잘 개발된 소프트웨어 패키지가 있기 때문입니다.

NVIDIA의 CUDA를 벤치마킹하기 위해 AMD는 자체 소프트웨어 생태계를 만들기 위해 자체 칩 소프트웨어 "ROCm"을 출시했습니다.

Su Zifeng은 또한 투자자와 분석가들에게 인공 지능이 회사의 "가장 크고 전략적인 장기 성장 기회"라고 말했습니다. "우리는 데이터 센터 인공 지능 가속기(시장)가 50% 이상의 복합 비율로 성장할 것이라고 믿습니다. 연간 성장률은 올해 약 300억 달러에서 2027년에는 1,500억 달러 이상으로 늘어날 것입니다.”

ChatGPT와 같은 대규모 언어 모델에는 컴퓨팅을 위해 최고 성능의 GPU가 필요합니다. 현재 NVIDIA는 시장의 80%를 점유하여 이 시장에서 절대적인 우위를 점하고 있으며 AMD는 강력한 도전자로 간주됩니다.

AMD는 가격을 공개하지 않았지만 이러한 움직임은 미화 30,000달러 이상에 도달할 수 있는 후자의 H100과 같은 Nvidia GPU에 가격 압력을 가할 수 있습니다. GPU 가격 하락은 AI 애플리케이션 생성에 드는 높은 비용을 줄이는 데 도움이 될 수 있습니다.

그러나 이번 컨퍼런스에서 AMD의 많은 제품은 성능 측면에서 "선두" 위치에 있었습니다. 그러나 자본 시장은 AMD의 주가를 끌어올리지 못한 반면, 경쟁사인 Nvidia는 3.90% 상승했습니다. %, 시장 가치는 1조 달러 이상으로 마감되었습니다.

【출처: 더페이퍼】

위 내용은 엔비디아에 도전하세요! AMD, 더 큰 모델을 실행하고 시를 쓸 수 있는 AI 칩 출시의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!