AI는 Micron과 다른 사람들의 칩으로 메모리를 얻습니다

3D 스택 SDRAM 마이크로 프로세서 인 HBM (High Bandwidth Memory) 칩은 고성능 컴퓨팅에 혁명을 일으키고 있습니다. 이들의 영향은 특히 LLM (Lange Language Model) 영역 (LLMS)의 영역에서 중요합니다. 메모리 용량을 높이고 컨텍스트 데이터의 유용성을 향상시킵니다. 이 하드웨어 발전은 반도체 업계의 주요 업체에 의해 주도됩니다.

HBM 풍경

Micron, Samsung 및 SK Hynix는 HBM 칩의 글로벌 공급 업체를 선도하고 있습니다. 흥미롭게도, 삼성은 지배적 인 파운드리 인 TSMC와 HBM 칩 제작을 위해 협력하고 있습니다. 단일 주요 파운드리에 대한 이러한 의존은 글로벌 칩 공급망의 잠재적 취약점을 강조하여 과거의 부족과 지정 학적 문제에 기여합니다.

Samsung과 TSMC는 HBM 생산의 주요 업체이지만 Nvidia와의 관계는 복잡합니다. NVIDIA는 처음에 삼성에서 HBM3E 칩을 공급할 계획 이었지만 삼성은 Nvidia의 사양을 충족시키지 못한 것으로 알려졌다. Nvidia CEO Jensen Huang은 삼성의 역할을 인정했지만 공식적인 명령이 없음을 확인했습니다.

HBM 칩 내부

HBM 칩은 CPU 또는 GPU에 가까운 메모리를 배치하여 낮은 대기 시간, 높은 대역폭 및 저전력 소비를 위해 설계된 3D 스택 드라마 칩입니다. Chatgpt에서보고 한 주요 사양은 다음을 포함합니다.

• 대역폭 : 스택 당 819GB/s
• 속도 : 6.4GB/핀
• 용량 : 스택 당 최대 64GB
• 열 효율이 향상되었습니다

기본 응용 프로그램에는 AI 응용 프로그램에 중점을 둔 AI, 고성능 컴퓨팅 (HPC) 및 GPU가 포함됩니다. 보다 일반적이지만 덜 강력한 게임 칩 인 GDDR6과의 비교는 HBM의 전문 디자인을 추가로 보여줍니다.

시장의 영향

최근 시장 변동은 이러한 기술 발전과 지정 학적 요인의 영향을 반영합니다. Nvidia의 주가는 중국 판매에 영향을 미치는 수출 통제에 기인 한 상당한 하락을 경험했습니다. Micron과 Samsung은 또한 사상 최고치에서 상당한 하락을 보았습니다. 이러한 시장 변화는 AI 칩 시장의 상호 연결성과 광범위한 지정 학적 역학을 강조합니다. AJ Bell Investment Director Russ Mold는 Barron의 Elsa Ohlen이 인용 한 바와 같이, Nvidia의 수출 제한으로 인해 Nvidia의 예상 55 억 달러의 손실은 US-China 긴장의 새로운 단계를 나타 냈다고 밝혔다.

이러한 하드웨어 발전은 LLM 개발에 직접적으로 영향을 미쳐 메모리가 지속적으로 모델을 가능하게합니다. 이 개선 된 메모리 기능은 세서미의 "Maya"와 같은 AI 동반자가 개선 된 상황에 맞는 메모리를 보여주는 AI 동반자에 의해 예시 된 바와 같이 AI 기능 및 사용자 경험을 크게 향상시킵니다.

위 내용은 AI는 Micron과 다른 사람들의 칩으로 메모리를 얻습니다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!