컨퍼런스 현장. (사진=화웨이 제공)
[심천비즈니스뉴스] (첸슈 기자) 인공지능은 점차 대형 모델에서 초대형 모델로, 단일 형식에서 다중 형식으로 이동하고 있으며, 데이터 저장은 핵심 요소가 되었습니다. 스토리지와 컴퓨팅 파워를 중심으로 한 대형 모델 시대가 도래했습니다. 7월 14일, 화웨이는 기본 모델 훈련, 산업 모델 훈련, 분할된 시나리오 모델 훈련 및 추론을 위한 스토리지 '최적 솔루션'을 제공하는 대형 모델 시대를 위한 새로운 AI 스토리지 제품을 출시했습니다.
Huawei 데이터 스토리지 제품 라인 사장 Zhou Yuefeng은 기업이 대규모 모델 애플리케이션을 개발하고 구현하는 과정에서 네 가지 주요 과제에 직면했다고 말했습니다. 첫째, 데이터 준비 시간이 길고, 데이터 소스가 분산되어 있으며, 수집 속도가 느립니다. 100TB의 데이터를 전처리하는 데 약 10일이 소요됩니다. 두 번째, 다중 모드 대형 모델은 대용량 텍스트와 그림을 훈련 세트로 사용합니다. 현재 대용량 소형 파일의 로딩 속도는 100MB/s 미만이며 트레이닝 세트 로딩 효율성이 낮습니다. 셋째, 대규모 모델 매개변수가 자주 조정되고 훈련 플랫폼이 불안정하며 훈련 중단이 평균 2일에 한 번씩 발생하여 훈련을 재개하는 데 체크포인트 메커니즘이 필요하며 최종적으로 실패 복구에 하루 이상이 걸립니다. 대형 모델의 임계값이 높고, 시스템 구성이 복잡하고, 리소스 예약이 어렵고, GPU 리소스 활용률이 일반적으로 40% 미만입니다.
Huawei는 다양한 산업 및 시나리오의 대규모 모델 애플리케이션을 위한 OceanStor A310 딥 러닝 데이터 레이크 스토리지와 FusionCube A3000 교육/홍보 하이퍼 컨버지드 올인원 머신을 출시했습니다. 그중 OceanStor A310 딥러닝 데이터 레이크 스토리지는 기초/산업 대형 모델 데이터 레이크 시나리오를 지향하며, 데이터 수집 및 전처리부터 모델 훈련 및 추론 적용에 이르기까지 AI의 전체 프로세스 대용량 데이터 관리를 실현합니다. FusionCube A3000 훈련/푸시 하이퍼 컨버지드 올인원 머신은 업계 대규모 모델 훈련/추론 시나리오와 수백억 개의 모델 애플리케이션을 위해 설계되었으며 OceanStor A300 고성능 스토리지 노드, 훈련/푸시 노드, 스위칭 장비를 통합합니다. , AI 플랫폼 소프트웨어, 관리 및 운영 소프트웨어를 통해 대규모 모델 파트너에게 턴키 배포 경험을 제공하고 원스톱 제공을 달성합니다.
중국 공정원의 니광난(Ni Guangnan) 학자는 언론과의 단독 인터뷰에서 데이터가 국가의 기본 전략 자원이 되었다고 말했습니다. 데이터 저장용량(이하 '저장용량'), 정보컴퓨팅용량(이하 '컴퓨팅 파워'), 네트워크 전송능력(이하 '전송용량')은 우리나라 발전의 핵심이자 기초이다. 정보산업은 기술 강국 건설을 위한 전략적 지원입니다. 그는 에너지 저장장치가 국가 전략 및 기반 산업이 될 것이며 새로운 국제 경쟁 우위가 될 것이라고 믿습니다.
"대형 모델 시대에는 데이터가 AI 지능의 높이를 결정합니다. 데이터 전달자로서 데이터 저장은 AI 대형 모델의 핵심 인프라가 되었습니다." Zhou Yuefeng은 회의 후 인터뷰에서 중국의 인공 지능 산업이 다음과 같이 말했습니다. 데이터와 정보의 디지털 기록에 중점을 두고 급속한 디지털화 발전에 주의를 기울여야 합니다. 최근 화제가 되고 있는 대규모 AI 모델을 구현할 때 직면하게 되는 가장 큰 과제는 데이터 준비입니다. 그에 따르면 대형 AI 모델 비용은 주로 컴퓨팅 파워별로 25%를 차지하고, 서버 구입, 데이터 정리, 전처리 비용은 22%를 차지한다. 데이터와 데이터 저장 및 처리가 점점 더 중요해지고 있음을 알 수 있습니다. 이 문장은 다음과 같이 다시 쓰여졌습니다. 이 중요한 점은 데이터의 양이 늘어났을 뿐만 아니라, 더 중요한 것은 데이터 처리 과정이 더욱 복잡해졌다는 것입니다. 화웨이 분산 스토리지 분야 부사장 Han Zhenxing은 중국이 스토리지 센터의 대규모 개발을 주도할 것이라고 지적하며 앞으로 더 높은 성능의 스토리지 제품이 등장할 것이라고 예측했습니다.
위 내용은 화웨이, AI 스토리지 신제품 2종 출시의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!