Alibaba Cloud가 AI 인프라를 종합적으로 업그레이드했습니다. Tongyi Qianwen 2.0이 공식적으로 공개되었습니다. 중국 대형 모델 기업의 절반이 Alibaba Cloud에 배포되었습니다.
- 王林앞으로
- 2023-10-31 18:17:211464검색
AI 인프라 종합 업그레이드
AI 산업의 핵심 기술은 대형 모델이며, 기본 모델의 품질이 AI 산업화 전망을 크게 좌우한다. 대형 모델을 훈련하려면 컴퓨팅 기반, 네트워크, 스토리지, 빅데이터, AI 프레임워크, AI 모델 등 복잡한 기술을 포함한 체계적인 엔지니어링이 필요합니다. 강력한 클라우드 컴퓨팅 시스템만이 고품질 대형 모델을 훈련할 수 있습니다
2009년 Alibaba Zhou Jingren은 클라우드는 "데이터센터는 컴퓨터이다"라는 개념을 제안했다. 오늘날 AI시대에는 이러한 기술적 시스템이 더욱 필요하다. 슈퍼컴퓨터로서 클라우드 컴퓨팅은 이기종 컴퓨팅 리소스를 효율적으로 연결하고 단일 성능 칩의 병목 현상을 돌파하며 대규모 지능형 컴퓨팅 작업을 공동으로 완료할 수 있습니다.
대규모 모델 훈련을 위한 안정적인 상호 연결과 효율적인 병렬 컴퓨팅을 보장하기 위해 , Alibaba Cloud 인공 지능 플랫폼 PAI가 완전히 업그레이드되었습니다. PAI의 하단 레이어는 HPN 7.0 차세대 AI 클러스터 네트워크 아키텍처를 채택하여 최대 100,000개의 카드까지 클러스터 확장성을 지원합니다. 초대형 분산 훈련 가속 비율은 업계 수준을 훨씬 뛰어넘는 96%에 달합니다. 대규모 모델 훈련 작업에서는 컴퓨팅 리소스를 50% 이상 절약할 수 있으며 성능은 세계 최고입니다
Alibaba Cloud Tongyi 대형 모델 시리즈는 인공 지능을 통해 훈련됩니다. 지능 플랫폼 PAI가 완성됐습니다. Tongyi 대형 모델 외에도 Baichuan Intelligence, Zhipu AI, 010W, Kunlun Wanwei, vivo, Fudan University 등 중국의 많은 대기업과 다수의 주요 기업 및 기관도 Alibaba Cloud
Wang에서 대형 모델을 교육하고 있습니다. Baichuan Intelligence의 창립자 겸 CEO인 Xiaochuan은 "Baichuan은 설립된 지 반년 만에 7개의 대형 모델을 출시했습니다. 빠른 반복은 클라우드 컴퓨팅 지원과 불가분의 관계입니다. Baichuan Intelligence와 Alibaba Cloud는 심도 있는 협력을 진행했습니다." 공동 노력을 통해 Baichuan은 대규모 킬로칼로리 모델의 훈련 작업을 성공적으로 완료하고 모델 추론 비용을 효과적으로 절감했으며 모델 배포 효율성을 향상시켰습니다.
Alibaba Cloud는 중국 대형 모델의 공용 AI 컴퓨팅 기반이 되었습니다. 지금까지 중국의 많은 주류 대형 모델은 Tongyi 시리즈, Baichuan 시리즈, Zhipu AI ChatGLM 시리즈, Jiang Ziya 일반 대형 모델 등을 포함하여 Alibaba Cloud를 통해 외부 세계에 API 서비스를 제공했습니다.
인공지능 산업이 점진적으로 발전함에 따라 대규모 지능형 컴퓨팅 성능에 대한 수요가 폭발적으로 증가할 것입니다. Alibaba Cloud는 전 세계 30개 지역에 89개의 클라우드 컴퓨팅 데이터 센터를 구축하고 3,000개 이상의 엣지 컴퓨팅 노드를 제공했습니다. 클라우드 컴퓨팅의 짧은 대기 시간과 높은 탄력성의 장점이 최대한 활용됩니다. 올해 Alibaba Cloud는 단기간에 Miaoya Camera의 고강도 트래픽 폭발을 성공적으로 지원했습니다
자율 운전 클라우드를 향해
Zhou Jingren은 다음과 같이 말했습니다. “대형 모델 기술과 클라우드 컴퓨팅 자체의 통합으로 우리는 미래에는 클라우드도 자동차처럼 자율적으로 운전할 수 있어 개발자의 클라우드 사용 경험이 크게 향상되기를 바랍니다.”
뉴스에 따르면 Alibaba Cloud의 30개 이상의 클라우드 제품이 대형 모델에 액세스할 수 있다고 합니다. 능력. 예를 들어 Alibaba Cloud의 빅 데이터 거버넌스 플랫폼 DataWorks에는 새로운 대화형 양식인 Copilot이 추가되었습니다. 사용자는 자연어 입력만 사용하여 SQL을 생성하고 해당 데이터 ETL 작업을 자동으로 수행하면 됩니다. 이를 통해 전체 개발 및 분석 프로세스의 효율성이 "자율 주행"에 필적하는 수준인 30% 이상 향상됩니다.
Alibaba Cloud의 컨테이너, 데이터베이스 및 기타 제품도 유사한 개발 경험을 제공하며 NL2SQL 및 SQL 주석 생성/ 오류 수정/최적화 및 기타 기능. 앞으로 이러한 기능은 다른 Alibaba Cloud 제품에도 통합될 것입니다
더 나은 대형 모델로 애플리케이션 혁신 가속화
2023년 Yunqi 컨퍼런스에서 Zhou Jingren은 Alibaba가 자체 개발한 대형 모델의 최신 진행 상황을 발표하여 수천 대를 출시했습니다. 수억 개의 매개변수 규모를 갖춘 Qianwen 2.0의 일반적인 의미입니다. Tongyi Qianwen 2.0은 10개의 권위 있는 테스트에서 GPT-3.5와 Llama2를 종합적으로 능가하며 GPT-4를 따라잡는 속도가 빨라졌습니다.
수천 개의 산업계에서 생산 및 서비스 방법의 변화를 달성하기 위해 대형 모델을 사용하기를 원하지만 대형 모델 사용에 대한 높은 임계값으로 인해 대부분의 사람들은 이를 사용할 수 없게 되었습니다. 외부의 기술 물결. 독점적인 대형 모델을 맞춤화하거나 대형 모델을 기반으로 혁신적인 애플리케이션을 구축하는 경우 인재, 기술 및 자금에 대한 요구 사항이 높습니다.
Yunqi 컨퍼런스에서 Zhou Jingren은 원스톱 대형 모델 애플리케이션 개발 플랫폼인 Alibaba Cloud Bailian을 출시했습니다. 이 플랫폼은 국내외 주류 고품질 대형 모델을 통합하고 모델 선택, 미세 조정 교육, 보안 제품군, 모델 배포 및 전체 링크 애플리케이션 개발 도구와 같은 서비스를 제공합니다. 이러한 방식으로 사용자는 기본 컴퓨팅 성능 배포, 모델 사전 훈련 및 도구 개발과 같은 복잡한 작업을 단순화할 수 있습니다. 개발자는 대규모 모델 애플리케이션을 개발하는 데 5분만 투자하고 몇 시간 내에 기업별 모델을 "정제"하면 됩니다. 이러한 방식으로 개발자는 애플리케이션 혁신에 더 집중할 수 있습니다
다양한 산업에서 대규모 모델의 통합 및 적용을 촉진하기 위해 Alibaba Cloud는 공통 목표를 기반으로 8가지 산업 대규모 모델을 개발하고 현장에서 구현했습니다. 진행 상황 발표: 개인화 캐릭터 생성 플랫폼 Universal Stardust, 지능형 투자 연구 보조 Universal Midas, AI 독서 보조 Universal Zhiwen 등이 데뷔했습니다. 지능형 코딩 보조 Universal Lingma는 Alibaba Cloud 내에서 널리 채택되어 폭넓은 호평을 받았습니다. AI 비서 Universal Listening은 매일 50,000개 이상의 오디오 및 비디오를 처리하고 누적 사용자 수는 100만 명이 넘습니다
대형 모델의 개발은 사회 각계에서 새로운 혁신을 일으키고 있습니다. 현재 CCTV.com, Langxin Technology, AsiaInfo Technology 등의 기업이 Alibaba Cloud Bailian 플랫폼에서 독점 모델과 애플리케이션 개발을 주도하고 있습니다. Langxin Technology는 클라우드에서 전기 전용 대규모 모델을 교육하고 "전력 요금 해석을 위한 지능형 보조자" 및 "전력 산업 정책 분석/데이터 분석 보조자"를 개발했습니다. 이러한 애플리케이션은 고객 응대 효율을 50% 높이고 불만률을 70% 줄였습니다
확고한 개방성을 사용하여 생태 번영을 공동으로 촉진합니다
"중국 AI 생태계의 번영을 촉진하는 것이 Alibaba Cloud의 주요 목표입니다. Alibaba Cloud 우리는 확고히 노력할 것입니다. Zhou Jingren은 “AI 시대에 가장 개방적인 대형 모델 플랫폼을 구축하고 모든 대형 모델이 Alibaba Cloud Bailian에 연결하여 개발자에게 AI 서비스를 공동으로 제공하는 것을 환영합니다”라고 말했습니다.
Alibaba Cloud는 자체 개발한 대형 모델을 오픈소스화하는 중국 최초의 기술 회사로, 중국의 오픈소스 대형 모델 추세를 선도하고 있습니다. 현재 Alibaba Cloud는 Tongyi Qianwen 7B 및 14B 버전을 오픈소스화했으며 다운로드 수가 100만 건을 초과했습니다. 현장에서 Zhou Jingren은 Tongyi Qianwen 72B 모델이 오픈 소스가 될 것이며 중국에서 가장 큰 매개 변수를 가진 오픈 소스 모델이 될 것이라고 발표했습니다. 자체 개발한 신기술을 개발자와 공유하는 것 외에도 Alibaba Cloud는 개발을 강력하게 지원합니다. 세 파티의 대형 모델. Alibaba Cloud Magic 커뮤니티에서는 Baichuan Intelligence, Zhipu AI, Shanghai Artificial Intelligence Laboratory, IDEA Research Institute 등 업계 최고의 플레이어가 모두 최초로 핵심 대형 모델을 오픈 소스로 만들었습니다. Alibaba Cloud는 개발자에게 무료로 이러한 대형 모델을 경험하고 사용할 수 있는 GPU 컴퓨팅 성능은 지금까지 3천만 시간 이상 축적되었습니다
알리바바 클라우드 매직 커뮤니티 모델 다운로드가 1억 건을 초과했습니다
Zhou Jingren에 따르면 매직 커뮤니티는 2,300개의 인공지능 모델이 280만명의 인공지능 개발자를 끌어 모았습니다. 인공 지능 모델 다운로드 횟수가 1억 회를 초과하여 가장 활동적인 개발자가 있는 중국 최대의 인공 지능 커뮤니티가 되었습니다
2023년 Yunqi 컨퍼런스에서 Alibaba Cloud는 다음과 같은 주요 계획을 발표했습니다. "Cloud "Gongkaiwu Plan"은 목표 중국의 모든 대학생들에게 클라우드 서버를 제공합니다. 또한 Alibaba Cloud는 중국의 젊은 학자와 학생들이 과학 연구의 정점에 도달할 수 있도록 계약 대학에 대규모 컴퓨팅 리소스 지원도 제공할 예정입니다. 현재 칭화대학교, 북경대학교, 절강대학교, 상하이교통대학교, 중국 과학기술대학교, 화남이공대학교 및 기타 대학이 이 프로그램의 첫 번째 파트너가 되었습니다
위 내용은 Alibaba Cloud가 AI 인프라를 종합적으로 업그레이드했습니다. Tongyi Qianwen 2.0이 공식적으로 공개되었습니다. 중국 대형 모델 기업의 절반이 Alibaba Cloud에 배포되었습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!