Hou Zhenyu는 Baidu가 다양한 AI 네이티브 클라우드 제품을 출시했으며 클라우드 컴퓨팅에서 대형 모델 기술을 재구성하는 데 전념하고 있다고 발표했습니다.

2023년 바이두 클라우드 인텔리전스 컨퍼런스·지능컴퓨팅 컨퍼런스에서 바이두는 AI 이기종 컴퓨팅 플랫폼 '베이지 3.0', 지능형 컴퓨팅 네트워크 플랫폼, 자체 개발한 클라우드 네이티브 데이터베이스 GaiaDB 4.0 등 신제품을 한꺼번에 공개했다

그 중 Baige 3.0은 AI 네이티브 애플리케이션과 대형 모델의 훈련 및 추론을 위한 포괄적인 특별 최적화 및 업그레이드를 수행했습니다. 자체 구축된 지능형 컴퓨팅 인프라에 비해 Wanka 수준의 초대형 AI 클러스터 컴퓨팅을 지원하며, 모델 훈련 및 추론 측면에서 최대 처리량이 각각 30% 및 60% 증가합니다. Baige 3.0은 최대 98%의 매우 높은 클러스터 유효 훈련 시간 비율과 95%의 유효 네트워크 대역폭 활용률을 달성하여 클러스터의 유효 컴퓨팅 성능을 완전히 방출합니다

AI 네이티브 시대 지능형 컴퓨팅 파워의 수요와 공급 균형 문제를 해결하기 위해 지능형 컴퓨팅 네트워크 플랫폼은 지능형 컴퓨팅 센터, 슈퍼컴퓨팅 센터 및 엣지 노드와 같은 지능형 컴퓨팅 노드에 대한 글로벌 액세스를 지원합니다. Baidu 및 제3자. 분산되어 있고 이기종 컴퓨팅 자원을 연결함으로써 통일된 컴퓨팅 네트워크 자원 풀이 형성됩니다. 동시에 Baidu는 Baidu가 독자적으로 개발한 고급 컴퓨팅 전력 스케줄링 알고리즘을 사용하여 다양한 컴퓨팅 전력 자원의 상태, 성능, 활용도 및 기타 지표를 지능적으로 분석하고 통합 스케줄링을 수행합니다. 이는 지능형 컴퓨팅 산업 자원의 활용률을 효과적으로 향상시킬 수 있습니다

GaiaDB 4.0은 병렬 쿼리 기능을 향상하여 단일 머신 컴퓨팅 병목 현상 문제를 해결하는 클라우드 기반 데이터베이스입니다. 교차 머신 멀티 코어 병렬 쿼리를 구현하여 혼합 로드 및 실시간 분석 비즈니스 시나리오에서 성능을 10배 이상 향상시킵니다

바이두그룹 허우젠위(Hou Zhenyu) 부사장은 AI 네이티브 시대에 번영하는 AI 네이티브 생태계를 구축하기 위한 견고한 기반을 구축하려면 대형 모델을 위한 인프라 시스템을 종합적으로 재구성해야 한다고 강조했습니다.

Hou Zhenyu는 다음과 같이 말했습니다. “대형 모델 재구성 클라우드 컴퓨팅은 주로 세 가지 수준에 반영됩니다. AI 네이티브 클라우드는 클라우드 컴퓨팅의 패턴을 바꾸고, 서비스형 모델(MaaS)은 새로운 기본 서비스가 되며, AI 네이티브 애플리케이션은 새로운 연구개발 패러다임으로”

컴퓨팅 성능 측면에서 더욱 스마트한 계산 수행

클라우드 인프라 계층에서는 과거 인터넷 애플리케이션부터 모바일 인터넷 애플리케이션까지 하위 계층이 CPU 컴퓨팅 칩을 기반으로 했습니다. 그러나 인공 지능 애플리케이션에서 GPU 또는 이기종 컴퓨팅에 대한 수요가 크게 증가함에 따라 클라우드 시장의 기본 컴퓨팅 성능이 GPU 기반으로 이동하기 시작했습니다

2023년 3분기에는 NVIDIA의 매출이 Intel을 넘어섰고, NVIDIA의 최신 시장 가치는 Intel의 1조 달러를 넘어섰습니다. 앞으로는 GPU의 성장이 CPU의 성장을 크게 웃돌게 될 것입니다. 이러한 추세에 따라 AI 네이티브 애플리케이션 시스템 구현을 지원하기 위해 대형 모델용 클라우드 컴퓨팅 인프라 시스템을 포괄적으로 재구축해야 합니다

구체적으로, 클라우드 컴퓨팅의 포괄적 재구성은 모델 중심 지능형 컴퓨팅 인프라, 데이터 중심 데이터 인프라, 애플리케이션 중심 클라우드 인프라의 포괄적 업그레이드라는 세 가지 영역에 반영되어 컴퓨팅이 더욱 지능화됩니다

모델 계층에서는 대규모 모델이 더욱 일반화되고 있습니다. 즉, MaaS(Model as a Service)

MaaS는 AI 구현의 한계점을 크게 낮추고 AI에 대한 진정한 포용적 이점을 달성할 것입니다. 또한 MaaS가 기반으로 하는 새로운 IT 인프라는 하위 수준에서 기존 클라우드 컴퓨팅 시장 구조를 더욱 전복시킬 것입니다.

Baidu Smart Cloud의 실제 경험에 따르면 Wenxinyiyan이 8월 31일에 완전히 오픈된 이후 지난 4개월 동안 Baidu Smart Cloud Qianfan 대형 모델 플랫폼(Baidu Smart Cloud에서 출시한 MaaS 플랫폼)의 API 일일 통화량이 10배 증가했습니다. . 고객은 주로 인터넷, 교육, 전자상거래, 마케팅, 휴대폰, 자동차 등 다양한 산업 분야에서 왔습니다. 지난 6개월 동안 많은 회사에서 대형 모델을 광범위하게 사용하기 시작했다는 것을 분명히 알 수 있습니다

애플리케이션 계층에서는 애플리케이션 개발 방식이 완전히 바뀌었습니다

대규모 모델 이해, 생성, 논리 및 메모리의 고유한 기능은 네이티브 애플리케이션 개발의 새로운 패러다임을 이끌 것이며 전체 애플리케이션 기술 스택, 데이터 흐름 및 비즈니스 흐름이 변화를 겪을 것입니다

과거에는 CPU 기반 애플리케이션 개발이 주로 비즈니스 로직에 의해 주도된 반면, 전통적인 인공 지능 연구 및 개발에서는 각각 독립적인 시나리오에 대한 데이터를 획득하고 모델을 처음부터 훈련해야 했습니다. 이제 인공 지능 기본 애플리케이션은 주로 강력한 대규모 모델 기능과 데이터 기반 개발에 의존합니다. 기업은 장면 데이터를 직접 사용하여 기본 대형 모델을 기반으로 미세 조정하고, 전용 대형 모델을 생성하고, 모델 기능을 사용하여 대형 모델을 재교육하지 않고도 기본 인공 지능 애플리케이션을 설계할 수 있습니다. 기업의 사업이 확장됨에 따라 더욱 경쟁력 있는 시나리오 데이터가 축적되어 모델과 애플리케이션의 효과가 향상되어 데이터 중심의 선순환이 형성됩니다

구체적으로, 대규모 모델 기반 AI 네이티브 애플리케이션 개발의 새로운 패러다임은 몇 가지 새로운 변화를 보여줍니다.

첫 번째는 "새로운 장면"입니다. 생성형 대형 언어 모델은 이해, 생성, 추론, 기억 등 다차원에서 예상을 뛰어넘는 능력을 입증하여 지능의 출현을 가져왔고, 이는 다음과 같이 구현할 수 있는 많은 새로운 비즈니스 시나리오 응용 프로그램을 탄생시켰습니다. 개인 비서, 스마트폰 등 카피라이팅 창작, GBI(지능형 비즈니스 분석), 코딩 도우미 등

두 번째는 "새로운 아키텍처"입니다. 대형 모델 특히 이러한 새로운 시나리오를 구현하는 과정에서 RAG 생성을 위한 검색 향상, 지능형 에이전트 등 많은 새로운 시스템 아키텍처도 생성되었습니다.

세 번째는 "신개발 생태학"입니다. 대형 모델을 핵심으로 오케스트레이션 도구 LangChain, AI 애플리케이션 개발 도구 PromptFlow, 데이터 프레임워크 Llamalndex 등을 포함한 몇 가지 새로운 도구도 개발자 도구 계층에 등장했습니다.

데이터 및 알고리즘이 지원됩니다. 대규모 모델의 경우 강력한 딥 러닝 모델 라이브러리를 구축하고 다양한 시나리오의 요구 사항을 충족할 수 있는 다양한 A 네이티브 애플리케이션 모델을 제공해야 합니다. 지능형 컴퓨팅 능력 측면에서는 프로세서와 GPU의 컴퓨팅 기능을 강화하고 A의 기본 애플리케이션의 복잡한 컴퓨팅 작업을 지원하기 위한 효율적인 컴퓨팅 리소스를 제공해야 합니다. 데이터 측면에서는 대량의 A 네이티브 애플리케이션 데이터를 수집하고 데이터 마이닝 및 분석을 수행하여 정확한 개인화 서비스를 제공해야 합니다. 알고리즘 측면에서는 A의 기본 애플리케이션의 지능 수준을 향상시키기 위해 고급 기계 학습 알고리즘을 개발해야 합니다. 이러한 지원을 통해서만 진정으로 번영하는 네이티브 애플리케이션 생태계를 구축할 수 있습니다

AI 네이티브 애플리케이션 개발의 새로운 패러다임의 세 가지 요소는 상호 의존적입니다. 대형 모델은 AI 네이티브 애플리케이션의 핵심이며, 지능형 컴퓨팅은 이를 위한 견고한 지원을 제공합니다. 새로운 R&D 패러다임은 개발자가 대형 모델 기능을 기반으로 애플리케이션을 효율적으로 개발할 수 있도록 지원합니다. 데이터 플라이휠은 성공적인 AI 네이티브 애플리케이션을 위한 필수 조건으로, 대규모 모델 기능을 빠르게 반복하여 제품 경험을 지속적으로 개선할 수 있습니다

Hou Zhenyu는 "2024년에는 진정으로 빛나는 AI 네이티브 애플리케이션이 탄생할 것이라고 믿습니다.

"라고 말했습니다.

위 내용은 Hou Zhenyu는 Baidu가 다양한 AI 네이티브 클라우드 제품을 출시했으며 클라우드 컴퓨팅에서 대형 모델 기술을 재구성하는 데 전념하고 있다고 발표했습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!