MediaTek Dimensity 9300: 업계를 선도하며 최대 330억 매개변수 AI 대규모 언어 모델 지원

MediaTek의 5G 생성 AI 모바일 칩 Dimensity 9300의 최신 버전이 출시되었습니다. 새로운 풀 코어 아키텍처 설계와 차세대 AI 프로세서 APU는 물론 MediaTek의 고유한 최첨단 기술이 생성 AI 애플리케이션 지원을 위한 강력한 성능을 제공합니다. 사용자는 다채롭고 풍부한 생성 AI 경험을 즐길 수 있습니다. 또한, 미디어텍은 모바일 측면에서 풍부한 AI 생태계를 조성하기 위해 다수의 AI 산업 기업들과 협력도 강화했다.

생성 AI를 위해 탄생한 새로운 7세대 AI 프로세서 APU 790

생성 인공 지능 애플리케이션에 대한 사용자의 수요가 계속 증가함에 따라 엔드사이드 생성 인공 지능의 편의성과 보안도 드러났습니다. 물론 대규모 인공지능 언어 모델을 클라이언트 측에 배포하려면 강력한 인공지능 컴퓨팅 기능의 지원이 필요합니다

Dimensity 9300에는 생성적 AI용으로 설계된 MediaTek의 7세대 AI 프로세서 APU 790이 탑재되어 있으며, 더 빠르고 안전한 엣지 AI 계산을 달성할 수 있는 하드웨어 수준의 생성적 AI 엔진을 갖추고 있으며 Transformer 모델에 깊이 적용됩니다. 운전자 작업을 위해 이전 세대보다 8배 더 빠른 속도를 제공합니다.

동시에 APU 790의 성능과 에너지 효율성은 이전 세대 Zurich ETHZv5.1 AI-Benchmark Mobile Soc 2109보다 2배 향상되었습니다. AI 성능이 성공적으로 목록을 지배했으며 전력 소비가 45% 감소했습니다. 강력한 AI 성능 지원으로 1초 이내에 사진을 생성할 수 있습니다. Dimensity 9300의 강력한 AI 컴퓨팅 성능, 혁신적인 풀 코어 CPU 아키텍처 및 Immortalis-G720 GPU는 장치에서 생성적 AI를 실행하기 위한 견고한 성능 기반을 마련했습니다.

동시에 MediaTek은 수억 개의 매개변수를 가진 대규모 언어 모델의 특성을 기반으로 혼합 정밀도 INT4 양자화 기술을 개발했으며, 이는 MediaTek의 고유한 메모리 하드웨어 압축 기술인 NeuroPilot Compression과 결합되어 메모리 대역폭을 보다 효율적으로 활용하고 대규모 AI 모델이 차지하는 터미널 메모리를 크게 줄여 기기 측에서 AI 대형 언어 모델을 실행하기 위한 휴대폰의 메모리 한계를 극복하고 더 큰 매개변수 모델을 기기 측에서 구현할 수 있도록 지원합니다.

위 내용을 바탕으로 Dimensity 9300은 vivo 플래그십 휴대폰에 70억 매개변수 AI 대형 언어 모델을 최초로 구현했으며 초당 최대 20개의 토큰 처리 속도를 제공합니다. 뿐만 아니라 MediaTek은 업계 한계를 뛰어넘고 vivo를 통해 장치 측에서 130억 개의 매개변수가 있는 대규모 언어 모델을 성공적으로 실행했습니다. 심지어 Dimensity 9300은 모바일 칩에서 330억 개의 매개변수가 포함된 AI 대규모 언어 모델을 성공적으로 실행하는 데 앞장서며 업계를 선도하고 있습니다.

Dimensity 9300은 또한 다중 모드 생성 AI 대형 모델을 지원하여 "Wen Sheng Poems", "Wen Sheng Pictures" 및 "Wen Sheng Interesting Pictures"와 같은 풍부하고 흥미로운 클라이언트 측 경험을 생성합니다.

Dimensity 9300의 AI 컴퓨팅 파워와 엔드사이드 생성 AI 역량은 사용자가 언제 어디서나 AI 창의성을 발휘할 수 있을 정도로 업계를 선도했다고 볼 수 있습니다.

생성 AI 모델의 최종 기술 확장은 포괄적이고 풍부한 최종 AI 경험을 제공합니다

클라우드 기반 생성 AI 솔루션과 달리 하드웨어 환경 차이로 인해 엔드사이드 생성 AI를 배포하려면 휴대폰 메모리, 저장 용량, 로드 제한 등의 요소도 고려해야 합니다. 그래서 MediaTek은 앞선 솔루션 제안에 앞장섰습니다

APU 790은 생성 AI 모델 최종 기술 확장 기술인 NeuroPilot Fusion을 지원합니다. 이 기술은 기본 대형 모델을 기반으로 지속적으로 LoRA(Low-Rank Adaptation) 융합을 수행할 수 있으며, 클라우드 트레이닝을 통해 N 기능의 융합을 달성하여 기본 대형 모델을 더욱 포괄적이고 풍부하게 생성할 수 있습니다. Type AI 응용능력

예를 들어, AI 모델 엔드사이드 스킬 확장 기술을 기반으로 개발된 '그림 GIF 애니메이션' 기능을 통해 사용자는 사진을 기반으로 다양한 스타일과 표정을 변경하여 고유한 개인화된 이모티콘 패키지를 만들고 즉시 이모티콘 아이콘이 될 수 있습니다.

AI 개발 플랫폼 NeuroPilot은 최종 생성 AI 생태학적 레이아웃을 가속화합니다

Dimensity 9300의 APU 790은 강력한 AI 컴퓨팅 성능과 고급 메모리 하드웨어 압축 기술은 물론 AI 모델 엔드사이드 기술 확장 및 기타 기술을 통해 엔드사이드 생성 AI의 속도와 폭을 완전히 새로운 수준으로 끌어올립니다. 동시에 MediaTek은 기본 하드웨어부터 도구 체인, 모델 센터 및 개발 생태계에 이르기까지 AI 개발 플랫폼 NeuroPilot을 통해 풍부한 AI 생태계를 구축하여 생태계가 최종 생성 AI 애플리케이션을 빠르고 효율적으로 배포하고 배포를 가속화하도록 지원합니다. 끝쪽과 인기

NeuroPilot은 Android, Meta LIama 2, Baidu Wenxin Yiyan 대형 모델, Baichuan Intelligent Baichuan 대형 모델 등 주요 AI 대형 모델을 지원할 수 있는 AI 개발 플랫폼입니다

NeuroPilot의 또 다른 중요한 장점은 NeuroPilot 압축 하위 적응형 융합, 추측 디코딩 가속, 모델 최적화 및 변환 기술을 포함하는 매우 완벽한 고급 툴 체인입니다.

MediaTek의 Dimensity 개발자 센터에서는 최종 생성 AI 구현을 위한 원스톱 개발자 리소스도 제공하고, 개발 효율성을 높이기 위한 최종 모델 배포 사례를 공유합니다. 현재 20개 이상의 생성 AI 파트너가 생태학적 공동 구축에 참여했습니다

MediaTek은 또한 업계 계약 파트너와 협력하여 멋진 생성 AI 애플리케이션 경험을 창출합니다. ArcSoft의 생성적 AI 초해상도 기술은 Dimensity 9300 APU의 엣지 컴퓨팅 기능을 기반으로 하며, 이전 세대에 비해 성능을 30% 향상시킬 수 있습니다. 25배 확대 촬영 시 제너레이티브 AI 초해상도 기술을 사용하면 더욱 사실적인 디테일로 이미지를 캡처할 수 있습니다.

Jigan Technology의 생성적 AI 의미 검색 기술도 Dimensity 9300 APU의 엣지 컴퓨팅 기능을 기반으로 이전 세대에 비해 성능을 260% 향상할 수 있습니다. 예를 들어, 휴대폰 사진첩에 있는 사진을 검색하고, 사진의 내용을 기술하면, 밀리초 이내에 해당 사진을 정확하게 검색할 수 있습니다. 또한, 인터넷 연결이 끊어진 상태에서도 검색이 가능하며, 개인정보가 유출되지 않습니다.

Morpho의 화상 통화용 실시간 디지털 아바타 생성 기술은 Dimensity 9300 APU의 엣지 컴퓨팅 성능을 활용하여 이전 세대에 비해 성능이 26% 향상되었습니다. 일반 가상 초상화 생성기는 모양 스타일을 수동으로 선택해야 하며 이는 시간이 많이 걸립니다. 하지만 영상 통화를 위한 실시간 디지털 아바타 생성 기술을 기반으로 사용자는 카메라를 켜고 사진 한 장만 찍기만 하면 즉시 디지털 아바타가 생성됩니다

Huili의 생성적 AI 눈부심 방지 기술은 Dimensity 9300 APU 기반의 엣지 컴퓨팅 지원으로 성능을 60% 향상할 수 있습니다. 이 기술을 사용하면 실내에서나 실외에서 촬영하든 빛을 약간 어둡게 하여 눈부심 간섭을 제거하면 됩니다

AI 터미널과 클라우드 통합 추세에 따라 Dimensity 9300은 AI 컴퓨팅 성능, 생성적 AI 사용자 경험 및 생태학에서 포괄적인 이점을 입증하여 차세대 플래그십 장치 측 생성적 AI 경험에 대한 새로운 표준을 설정했음을 알 수 있습니다. 강력한 생성 AI의 벤치마크는 Dimensity입니다.

동시에 MediaTek이 이끄는 생성적 AI 선구자들은 지속적인 기술 혁신과 생태학적 레이아웃을 통해 하이브리드 AI 컴퓨팅 개발을 적극적으로 추진하고 최종 생성적 AI 배포를 위한 독특하고 효율적인 경로를 시작하며 대중화를 위해 모든 노력을 기울이고 있습니다. 장치 측 AI는 더 많은 사용자가 장치 측 AI의 개인화된 경험을 즐길 수 있도록 하고, 새로운 전체 시나리오 지능형 경험을 창출하며, 기술의 장점을 통해 대중에게 완전한 혜택을 제공합니다.

위 내용은 MediaTek Dimensity 9300: 업계를 선도하며 최대 330억 매개변수 AI 대규모 언어 모델 지원의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!