MediaTek Dimensity 9300: 業界をリードし、最大 330 億パラメータの AI 大規模言語モデルをサポート

MediaTek の 5G 生成 AI モバイル チップ Dimensity 9300 の最新バージョンがリリースされました. その斬新なフルコア アーキテクチャ設計と新世代 AI プロセッサ APU、および MediaTek 独自の最先端テクノロジーにより、生成 AI アプリケーションに強力な機能を提供します。をサポートし、ユーザーはカラフルで豊かな生成 AI エクスペリエンスを楽しむことができます。さらに、MediaTek はモバイル側で充実した AI エコシステムを構築するために、多数の AI 業界企業との協力も強化しました。

生成 AI のために生まれた、新しい第 7 世代 AI プロセッサー APU 790

生成型人工知能アプリケーションに対するユーザーの需要が高まり続けるにつれて、エンドサイドの生成型人工知能の利便性とセキュリティも浮上してきました。もちろん、大規模な人工知能言語モデルをクライアント側にデプロイするには、強力な人工知能コンピューティング機能のサポートが必要です

Dimensity 9300 には、生成 AI 用に設計された MediaTek の第 7 世代 AI プロセッサ APU 790 が搭載されており、より高速かつ安全なエッジ AI 計算を実現できるハードウェア レベルの生成 AI エンジンを備えており、変圧器モデル オペレータの加速は前世代より 8 倍高速です。

同時に、APU 790 の性能とエネルギー効率が大幅に向上し、整数演算と浮動小数点演算の能力が前世代の 2 倍に向上しました Zurich ETHZv5.1 AI-Benchmark Mobile Soc 2109 ポイントを獲得し、AI のパフォーマンスがリストを独占することに成功し、消費量は 45% 削減されました。強力な AI パフォーマンスのサポートにより、1 秒未満で画像を生成できます。 Dimensity 9300 の強力な AI コンピューティング能力、革新的なフルコア CPU アーキテクチャ、および Immortalis-G720 GPU は、デバイス上で生成 AI を実行するための強固なパフォーマンス基盤を築きました。

同時に、MediaTek は、数十億のパラメータを持つ大規模な言語モデルの特性に基づいて、MediaTek 独自のメモリ ハードウェア圧縮テクノロジ NeuroPilot Compression と組み合わせた混合精度 INT4 量子化テクノロジを開発しました。これにより、メモリ帯域幅とメモリ帯域幅をより効率的に利用できるようになります。大規模な AI モデルの端末占有を大幅に削減メモリは、デバイス側で AI の大規模言語モデルを実行するための携帯電話のメモリ制限を突破し、より大きなパラメータ モデルをデバイス側で実装するのに役立ちます。

上記に基づいて、Dimensity 9300 は、毎秒最大 20 トークンの処理速度を持つ、vivo フラッグシップ携帯電話で 70 億パラメータの AI 大規模言語モデルを初めて起動します。それだけでなく、MediaTek は業界の限界を突破し、vivo を使用してデバイス側で 130 億のパラメータを持つ大規模な言語モデルを実行することに成功しました。 Dimensity 9300 でさえ、モバイル チップ上で 330 億のパラメーターを備えた AI 大規模言語モデルの実行に成功し、業界をリードしています。

Dimensity 9300 は、マルチモーダル生成 AI 大型モデルもサポートしており、「Wen Sheng Poems」、「Wen Sheng Pictures」、「Wen Sheng Interesting Pictures」などの豊かで興味深いエンドサイド エクスペリエンスを作成します。

Dimensity 9300 の AI コンピューティング能力とエンドサイドの生成 AI 機能は業界をリードしており、いつでもどこでもユーザーの AI 創造性を高めるのに十分であることがわかります。

生成 AI モデルのエンドサイドのスキルが拡張され、包括的で充実したエンドサイドの生成 AI エクスペリエンスが実現されました

クラウドベースの生成 AI ソリューションとは異なり、ハードウェア環境の違いにより、デバイス側の生成 AI を導入するには、携帯電話のメモリ、ストレージ容量、負荷制限などの要素も考慮する必要があります。そこで、メディアテックは率先して先進的なソリューションを提案しました

APU 790 は、生成 AI モデルのエンドサイドスキル拡張テクノロジー NeuroPilot Fusion をサポートしています。この技術は、デバイス側で低ランク適応 (LoRA) 融合を継続的に実行でき、基本的な大規模モデルに基づいて、クラウド トレーニングを通じて N 個の機能の融合を実現し、基本的な大規模モデルをより包括的で豊かな生成にすることができます。タイプ AI アプリケーションの機能

たとえば、AIモデルのエンドサイドスキル拡張技術に基づいて開発された「Tusheng GIFアニメーション」機能を通じて、ユーザーは写真に基づいてさまざまなスタイルや表現を変更して、即座に顔文字になるユニークなパーソナライズされた顔文字パッケージを作成できます。バオ・ダーレン

AI 開発プラットフォーム NeuroPilot は、エンドサイドの生成 AI エコロジカル レイアウトを加速します

Dimensity 9300 の APU 790 は、強力な AI コンピューティング能力と高度なメモリ ハードウェア圧縮テクノロジーに加え、AI モデルのエンドサイド スキル拡張やその他のテクノロジーを使用して、エンドサイドの生成 AI の速度と幅をまったく新しいレベルに引き上げます。同時に、MediaTek は、AI 開発プラットフォーム NeuroPilot を使用して、基盤となるハードウェアからツール チェーン、モデル センター、開発エコシステムに至るまで、豊富な AI エコシステムを構築し、エコシステムがエンドサイドの生成 AI アプリケーションを迅速かつ効率的に展開し、その展開を加速できるように支援しています。エンドサイドと人気

NeuroPilot は、Android、Meta LIama 2、Baidu Wenxin Yiyan Large Model、Baichuan Intelligent Baichuan Large Model などの主要な AI 大型モデルをサポートできる AI 開発プラットフォームです。

NeuroPilot のもう 1 つの重要な利点は、高度なツール チェーンです。これには、NeuroPilot 圧縮低ランク適応融合、投機的復号化の投機的復号化アクセラレーション、およびモデルの最適化と変換テクノロジが含まれており、これらはすべて非常に完全です。

MediaTek の Dimensity デベロッパー センターは、エンドサイドの生成 AI 実装のためのワンストップの開発者リソースも提供し、開発効率を向上させるためにエンドサイドのモデル導入事例を共有します。現在、20 社を超える生成 AI パートナーがエコロジー共同構築に参加しています

MediaTek はまた、業界の契約パートナーと協力して、素晴らしい生成 AI アプリケーション エクスペリエンスを作成しています。 ArcSoft の生成 AI 超解像度テクノロジは、Dimensity 9300 APU のエッジ コンピューティング機能に基づいており、前世代と比較してパフォーマンスを 30% 向上させることができます。 25 倍の倍率で撮影する場合、生成 AI 超解像度テクノロジーを使用して、よりリアルな詳細を備えた画像をキャプチャできます。

Jigan Technology の生成 AI セマンティック検索テクノロジーも Dimensity 9300 APU のエッジ コンピューティング機能に基づいており、前世代と比較してパフォーマンスが 260% 向上します。たとえば、携帯電話のフォト アルバムで写真を検索し、その写真の内容を説明すると、ミリ秒以内に該当する写真を正確に見つけることができます。また、インターネットが切断されていても検索することができ、プライバシーが漏洩することはありません。

Morpho のビデオ通話用リアルタイム デジタル アバター生成テクノロジーは、Dimensity 9300 APU のエッジ コンピューティング機能を利用し、前世代と比較してパフォーマンスが 26% 向上しました。一般的な仮想ポートレートジェネレータでは、外観スタイルを手動で選択する必要があり、時間がかかります。しかし、ビデオ通話用のリアルタイムデジタルアバター生成技術により、ユーザーはカメラの電源を入れて写真を撮るだけで瞬時にデジタルアバターを生成できる簡単な操作が可能です。

Huili の生成 AI アンチグレア技術は、Dimensity 9300 APU に基づくエッジ コンピューティングのサポートにより、パフォーマンスを 60% 向上させることができます。このテクノロジーを使用すると、屋内または屋外で撮影するときに、光をわずかに暗くするだけでグレアの干渉を排除できます。

AI エンドツークラウド統合のトレンドの下で、Dimensity 9300 は AI コンピューティング能力、生成 AI ユーザー エクスペリエンスおよびエコロジーにおける包括的な利点を実証し、新世代の主力エンドサイド生成 AI エクスペリエンスを確立したことがわかります。新しいベンチマークを設定するには、強力な生成 AI が Dimensity を使用する必要があります。

同時に、MediaTek が率いる生成 AI のパイオニアは、継続的な技術革新とエコロジカルなレイアウトを通じてハイブリッド AI コンピューティングの開発を精力的に推進し、エンドサイドの生成 AI 展開のための独自で効率的な道を立ち上げ、生成 AI を完全に普及させています。これにより、より多くのユーザーがデバイス側 AI のパーソナライズされたエクスペリエンスを享受できるようになり、新しいオールシナリオのインテリジェント エクスペリエンスが作成され、テクノロジの利点によって公衆に十分な利益がもたらされるようになります。

以上がMediaTek Dimensity 9300: 業界をリードし、最大 330 億パラメータの AI 大規模言語モデルをサポートの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。