ホームページ  >  記事  >  テクノロジー周辺機器  >  Zhipu AIは、より多くの国産チップに適応するために第3世代の大型ベースモデルChatGLM3を発売

Zhipu AIは、より多くの国産チップに適応するために第3世代の大型ベースモデルChatGLM3を発売

WBOY
WBOY転載
2023-10-30 18:05:231065ブラウズ

2023年10月27日のニュースは、Zhipu AIが中国コンピュータ会議(CNCC)で新しい自社開発の第3世代大型ベースモデルChatGLM3と関連製品シリーズを発表したということです。このリリースは、1,000 億ベースの会話モデル ChatGLM および ChatGLM2 の立ち上げ後の Zhipu AI にとって大きな進歩です

ChatGLM3 は、独自の多段階強化事前トレーニング手法を使用して開発されています。この方法により、トレーニングをより完全なものにすることができます。評価結果によると、44件の中国語と英語の公開データセットテストにおいて、ChatGLM3は同サイズの国内モデルの中で第1位となった。 Zhipu AI CEOのZhang Peng氏は記者会見で新製品を発表し、最新の製品機能をリアルタイムでデモンストレーションしました

ChatGLM3 の新技術アップグレードにより、パフォーマンスが向上し、コストが削減されました

Zhipu AI によって発売された ChatGLM3 は、より豊富なトレーニング データとより優れたトレーニング ソリューションを備えてさらに強力になりました。 ChatGLM2と比較して、MMLUは36%増加、CEvalは33%増加、GSM8Kは179%増加、BBHは126%増加しました

同時に、ChatGLM3 は GPT-4V を目指しており、今回はいくつかの新機能の反復アップグレードを実装しました。その中には、10 を超える国際標準グラフィック評価データで SOTA を達成した、マルチモーダル理解機能 - 画像認識セマンティクスを備えた CogVLM が含まれます。強化されたモジュール コード インタープリターは、ユーザーのニーズに応じてコードを生成および実行し、データ分析やファイル処理などの複雑なタスクを自動的に実行します。 WebGLM アクセス検索の強化により、質問や質問に基づいてインターネット上の関連情報を自動的に検索できます。回答する際には、関連する参考文献や記事のリンクを提供してください。 ChatGLM3 のセマンティックおよび論理機能が大幅に強化されました。

ChatGLM3 は、自社開発の AgentTuning テクノロジーも統合しており、特にインテリジェントな計画と実行の点でモデル エージェントの機能を有効にし、ChatGLM2 と比較して 1000% 向上しています。また、国内の大規模モデルがツール呼び出しやコード実行をネイティブにサポートできるようになります。 、ゲーム、データベース操作、ナレッジ グラフの検索と推論、オペレーティング システム、その他の複雑なシナリオ。

さらに、ChatGLM3 は今回、携帯電話に導入できるエンドテスト モデル ChatGLM3-1.5B および ChatGLM3-3B を発売します。これらは、vivo、Xiaomi、Samsung などのさまざまな携帯電話や車載プラットフォームをサポートします。モバイル プラットフォーム上の CPU チップの推論をサポートし、速度は 20 トークン/秒に達します。精度の点では、1.5B および 3B モデルのパフォーマンスは、公開ベンチマークにおける ChatGLM2-6B モデルのパフォーマンスに近いです。

最新の効率的な動的推論とメモリ最適化テクノロジーに基づいて、同じハードウェアとモデル条件下での ChatGLM3 の現在の推論フレームワークを、バークレー大学によって開始された vLLM や最新バージョンの Hugging を含む現在最良のオープンソース実装と比較しました。 Face TGI、推論 速度は 2 ~ 3 倍に向上し、推論コストは 2 倍になります。これは 1,000 トークンあたりわずか 0.5 ポイントであり、最も低いコストです。

このコンテンツは参照のみを目的としており、投資アドバイスを構成するものではありません。この情報を使用する場合は読者が自身の判断で行い、自身の決定に責任を負う必要があります。このコンテンツの利用によって生じたいかなる損失についても、当サイトは一切の責任を負いません

このアカウントは、公開された情報の入手可能性、正確性、適時性、有効性または完全性についていかなる声明も保証も行わず、情報から生じる可能性のあるいかなる責任または結果も否認します。 書き換え後: このアカウントは、投稿された情報の可用性、正確性、適時性、有効性または完全性についていかなる表明も保証も行わず、この声明によるいかなる責任も結果も負いません

2. このアカウントは非営利かつ非営利であり、複製されたコンテンツは、その見解に同意するものではなく、その信頼性について責任を負うものではなく、その他のガイダンスを構成するものでもありません。このウェブサイトは、複製または公開された情報の不正確さまたは誤りに対する直接的または間接的な責任を負いません。

3. この記事で使用されている情報、資料、テキスト、写真などはインターネットから得たものであり、すべての複製コンテンツには出典が明記されています。あなたの知的財産権または個人の法的権利を侵害する作品を見つけた場合は、当社にご連絡ください。適時に修正または削除いたします

Zhipu AIは、より多くの国産チップに適応するために第3世代の大型ベースモデルChatGLM3を発売

以上がZhipu AIは、より多くの国産チップに適応するために第3世代の大型ベースモデルChatGLM3を発売の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

声明:
この記事はsohu.comで複製されています。侵害がある場合は、admin@php.cn までご連絡ください。