ホームページ  >  記事  >  テクノロジー周辺機器  >  ZTEが「Nebula R&D Big Model」を発表:AIプログラミングアシスタント、1000億トークンが衝撃的なデビュー

ZTEが「Nebula R&D Big Model」を発表:AIプログラミングアシスタント、1000億トークンが衝撃的なデビュー

王林
王林転載
2023-10-12 23:05:061249ブラウズ

IT House の報告によると、2023 年 10 月 11 日から 13 日まで開催されたチャイナ モバイル グローバル パートナー カンファレンスで、ZTE は開発者が需要分析、製品設計、プログラミング、テスト、バージョンの展開

中兴通讯推出“星云研发大模型”:AI 编程助手、1000 亿 token 震撼登场

レポートによると、「Nebula R&D Large Model」は、使用範囲を効果的に制御できるホワイトリスト メカニズムをサポートしています。同時に、コード特徴値認識を通じて機密コードの断片を効果的に識別し、機密単語認識メカニズムを通じて機密コンテンツをリアルタイムで監視および傍受することもできます。さらに、このモデルには、セキュリティ イベントを完全に追跡できるバックグラウンド監査メカニズムもあります。

ZTE は、2023 年 4 月に「Nebula R&D Large Model」を開始し、現在、毎日のアクティブ ユーザー数は 12,000 人に達し、コード採用率は 40% ~ 45% に達し、コーディング効率は向上したと述べています。 30% 増加し、研究開発全体が改善されました。効果は 10% です。

公式発表によると、IT Home は、ZTE がドメイン データ、知識の蓄積、通信分野の多数の技術文書、および 1,000 億のワイヤレス/コア ネットワーク/クラウド コード コーパスを大規模モデルに注入する予定であることを知りました。事前トレーニングと並列トレーニング フレームワークの使用

ZTE の主張: 「当社の自社開発導入ソリューションは、動的バッチ処理戦略と PagedAttendance テクノロジーを使用し、ロスレス モデルの定量化と組み合わせて、スループットを大幅に向上させます。単一の GPU (A800) のスループットは、 4 GPU カード (A800) は、1,000 人以上のニーズを満たすことができ、業界の従来の導入スキームと比較して、単一 GPU のスループットはそれぞれ 10 倍以上、20 倍以上向上しました。同時に、int4 定量化テクノロジーと組み合わせることで、モデルの精度を低下させることなく、モデルのサイズとビデオ メモリの使用量が半分に削減されます。」

以上がZTEが「Nebula R&D Big Model」を発表:AIプログラミングアシスタント、1000億トークンが衝撃的なデビューの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

声明:
この記事はsohu.comで複製されています。侵害がある場合は、admin@php.cn までご連絡ください。