ホームページ > 記事 > テクノロジー周辺機器 > シンガポールが GPT-4 を超える機能を備えた AI 算術モデル Goat をリリース
DoNewsは6月7日、現在のGPT-4モデルの最大の欠点は主にその算術能力であり、モデルの論理的推論能力を向上させる必要があるため、GPT-4は多くの人が苦手とする計算問題さえも解くことができないと報じた。比較的単純に考えれば正しい結果が得られます。
シンガポール国立大学の研究者らは最近、算術問題を解決するために設計された Goat と呼ばれるモデルを発表しました。このニュースはIT Houseが報じた。研究者らは、「LLaMAモデルを微調整した後、GoatはGPT-4よりも数学的に高い精度と優れたパフォーマンスを達成した」と述べた。
研究者らは、学習可能な算術の種類に従ってタスクを分類し、基本的な算術原理を使用して学習不可能なタスクを一連の学習可能なタスクに分解する新しい方法を提案しました (IT ホーム 注: 複雑なタスク 計算プロセスは単純なタスクに分割されます)ステップ)を実行し、AI モデルにインポートします。
この新しいメソッドにより、モデルは純粋な「重みメモリ計算」だけに依存するのではなく、応答パターンを学習し、プロセスを目に見えないデータに一般化することができるため、算術パフォーマンスを効果的に向上させることができ、ゼロサンプルで学習できます。大きな数の加算と減算を「ほぼ完璧な精度」で答えます。
研究者らは 24 GB のビデオ メモリを備えた GPU でトレーニングし、BIG ベンチ算術サブタスクを使用して最終モデルをテストしました。精度の結果は、業界の Bloom、GPT-NeoX、OPT などを上回る傑出したものでしたモデル。
ゼロサンプルの Goat-7B の精度は、少数サンプル学習後の PaLM-540 モデルをも上回り、多数の計算では GPT-4 をはるかに上回りました。
以上がシンガポールが GPT-4 を超える機能を備えた AI 算術モデル Goat をリリースの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。