検索
ホームページテクノロジー周辺機器AIGPT は頭脳として機能し、複数のモデルが連携してさまざまなタスクを完了するように指示します。一般的なシステム AutoML-GPT はここにあります。

現在、AI モデルは非常に幅広い応用分野に関与していますが、ほとんどの AI モデルは特定のタスク向けに設計されており、正しいモデル アーキテクチャ、最適化アルゴリズム、およびハイパーパラメータ。 ChatGPT と GPT-4 が普及した後、人々はテキストの理解、生成、対話、推論などにおける大規模言語モデル (LLM) の大きな可能性を認識しました。研究者の中には、LLM を使用して汎用人工知能 (AGI) への新しい道を探ろうとする人もいます。

最近、テキサス大学オースティン校の研究者らは、タスク指向のプロンプトを開発し、LLM を使用してトレーニング パイプラインを自動化するという新しいアイデアを提案しました。このアイデアに基づいて、新しいアイデアを立ち上げました。システム AutoML-GPT。

GPT は頭脳として機能し、複数のモデルが連携してさまざまなタスクを完了するように指示します。一般的なシステム AutoML-GPT はここにあります。

紙のアドレス:

https: //www.php.cn/link/39d4b545fb02556829aab1db805021c3

AutoML-GPT は、GPT をさまざまな AI モデル間のブリッジとして使用し、最適化されたハイパーパラメーターを使用してモデルを動的にトレーニングします。 AutoML-GPT は、Model Card [Mitchell et al., 2019] および Data Card [Gebru et al., 2021] からユーザーリクエストを動的に受け取り、対応するプロンプト段落を構成します。最後に、AutoML-GPT はこのプロンプト段落を使用して、データの処理、モデル アーキテクチャの構築、ハイパーパラメーターの調整、トレーニング ログの予測などの複数の実験を自動的に実行します。

AutoML-GPT は、強力な NLP 機能と既存の AI モデルを最大限に活用することで、さまざまなテストやデータセットにわたる複雑な AI タスクを解決します。多数の実験とアブレーション研究により、AutoML-GPT が多くの人工知能タスク (CV タスクや NLP タスクを含む) に対して多用途で効果的であることが示されています。

AutoML-GPT の概要

AutoML-GPT は、データとモデル情報に依存してプロンプト入力段落をフォーマットする共同システムです。このうち、LLM がコントローラーとして機能し、複数のエキスパート モデルが協調的な実行者として機能します。 AutoML-GPT のワークフローには、データ処理、モデル アーキテクチャ設計、ハイパーパラメータ調整、トレーニング ログ生成の 4 つの段階が含まれます。

具体的には、AutoML-GPT の動作メカニズムは次のとおりです。モデル カードとデータ カードは、固定形式のプロンプト段落を生成します

#選択したデータ セットとモデル アーキテクチャに関するユーザーのニーズに対応するトレーニング パイプラインを構築しますGPT は頭脳として機能し、複数のモデルが連携してさまざまなタスクを完了するように指示します。一般的なシステム AutoML-GPT はここにあります。

    #パフォーマンス トレーニング ログを生成し、ハイパーパラメータを調整します
  • #自動提案されたハイパーパラメータに基づいてモデルを調整します
  • 入力分解
  • AutoML-GPT の最初の段階は、LLM がユーザー入力を受け入れることです。 LLM のパフォーマンスを向上させ、効果的なプロンプトを生成するために、この研究では入力プロンプトに特定の命令を採用しました。これらの手順には、データ カード、モデル カード、評価メトリック、および追加要件の 3 つの部分が含まれています。
以下の図 2 に示すように、データ カードの主要な部分は、データ セット名、入力データ セット タイプ (画像データやテキスト データなど)、ラベル スペース (カテゴリや解像度など)とデフォルトの評価指標。

以下の図 3 に示すように、モデル カードは、モデル名、モデル構造、モデルの説明、およびアーキテクチャのハイパーパラメーターで構成されます。この情報を提供することにより、モデル カードは、機械学習システム全体でどのモデルが使用されているか、およびモデル アーキテクチャに対するユーザーの好みを LLM に伝えることができます。

データ カードとモデル カードに加えて、ユーザーは、より多くの評価ベンチマーク、評価指標、または制約をリクエストすることもできます。 AutoML-GPT は、これらのタスク仕様を高レベルの指示として LLM に提供し、それに応じてユーザー要件を分析します。

処理する必要のある一連のタスクがある場合、AutoML-GPT は各タスクに対応するモデルを照合する必要があります。この目標を達成するには、システムはまずモデル カードとユーザー入力からモデルの説明を取得する必要があります。

AutoML-GPT は、コンテキスト内のタスク モデル割り当てメカニズムを使用して、モデルをタスクに動的に割り当てます。このアプローチにより、増分モデルへのアクセスが可能になり、モデルの説明とユーザーのニーズのより深い理解とを組み合わせることで、より優れたオープン性と柔軟性が提供されます。

予測トレーニング ログを使用してハイパーパラメータを調整する

AutoML-GPT は、データ カードとモデル カードに基づいてハイパーパラメータを設定します。ハイパーパラメータのトレーニング ログを生成することでパフォーマンスを予測します。システムは自動的にトレーニングを実行し、トレーニング ログを返します。データセット上のモデル パフォーマンス トレーニング ログには、トレーニング プロセス中に収集されたさまざまなメトリクスと情報が記録されます。これは、モデル トレーニングの進行状況を理解し、潜在的な問題を特定し、選択したアーキテクチャ、ハイパーパラメーター、最適化手法の有効性を評価するのに役立ちます。

実験

AutoML-GPT のパフォーマンスを評価するために、この研究では ChatGPT (OpenAI の GPT-4 バージョン) を使用して実装し、複数の観点から複数の実験を実施します。 AutoML-GPT の効果を示します。

# 以下の図 4 は、AutoML-GPT を使用した未知のデータセットでのトレーニングの結果を示しています。

GPT は頭脳として機能し、複数のモデルが連携してさまざまなタスクを完了するように指示します。一般的なシステム AutoML-GPT はここにあります。

下の図 5 は、AutoML-GPT が COCO データ セットでターゲット検出タスクを完了するプロセスを示しています。

GPT は頭脳として機能し、複数のモデルが連携してさまざまなタスクを完了するように指示します。一般的なシステム AutoML-GPT はここにあります。

#下の図 6 は、AutoML-GPT を示しています。 NQ オープン データセット (Natural question Open データセット、[Kwiatkowski et al., 2019]) の実験結果:

GPT は頭脳として機能し、複数のモデルが連携してさまざまなタスクを完了するように指示します。一般的なシステム AutoML-GPT はここにあります。

この研究では、評価された XGBoost も使用されました。 UCI Adult データセットに対する AutoML-GPT [Dua and Graff, 2017] を使用して、分類タスクでのパフォーマンスを調査しました。実験結果は、以下の図 7 に示されています。 ##興味のある読者は、論文の原文を読んで研究の詳細を学ぶことができます。

以上がGPT は頭脳として機能し、複数のモデルが連携してさまざまなタスクを完了するように指示します。一般的なシステム AutoML-GPT はここにあります。の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

声明
この記事は51CTO.COMで複製されています。侵害がある場合は、admin@php.cn までご連絡ください。
外挿の包括的なガイド外挿の包括的なガイドApr 15, 2025 am 11:38 AM

導入 数週間で作物の進行を毎日観察する農民がいるとします。彼は成長率を見て、さらに数週間で彼の植物がどれほど背が高くなるかについて熟考し始めます。 thから

ソフトAIの台頭とそれが今日のビジネスにとって何を意味するかソフトAIの台頭とそれが今日のビジネスにとって何を意味するかApr 15, 2025 am 11:36 AM

ソフトAIは、おおよその推論、パターン認識、柔軟な意思決定を使用して特定の狭いタスクを実行するように設計されたAIシステムとして定義されていますが、曖昧さを受け入れることにより、人間のような思考を模倣しようとします。 しかし、これはBusineにとって何を意味しますか

AIフロンティア向けの進化するセキュリティフレームワークAIフロンティア向けの進化するセキュリティフレームワークApr 15, 2025 am 11:34 AM

答えは明確です。クラウドコンピューティングには、クラウドネイティブセキュリティツールへの移行が必要であるため、AIはAIの独自のニーズに特化した新しい種類のセキュリティソリューションを要求します。 クラウドコンピューティングとセキュリティレッスンの台頭 で

3つの方法生成AIは起業家を増幅します:平均に注意してください!3つの方法生成AIは起業家を増幅します:平均に注意してください!Apr 15, 2025 am 11:33 AM

起業家とAIと生成AIを使用して、ビジネスを改善します。同時に、すべてのテクノロジーと同様に、生成的AIが増幅器であることを覚えておくことが重要です。厳密な2024年の研究o

Andrew Ngによる埋め込みモデルに関する新しいショートコースAndrew Ngによる埋め込みモデルに関する新しいショートコースApr 15, 2025 am 11:32 AM

埋め込みモデルのパワーのロックを解除する:Andrew Ngの新しいコースに深く飛び込む マシンがあなたの質問を完全に正確に理解し、応答する未来を想像してください。 これはサイエンスフィクションではありません。 AIの進歩のおかげで、それはRになりつつあります

大規模な言語モデル(LLMS)の幻覚は避けられませんか?大規模な言語モデル(LLMS)の幻覚は避けられませんか?Apr 15, 2025 am 11:31 AM

大規模な言語モデル(LLM)と幻覚の避けられない問題 ChatGpt、Claude、GeminiなどのAIモデルを使用した可能性があります。 これらはすべて、大規模なテキストデータセットでトレーニングされた大規模な言語モデル(LLMS)、強力なAIシステムの例です。

60%の問題 -  AI検索がトラフィックを排出す​​る方法60%の問題 - AI検索がトラフィックを排出す​​る方法Apr 15, 2025 am 11:28 AM

最近の研究では、AIの概要により、産業と検索の種類に基づいて、オーガニックトラフィックがなんと15〜64%減少する可能性があることが示されています。この根本的な変化により、マーケティング担当者はデジタルの可視性に関する戦略全体を再考することになっています。 新しい

AI R&Dの中心に人間が繁栄するようにするMITメディアラボAI R&Dの中心に人間が繁栄するようにするMITメディアラボApr 15, 2025 am 11:26 AM

Elon UniversityがDigital Future Centerを想像している最近のレポートは、300人近くのグローバルテクノロジーの専門家を調査しました。結果のレポート「2035年に人間である」は、ほとんどがTを超えるAIシステムの採用を深めることを懸念していると結論付けました。

See all articles

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

mPDF

mPDF

mPDF は、UTF-8 でエンコードされた HTML から PDF ファイルを生成できる PHP ライブラリです。オリジナルの作者である Ian Back は、Web サイトから「オンザフライ」で PDF ファイルを出力し、さまざまな言語を処理するために mPDF を作成しました。 HTML2FPDF などのオリジナルのスクリプトよりも遅く、Unicode フォントを使用すると生成されるファイルが大きくなりますが、CSS スタイルなどをサポートし、多くの機能強化が施されています。 RTL (アラビア語とヘブライ語) や CJK (中国語、日本語、韓国語) を含むほぼすべての言語をサポートします。ネストされたブロックレベル要素 (P、DIV など) をサポートします。

AtomエディタMac版ダウンロード

AtomエディタMac版ダウンロード

最も人気のあるオープンソースエディター

EditPlus 中国語クラック版

EditPlus 中国語クラック版

サイズが小さく、構文の強調表示、コード プロンプト機能はサポートされていません

PhpStorm Mac バージョン

PhpStorm Mac バージョン

最新(2018.2.1)のプロフェッショナル向けPHP統合開発ツール

WebStorm Mac版

WebStorm Mac版

便利なJavaScript開発ツール