検索
ホームページテクノロジー周辺機器AI清華大学、コース学習用初のオープンソース ライブラリである CurML をリリース

機械学習の開発プロセスでは、人間の学習方法がさまざまなアルゴリズムの設計に影響を与えることがよくあります。人間の学習の重要なパラダイムとして、コースを通じた学習は機械学習から借用され、カリキュラム学習と呼ばれる研究の方向性を形成しています。

一般に、人間の教育は高度に組織化された授業を通じて完了します。各コースまたは科目は単純な内容から始まり、徐々により複雑な概念を生徒に提示します。たとえば、大学で微積分の概念を受け入れる前に、学生はまず小学校で算数を、中学校で関数を、高校で微分を学ぶ必要があります。ただし、人間の教育とは異なり、従来の機械学習モデルのトレーニングでは、データ サンプルとモデルの現在の学習ステータス間の複雑さの違いを無視して、データ サンプルをモデルにランダムに入力する必要があります。したがって、機械学習の分野では、簡単なものから難しいものまで人間の学習を正確に模倣し、モデルにより良いトレーニング戦略を提供し、それによってモデルのパフォーマンスを向上させるカリキュラム学習が提案されました。

清華大学、コース学習用初のオープンソース ライブラリである CurML をリリース

#コース学習コンセプトマップ

現在カリキュラム学習は、画像分類、ターゲット検出、セマンティック セグメンテーション、機械翻訳、音声認識、音声強化、ビデオ質疑応答などを含む、機械学習のさまざまなタスクで広く使用されています。また、教師あり、教師なし、半教師ありでも使用されます。教師あり学習、強化学習、その他のシナリオは多くの注目と研究を集めています。

コース学習の応用やシナリオがますます豊富になるにつれ、研究者や研究者による深い探求を促進するために、この分野について詳細な整理と要約を行うことが特に必要です。ユーザーのアプリケーションエクスペリエンスを向上させます。

したがって、コース学習に関する多数の学術論文の出版の蓄積と基盤に基づいて、清華大学の朱文武教授が率いるメディアおよびネットワークビッグデータ研究室、研究室メンバーの王Xin IEEE TPAMI はカリキュラム学習に関するレビュー論文を発表し、さらに研究室は世界初のカリキュラム学習用のオープンソース ライブラリである CurML (Curriculum Machine Learning) をリリースしました。

Zhu Wenwu教授とWang Xin助研究員のカリキュラム学習研究活動には、都市の関心のある場所の推奨に適用されるカリキュラムのメタ学習手法、ノイズの多い複数のフィードバック情報に基づくカリキュラムのデカップリング製品推奨、共有パラメータが含まれます。コース学習に基づくニューラルアーキテクチャ探索、コース難易度適応に基づく組み合わせ最適化問題解決など。研究結果は、SIGKDD、NeurIPS、ACM MM などのハイレベルな国際機械学習会議で発表されています。

清華大学、コース学習用初のオープンソース ライブラリである CurML をリリース

##研究結果のフレームワーク図

コース学習レビューペーパーは、創発、定義、理論、応用など、コース学習のあらゆる側面を包括的にレビューし、統一されたコース学習フレームワークを設計し、コース学習アルゴリズムを、コース内のコアコンポーネントに基づいて 2 つの主要なカテゴリと複数のカテゴリに分割します。このサブカテゴリは、カリキュラム学習と他の機械学習概念の違いと関連性を区別し、この分野が直面する課題と将来の研究の方向性を指摘します。

清華大学、コース学習用初のオープンソース ライブラリである CurML をリリース

#コース学習方法分類コース学習オープンソース ライブラリ CurML は、コース学習アルゴリズムのサポート プラットフォームです。10 を超えるコース学習アルゴリズムが統合されており、ノイズの多いアプリケーション シナリオとノイズのないアプリケーション シナリオの両方をサポートしているため、研究者やユーザーが再現、評価、比較、選択することが容易になります。コース学習のアルゴリズム。

CurML のメイン モジュールは CL Trainer で、これは 2 つのサブモジュール Model Trainer と CL Algorithm で構成され、これら 2 つは 5 つのインターフェイス関数を通じて相互作用し、コース学習ガイダンス用のマシンを実現します。学習過程。

清華大学、コース学習用初のオープンソース ライブラリである CurML をリリース

#CurML フレームワーク図

メイン モジュール: CL Trainer

このモジュールは、オープンソース ライブラリ全体の主要部分です。このモジュールを呼び出すことで、ユーザーはわずか数行のコードでコース学習アルゴリズムを実装できます。データセット、モデル、ハイパーパラメータが与えられると、モジュールは一定期間トレーニングし、トレーニングされたモデルパラメータとタスクのテスト結果を出力します。このモジュールは主に使いやすさの要件を満たすように設計されているため、高度にカプセル化されており、コース学習アルゴリズムを使用したいが、特定の実装の詳細は気にしないユーザーに提供されます。

サブモジュール 1: モデル トレーナー

このモジュールは、次のような一般的な機械学習プロセスを完了するために使用されます。トレーニングとして 画像分類器または言語モデル。同時に、2 番目のサブモジュール CL アルゴリズムと対話するための 5 つのインターフェイス関数の位置を予約し、カスタム入力関数もサポートします。

#サブモジュール 2: CL アルゴリズム

このモジュールは、CurML でサポートされるすべてのコース学習アルゴリズムをカプセル化します。

清華大学、コース学習用初のオープンソース ライブラリである CurML をリリース

このモジュールは、機械学習プロセスからデータとモデル情報を取得するために使用される 5 つのインターフェイス関数を通じて実装されます。次の図に示すように、モデルをガイドする学習戦略が含まれます。

清華大学、コース学習用初のオープンソース ライブラリである CurML をリリース

CurML フローチャート #インターフェイス関数: data_prepare

この関数は、モデル トレーナー モジュールから CL アルゴリズム モジュールにデータ セット情報を提供するために使用されます。多くのコース学習アルゴリズムでは、データ サンプルの難易度をより適切に判断するためにデータ セットを全体的に理解する必要があるため、このインターフェイス機能が必要です。

インターフェイス関数: model_prepare

この関数は data_prepare に非常に似ていますが、違いは転送しないことです。データセット情報 モデルアーキテクチャ、パラメータオプティマイザー、学習率調整器など、モデルトレーニングに関連する情報です。多くのコース学習アルゴリズムは、これらの要素を調整することによって機械学習をガイドします。

#インターフェース関数: data_curriculum

この関数は、データ サンプルの難易度を計算するために使用され、それに基づいてデータの難易度およびモデルの現在の状態により、モデルに適切なデータが提供され、ほとんどのコースは同様の考え方を持っています。

#インターフェース関数:model_curriculum

この関数は、モデルを更新し、モデルから取得したモデルの精度を調整するために使用されます。データ サンプル。情報量がモデルの学習を間接的に導きます。現時点では、このようなアルゴリズムの数はまだ少ないですが、CurML はそのようなアルゴリズムの実装もサポートしています。

#インターフェイス関数: loss_curriculum

この関数は、損失関数値の重み付けを変更するために使用され、間接的な調整は次のとおりです。モデルに対するデータの影響: 損失値の重み付けは本質的にデータのソフト サンプリングであるため、このタイプのアルゴリズムはコース学習でより一般的です。 近年の 10 を超えるコース学習メソッドの要約を通じて、さまざまな種類のコース学習アルゴリズムを上記のモジュールとインターフェイス パラメーターを使用して統合して実装できるため、公平なシナリオで使用され、タスクの下でコース学習アルゴリズムを評価、比較、選択します。

今後の見通し

CurML の研究開発チームは、コース学習の開発と応用に対するさらなるサポートを提供するために、今後もこのオープン ソース ライブラリを更新し続けると述べました。

関連リンク:

  • CurML オープン ソース コード ライブラリのリンク: https://github.com/THUMNLab/CurML
  • CurML オープン ソース ソフトウェアの論文リンク: https://dl.acm.org/doi/pdf/10.1145/3503161.3548549
  • コース学習の概要論文リンク: https://ieeexplore.ieee.org/abstract/document/9392296/
  • コースのメタ学習ペーパーのリンク: https://dl.acm.org/doi/abs /10.1145/ 3447548.3467132
  • コース分離学習ペーパーのリンク: https://proceedings.neurips.cc/paper/2021/file/e242660df1b69b74dcc7fde711f924ff-Paper.pdf
  • コース ニューラル アーキテクチャ検索論文リンク: https://dl.acm.org/doi/abs/10.1145/3503161.3548271
  • #コース難易度適応論文リンク: https:// ojs.aaai.org/index.php/AAAI/article/download/20899/version/19196/20658

以上が清華大学、コース学習用初のオープンソース ライブラリである CurML をリリースの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

声明
この記事は51CTO.COMで複製されています。侵害がある場合は、admin@php.cn までご連絡ください。
外挿の包括的なガイド外挿の包括的なガイドApr 15, 2025 am 11:38 AM

導入 数週間で作物の進行を毎日観察する農民がいるとします。彼は成長率を見て、さらに数週間で彼の植物がどれほど背が高くなるかについて熟考し始めます。 thから

ソフトAIの台頭とそれが今日のビジネスにとって何を意味するかソフトAIの台頭とそれが今日のビジネスにとって何を意味するかApr 15, 2025 am 11:36 AM

ソフトAIは、おおよその推論、パターン認識、柔軟な意思決定を使用して特定の狭いタスクを実行するように設計されたAIシステムとして定義されていますが、曖昧さを受け入れることにより、人間のような思考を模倣しようとします。 しかし、これはBusineにとって何を意味しますか

AIフロンティア向けの進化するセキュリティフレームワークAIフロンティア向けの進化するセキュリティフレームワークApr 15, 2025 am 11:34 AM

答えは明確です。クラウドコンピューティングには、クラウドネイティブセキュリティツールへの移行が必要であるため、AIはAIの独自のニーズに特化した新しい種類のセキュリティソリューションを要求します。 クラウドコンピューティングとセキュリティレッスンの台頭 で

3つの方法生成AIは起業家を増幅します:平均に注意してください!3つの方法生成AIは起業家を増幅します:平均に注意してください!Apr 15, 2025 am 11:33 AM

起業家とAIと生成AIを使用して、ビジネスを改善します。同時に、すべてのテクノロジーと同様に、生成的AIが増幅器であることを覚えておくことが重要です。厳密な2024年の研究o

Andrew Ngによる埋め込みモデルに関する新しいショートコースAndrew Ngによる埋め込みモデルに関する新しいショートコースApr 15, 2025 am 11:32 AM

埋め込みモデルのパワーのロックを解除する:Andrew Ngの新しいコースに深く飛び込む マシンがあなたの質問を完全に正確に理解し、応答する未来を想像してください。 これはサイエンスフィクションではありません。 AIの進歩のおかげで、それはRになりつつあります

大規模な言語モデル(LLMS)の幻覚は避けられませんか?大規模な言語モデル(LLMS)の幻覚は避けられませんか?Apr 15, 2025 am 11:31 AM

大規模な言語モデル(LLM)と幻覚の避けられない問題 ChatGpt、Claude、GeminiなどのAIモデルを使用した可能性があります。 これらはすべて、大規模なテキストデータセットでトレーニングされた大規模な言語モデル(LLMS)、強力なAIシステムの例です。

60%の問題 -  AI検索がトラフィックを排出す​​る方法60%の問題 - AI検索がトラフィックを排出す​​る方法Apr 15, 2025 am 11:28 AM

最近の研究では、AIの概要により、産業と検索の種類に基づいて、オーガニックトラフィックがなんと15〜64%減少する可能性があることが示されています。この根本的な変化により、マーケティング担当者はデジタルの可視性に関する戦略全体を再考することになっています。 新しい

AI R&Dの中心に人間が繁栄するようにするMITメディアラボAI R&Dの中心に人間が繁栄するようにするMITメディアラボApr 15, 2025 am 11:26 AM

Elon UniversityがDigital Future Centerを想像している最近のレポートは、300人近くのグローバルテクノロジーの専門家を調査しました。結果のレポート「2035年に人間である」は、ほとんどがTを超えるAIシステムの採用を深めることを懸念していると結論付けました。

See all articles

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

SAP NetWeaver Server Adapter for Eclipse

SAP NetWeaver Server Adapter for Eclipse

Eclipse を SAP NetWeaver アプリケーション サーバーと統合します。

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

AtomエディタMac版ダウンロード

AtomエディタMac版ダウンロード

最も人気のあるオープンソースエディター

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

EditPlus 中国語クラック版

EditPlus 中国語クラック版

サイズが小さく、構文の強調表示、コード プロンプト機能はサポートされていません