GPT-4 と LLM: Microsoft チームが科学的発見の影響を調査し、5 つの主要な科学分野をカバーする 230 ページの記事

コンテンツを書き直す場合、元のテキストを中国語で書き直す必要があり、元の英語の文章を表示する必要はありません

少し前まで、Microsoft DeepSpeedチームは、DeepSpeed4Science と呼ばれるプロジェクトを立ち上げました。この新しい取り組みは、AI システム最適化テクノロジーを通じて科学的発見を達成することを目的としています。

11 月 13 日、Microsoft チームは「科学的発見に対する大規模言語モデルの影響: GPT-4 を使用した予備調査」というタイトルの記事を arXiv プレプリント プラットフォームで公開しました

この記事は 230 ページに達します

論文リンク: https://arxiv.org/abs/2311.07361

近年、自然言語の処理が画期的に進歩しています。強力な大規模言語モデル (LLM) の出現で最高潮に達しました。LLM は、自然言語の理解、生成、翻訳など、言語処理タスクを超えた多くの分野で並外れた能力を実証しました。

このレポートでは、マイクロソフトの研究者が、最先端の言語モデル GPT-4 に焦点を当て、科学的発見/研究の文脈における LLM のパフォーマンスを詳しく調査しています。研究は、創薬、生物学、計算化学 (DFT および MD)、材料設計、偏微分方程式 (PDE) など、複数の科学分野に及びます。

GPT-4 を評価する科学的タスクでは、さまざまな研究分野でその可能性を活用し、特定の分野の専門知識を検証し、科学の進歩を加速し、リソース配分を最適化し、将来のモデル開発を導き、相互作用を促進することが重要です。境界調査 主題調査は非常に重要です。探索方法には主に専門家主導のケース評価が含まれており、モデルが複雑な科学的概念と関係を理解するのに役立つ定性的な洞察を提供できるほか、明確に定義されたドメイン固有の問題を解決するモデルの能力を定量的に評価するための時折のベンチマークも含まれます。

#予備調査の結果、GPT-4 にはさまざまな科学的応用において大きな可能性があることが示され、複雑な問題解決や知識統合タスクを処理できることが実証されました。研究者らは、上記の分野（創薬、生物学、計算化学、材料設計など）における GPT-4 のパフォーマンスを分析し、その利点と限界を強調しました。 GPT-4 の知識ベース、科学的理解能力、科学的数値計算能力、およびさまざまな科学的予測能力を総合的に評価します

GPT-4 は生物学と材料設計に関する広範な専門知識を有しており、特定の要件を満たすのに役立ちます。創薬などの他の分野でも、GPT-4 は強力な特性予測機能を実証しています。ただし、計算化学や偏微分方程式などの研究分野では、GPT-4 は研究者の予測や計算に役立つことが期待されていますが、その精度を向上させるにはさらなる努力が必要です。 GPT-4 はその優れた機能にも関わらず、精度を向上させるための微調整の必要性など、定量的コンピューティング タスクの改善を依然として提供しています。研究者らは、このレポートが科学研究に LLM を活用しようとしている人々に洞察を提供することを期待しています。応用研究者や実践者、そして自然言語処理の特定領域の進歩に興味のある人。 LLM と大規模機械学習の分野は急速に進化しており、次世代の LLM にはこのレポートで言及されていない追加機能が搭載される可能性があることを強調することが重要です。 LLM と専門的な科学ツールおよびモデルの統合、および基本的な科学モデルの開発が 2 つの有望な研究方向性を表していることは注目に値します。

創薬

創薬は製薬業界の構成要素にとって重要です。医学の進歩に重要な役割を果たしています。創薬には、標的の特定、リードの最適化、前臨床試験などの複雑な学際的なプロセスが含まれ、最終的には安全で効果的な薬剤の開発につながります。

GPT-4 は、創薬プロセスの加速、探索および設計コストの削減、創造性の向上など、創薬において大きな可能性を秘めています。この章では、まず定性的テストを通じて創薬に関する GPT-4 の知識を研究し、次に薬物標的相互作用/結合親和性予測、分子特性予測、逆合成予測などの複数の重要なタスクに関する定量的テストを通じてその予測能力を調査します

書き直された内容: 最初の例では、指定された薬物名の化学式、IUPAC 名、および SMILES を生成します。これは、名前を薬物の他の表現に変換することです。アファチニブを投入薬剤として使用した。 GPT-4 は正しい化学式 C24H25ClFN5O3 と正しい IUPAC 名を出力することに成功し、GPT-4 が薬剤アファチニブを認識していることを示しました。ただし、生成された SMILES は正しくありません。そこで研究者らは、GPT-4にSMILESを再生させるよう指導した。残念ながら、GPT-4 が「各原子タイプの原子数を記録し」、正しい IUPAC と化学式に基づいて SMILES を生成するという明示的な要件にもかかわらず、いくつかの実験で生成された SMILES 配列は依然として不正確でした。

最初の画像は、薬物名の翻訳とその他の薬物表現を示しています。 (論文より引用)

生物学

この章では、研究者らは生物学研究分野における GPT-4 の機能を深く調査し、主に生物学的言語と生物学的言語を理解する能力に焦点を当てます。組み込まれた生物学的知識を使用して研究を実施し、推論、生体分子および生物学的実験の設計に熟練します。観察によると、GPT-4 は、複雑な生物学的言語を処理し、生物情報学的タスクを実行し、さらには生物学的設計における科学的アシスタントとして機能する能力を実証することで、生物学の分野に貢献する大きな可能性を示しています。 GPT-4 の生物学的概念の広範な理解と、設計タスクにおける科学アシスタントとしてのその大きな可能性は、生物学の分野の進歩における GPT-4 の重要な役割を浮き彫りにしています。

最初に、生物学的配列配列シンボルとテキスト シンボルを処理する GPT-4 の能力が評価されました。

研究者らは、GPT-4 に生物学的配列とそのテキスト記号の間の変換を依頼しました。 1) 指定されたタンパク質配列のタンパク質名を出力します。 2) 指定された名前のタンパク質配列を出力します。情報漏洩を防ぐために、各タスクの前にセッションが再起動されます。 GPT-4 はシーケンスからテキスト シンボルへの変換については知っていますが、それ自体 (BLAST シーケンスとも呼ばれます) を直接検索することはできないことがわかりました。一方、GPT-4 は生物学的配列 (タンパク質と DNA を含む。後者は示されていない) のテキストタグを好みます。おそらくその設計思想のおかげで、テキスト シンボルが与えられると、より豊富な情報が提供されます。シーケンスの生成が GPT-4 の壊滅的な動作につながる可能性があることも指摘されていることに注意することが重要です。下の図に示すように、GPT-4 は正しい UniProt ID を返しましたが、シーケンスの生成に問題が発生しました。いくつかの異なるプロンプトを試行すると、シーケンス生成がクラッシュします。

図 2: シーケンス シンボルとテキスト シンボル間の変換。 (出典: 論文)

計算化学

ケミカルコンピューティングは、計算手法と技術を使用して化学の複雑な問題を解決する学際的な分野です。化学計算は長い間、分子システムの研究において不可欠なツールであり、原子レベルの相互作用の深い理解を提供するだけでなく、実験作業の指針としても役立ちます。化学計算は、分子構造、化学反応、物理現象をミクロおよびマクロレベルで理解する上で重要な役割を果たします。

この章では、計算化学の分野における GPT-4 の機能に焦点を当てます。電子構造法や分子動力学シミュレーションへの応用を検討し、2 つの実践例を示すことで GPT-4 のサービス機能をさまざまな観点から実証します。要約すると、GPT-4 はさまざまな方法で計算化学研究者を支援できます。

研究は、量子化学と物理学の概念を説明する GPT-4 の能力を評価することから始まります。評価には、密度汎関数理論 (DFT) や波動関数理論 (WFT) など、この分野で一般的に使用される手法が含まれます。

# 図 3: 密度汎関数理論の概念テスト。 (出典: 論文)

上記の例では、GPT-4 は、密度汎関数理論、KohnSham 密度汎関数理論、および無軌道密度汎関数理論の概念をよく理解するのに役立ちます。

マテリアル デザイン

この章では、マテリアル デザインの分野における GPT-4 の機能について説明します。研究者らは、最初の概念化からその後の検証と合成に至るまで、材料設計プロセスのあらゆる側面をカバーする包括的な一連のタスクを設計しました。目標は、GPT-4 の専門知識と、実際のアプリケーションで有意義な洞察とソリューションを生成する能力を評価することです。設計されたタスクは、背景知識、設計原則、候補の特定、候補構造の生成、属性予測、合成条件予測などのさまざまな側面をカバーします。設計プロセス全体に取り組むことで、目標は、特に結晶性無機材料、有機ポリマー、有機金属フレームワーク (MOF) などのより複雑な材料に対する材料設計における GPT-4 の熟練度の全体的な評価を提供することです。

評価は主に、この専門分野における GPT-4 の機能の定性的評価に焦点を当てており、可能な場合にのみ統計スコアが付与されることは注目に値します。

研究者らはまず、一般化学や陰イオンの種類に基づく分類など、さまざまな要件を持つ現在の固体電解質がどのように分類されるかを調査しました。さらに、これらの分類基準に基づいた例を求めました。図 4 に示すように、すべての回答は事実であり、ほとんどが正しいです。これらの分類基準は文献で十分に表現されていないため、GPT-4 では化学が何を意味するのかを比較的明確に理解する必要があります。

ソース論文に基づいて、次のことが必要です。書き換えられた内容は次のとおりです。 図 4: 無機固体電解質の分類

偏微分方程式

偏微分方程式 (PDE) は、数学および物理学の分野において重要かつ非常に活発な研究分野です。工学、生物学、金融などのさまざまな分野に広範囲に応用されています。偏微分方程式は、流体力学や熱伝達から電磁場や群力学に至るまで、幅広い現象のモデル化と理解において重要な役割を果たします。

この章では、偏微分方程式のいくつかの側面における GPT-4 のスキルを学習します。つまり、偏微分方程式の基礎の理解、偏微分方程式の解法、偏微分方程式の研究における AI の支援です。研究者は、線形方程式、非線形方程式、確率的偏微分方程式など、さまざまな形式の偏微分方程式に基づいてモデルを評価します。研究によると、GPT-4 はさまざまな方法で研究者に役立つことがわかっています。

最初の質問は、偏微分方程式の定義と形式に関するものですが、GPT-4 では、図 5 に示すように、偏微分方程式についてわかりやすく説明しています。ユーザーのプロンプトに応じて、GPT-4 は偏微分方程式の明確な概念と、線形または非線形、楕円形、放物線または双曲線のカテゴリーを提供します。この分野の初心者は、これらの概念と分類から恩恵を受けるでしょう。

図 5: PDE の基本概念の紹介。 (出典: 論文)

将来の見通し

この研究では、さまざまな自然科学分野における LLM の機能と限界を調査し、さまざまなタスクをカバーします。私たちの主な目標は、最先端の LLM GPT-4 とその科学的発見の可能性の予備評価を提供し、さまざまな分野の研究者に貴重なリソースとツールを提供することです

広範な分析を通じて、この研究は、GPT-4 が文献合成から特性予測、コード生成まで、数多くの科学的タスクにおいて熟練を達成していることを強調しています。その優れた機能にもかかわらず、特定のデータ形式の処理における課題、応答の不一致、時折の幻覚など、GPT-4 (および同様の LLM) の限界を認識することが重要です。

研究者らは、この探査が自然科学における GPT-4 の可能性を理解し認識するための重要な第一歩であると信じています。その長所と短所の詳細な概要を提供することにより、研究者が GPT-4 (または他の LLM) を日常業務に組み込む際に情報に基づいた意思決定を行い、その制限に留意しながら最適な適用を確保できるようにすることを目的としています。

さらに、科学的発見能力の向上を目指して、GPT-4 およびその他の LLM のさらなる探査と開発が奨励されています。これには、トレーニング プロセスの改良、ドメイン固有のデータとアーキテクチャの統合、さまざまな科学分野に合わせた専門知識の統合が含まれる場合があります。

人工知能の分野が発展し続けるにつれて、GPT-4 のような複雑なモデルの統合は、科学研究とイノベーションを加速する上でますます重要な役割を果たすことになります

最後に、この研究は次のような側面を結論付けています。科学研究において改善が必要なLLMについて議論し、LLMを強化したり、これに基づいて科学的ブレークスルーを促進したりするための潜在的な方向性について議論します。

以上がGPT-4 と LLM: Microsoft チームが科学的発見の影響を調査し、5 つの主要な科学分野をカバーする 230 ページの記事の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。