ChatGPT は本当に世界を征服するのでしょうか?

ChatGPT は OpenAI によって開発された新しいテクノロジーで、人間のコミュニケーションを模倣することに非常に優れているため、すぐに世界とその中のすべての仕事を征服すると多くの人が信じています。

ブラウン大学カーニー脳科学研究所が主催した2月8日の交換では、異なる研究分野の2人の学者が人工知能と人間の知能の類似点について議論した。

ChatGPT の神経科学に関するディスカッションでは、参加者は現在の機械学習モデルの舞台裏を垣間見ることができました。

コンピュータ サイエンスの助教授であり、Google AI 研究科学者でもあるエリー パブリック氏は、新しいテクノロジーに関するさまざまな話題にもかかわらず、モデルはそれほど複雑ではなく、新しいものでさえないと述べました。

ChatGPT は最も基本的なレベルで、文中の次の単語、次の表現などを予測するように設計された機械学習モデルである、と彼女は説明しました。

このタイプの予測学習モデルは何十年も前から存在しているとパブリック氏は言いました。コンピュータ科学者は長い間、この動作を示し、自然言語で人間と会話できるモデルを構築しようと試みてきました。これを行うには、モデルが従来のコンピューティング コンポーネントのデータベースにアクセスして、過度に複雑なアイデアについて「推論」できるようにする必要があります。

新しいのは、ChatGPT のトレーニングまたは開発方法です。パブリック氏の言葉を借りれば、「インターネット上のすべての文章」という計り知れない量のデータにアクセスできるのです。

「ChatGPT 自体は変曲点ではありません」と Pavlick 氏は言いました。 「本質的に同じ構造のモデルが増加した過去 5 年間のある時点が変曲点でした。しかし、モデルはますます大きくなりました。何が起こっているのかというと、モデルが大きくなるにつれて、パフォーマンスも向上し続けています。」

ChatGPT とその競合他社が一般に無料で利用できる方法も斬新です。 1 年前でさえ、Pavlick 氏は、ChatGPT のようなシステムを操作するには、特定の権限を持つ学生、教職員のみが使用できる専用システム、Brown's Compute Grid のようなシステムにアクセスする必要があると述べていました。かなりの技術力。

しかし今では、技術的な能力に関係なく、誰でも ChatGPT の洗練された合理化されたインターフェイスを使用できるようになりました。

CHATGPT は本当に人間のように考えますか?

パブリック氏によると、このような大規模なデータセットを使用してコンピューター システムをトレーニングした結果、一般的なパターンを認識し、次のことができるようだということです。非常に現実的な記事、物語、詩、対話、演劇などを生成します。

偽のニュースレポートや偽の科学的発見を生成し、あらゆる種類の驚くほど正当な結果、つまり「出力」を生成する可能性があります。

その結果の正当性により、多くの人が機械学習モデルが人間と同じように考えることができると信じています。しかし、それらはどうなのでしょうか?

ChatGPT は人工ニューラル ネットワークであると、認知科学、言語科学、心理科学およびコンピューター サイエンスの教授である Thomas Serre 氏は説明します。これは、ハードウェアとプログラミングが、脳内のニューロンの単純化にヒントを得て、相互接続された一連のノードに基づいていることを意味します。

セール氏は、コンピューターの脳と人間の脳が新しい情報を学習し、それを使用してタスクを実行する方法には、確かに多くの興味深い類似点があると述べました。

「研究では、ChatGPT などのアルゴリズムが言語情報を処理するために使用および活用する単語や文の表現の種類と、脳が行っていると思われることの間に何らかの関連がある可能性があることが、少なくとも表面的には示唆され始めています。 、 "彼は言った。

たとえば、ChatGPT のバックボーンは、Transformer ネットワークと呼ばれる最先端の人工ニューラル ネットワークです。自然言語処理研究から派生したこれらのネットワークは、最近、人工知能の分野全体を支配するようになりました。

変圧器ネットワークには、コンピュータ科学者が「自己注意」と呼ぶ特別なメカニズムがあり、これは人間の脳で起こることが知られている注意メカニズムに関連しています。

人間の脳とのもう一つの類似性が、テクノロジーをこれほど先進的なものにしている重要な側面である、とセール氏は語った。

これまでは、言語を学習して使用したり、画像認識を実行したりするためにコンピューター上で人工ニューラル ネットワークをトレーニングするには、科学者がデータベースの構築やオブジェクト カテゴリのラベル付けなど、退屈で時間のかかる手動タスクを実行する必要があったと同氏は説明しました。

ChatGPT で使用されているような最新の大規模言語モデルは、そのような明示的な人間の監督なしでトレーニングできます。そしてこれは、セール氏が予測符号化理論と呼ばれる影響力のある脳理論と呼んでいるものに関連しているようです。これは、人が誰かの話を聞くとき、脳は常に予測を立て、次に何が言われるかを予測していることを前提としています。

この理論は数十年前に提案されたが、神経科学ではまだ十分に検証されていないとサール氏は述べた。ただし、現在は大量の実験作業が進められています。

「少なくともこれら 2 つのレベルでは、このネットワークのコア エンジンの注意メカニズムが、何が言われるかを常に予測しています。これは、非常に大まかなレベルで神経科学に関連していると思われます」 .アイデアです」とセール氏はコメントした。

最近の研究では、大規模な言語モデルで使用される戦略と実際の脳のプロセスを結び付け、次のように述べています。「私たちはまだ学ぶべきことがたくさんありますが、これらの大規模な言語モデルの役割を示す神経科学の研究は増え続けています。 [コンピュータ内で]視覚モデルが行うことは、自然言語を処理するときに私たちの脳が行うことと完全に無関係というわけではありません。」

もっと暗い視点から見ると、人間の学習プロセスはバイアスや腐敗の影響を受けやすいようなものです。 、AIモデルも同様です。これらのシステムは統計的な相関関係を通じて学習するとセール氏は言います。どのような情報が優勢であっても、データセットが引き継ぎ、他の情報を押し出します。

「これは言語に特化したものではなく、人工知能にとって大きな焦点となる分野です」とセール氏は語った。同氏は、インターネット上で白人男性が過剰に登場することで、一部の顔認識システムが白人または男性に見えない顔を認識できないほど偏っていることを引用した。

「システムの良さは、システムに供給するトレーニング データによって決まります。トレーニング データが最初からそれほど優れているわけではないことはわかっています」と Serre 氏は言います。

データも無制限ではなく、特にこれらのシステムの規模とその貪欲な欲求を考慮すると、彼は付け加えました。

ChatCPT の最新バージョンには、有害なコンテンツや憎悪に満ちたコンテンツを防ぐためのガードレールとして機能する強化学習層が含まれているとパブリック氏は述べています。しかし、これらはまだ進行中の作業です。

「課題の一部は…モデルにルールを与えることができないということです。『これこれこれを絶対に生成しないでください』と言うだけではだめです」とパブリック氏は語った。

「例によって学習するので、やるべきことの例をたくさん与えて、「そんなことはやめて、こういうことをしなさい」と言うのです。したがって、いくつかの例を見つけることは常に可能です。

CHATGPT は夢を見ない

人間の脳と神経ネットワークの別の領域は、睡眠中、特に夢を見ている間です。 AIが生成したテキストや画像は超現実的、抽象的、不条理に見えるかもしれないが、生物学的な夢を見るプロセスとAIを生成する計算プロセスとの間の機能的類似性の概念を裏付ける証拠はないとパブリック氏は述べた。

彼女は、ChatGPT のようなアプリケーションは恒常性システムであることを理解することが重要であると述べました。つまり、オフラインでは改善し続ける可能性があっても、オンラインではリアルタイムで進化したり変化したりすることはありません。

「[ChatGPT] は、知っていることや脳内で起こっていることを固めるために、再生したり、考えたり、新しい方法で物事を組み合わせたりしようとしているわけではありません」とパブリク氏は語った。

「むしろ、完了です。これがシステムです。私たちはこれをネットワークを介したフォワードパスと呼んでいます。そこからのフィードバックはありません。実行したことを反映していませんし、方法を更新していません。」

AI に、たとえば、クレブス サイクルについてのラップ ソングや、誰かの飼い犬のサイケデリックな画像を作成するよう依頼すると、その出力は創造的に見えるかもしれないが、実際には単なるマッシュアップにすぎないとパブリック氏は述べています。システムが実行するように訓練されているタスク。

人間の言語ユーザーとは異なり、各出力はその後の出力を自動的に変更したり、機能を強化したり、人々が夢が機能すると考える方法で機能したりすることはありません。

セール氏とパブリック氏は、人間の知能や人工知能について議論する際の注意点は、科学者が両方のシステムについてまだ学ぶべきことがたくさんあるということだと強調しました。

ChatGPT に関する誇大宣伝、特に人間よりも人間に近いチャットボットの作成におけるニューラル ネットワークの成功について、特にテクノロジーとエンジニアリングの観点からは、それは当然のことだとパブリック氏は言います。

「これはとてもエキサイティングです!」と彼女は言いました。 「私たちはこのようなシステムを長い間望んでいました。」

以上がChatGPT は本当に世界を征服するのでしょうか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。