内部調査で判明: OpenAI も自社の AI がどのように意思決定を行っているかを把握していない

Reference News Network が 5 月 14 日に報じた5 月 13 日のスペイン語「Vanguard」ウェブサイトの報道によると、ChatGPT を開発した OpenAI は最近、自社の言語モデルが内部言語でどのように機能するかを発見しようとしました。意思決定者は次の結論に達しました。「これは機能しています。しかし、それがどのように機能するかについてはあまり知られていません。」

報告書によると、最近発表された OpenAI 研究者らの報告書には、「言語モデルは現在、より強力になり、より一般的になっているが、それがどのように機能するのかは理解されていない」と述べられています。この声明は、世間で宣伝されている一部の人工知能の安全性の欠如について警鐘を鳴らしている人々の見解を支持しています。

しかし、OpenAI はまた、「最近の研究により、少数の回路と制約された動作の理解が進んだ」とも述べていますが、同社は「言語モデルを完全に理解するには」「数百万のニューロンを分析する」必要があると考えています。膨大なワークロードに直面した同社は、言語モデル内のすべてのニューロンを自動的に分析するテクノロジーの使用を開始しました。

報道によると、公表された研究結果に基づくと、同社はまだこれを達成していません。同社はニューロンがどのように機能するかをまだ解明していないが、将来的には解明できるようにしたいと考えている。 「私たちは、解釈可能性を自動化するこのアプローチから始めることで、展開前にモデルのセキュリティを包括的にレビューできるようになると期待しています。GPT-4 は広く展開されていますが、現時点ではこれを達成できません。」彼らはこのタスクを完了できませんでした。(コンパイラ/Sujiawei)

以上が内部調査で判明: OpenAI も自社の AI がどのように意思決定を行っているかを把握していないの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。