OpenAI CEO、「口止め協定」に応じるも持分を巡る争いは続く, ウルトラマン「私のせいです」

スーパーアラインメントの責任者であるイリヤとジャンが辞任して以来、OpenAI は依然として悲嘆に暮れており、ますます多くの人々が辞任し、それがさらに多くの軋轢を引き起こしています。

昨日、論争の焦点は厳格な「秘密協定」に集中した。

OpenAIの元従業員ケルシー・パイパーは、従業員の入社書類の指示には「退職後60日以内に、『一般権利放棄』を含む離職票に署名しなければならない。60日以内に完了しなかった場合」が含まれているとニュースを発表した。 「

」 論争を引き起こした文書のこのスクリーンショットに対して、OpenAI の CEO はすぐにこう答えました:

私たちは誰からも撤退したことはありません。そして人々が別居合意に署名しない（または差別禁止合意に同意しない）場合、私たちはそれをしません。既得権は既得権（期間）です。

OpenAI がどのように資本を扱うかについて、サム アルトマンの他の回答は次のとおりです:

わずか 15 分後、内部告発者は再度質問し、大胆にこう尋ねました。以前の従業員制限協定は破棄されますか?

なぜなら、ほとんどの人はただの謝罪ではなく明確な解決を望んでいるからです:

内部告発者のケルシー・パイパーもこう言いました、「私にとってそれはサムにとって不公平ではないか - - つまり、それは CEO の仕事の一部だと思います。時には謝罪する必要があるだけでなく、人々は批判的で説明を求め、方針が変更されたという証拠を知りたがります。」昨年、OpenAI の従業員報酬の最も一般的な組み合わせは、固定基本給 30 万ドルと年間約 50 万ドルの PPU (利益参加単位) 補助金であると報告されました。これは株式報酬の一種です。とはいえ、PPU 助成金の 4 年間にわたって、OpenAI のほとんどの従業員は少な​​くとも 200 万ドルの株式ベースの報酬を受け取ることが期待されています。

このニュースが本当なら、「退職」された元従業員の多くは「最後までやり遂げたい」と思っているはずです。

この混乱のほかに、OpenAI がセキュリティと将来のリスクにどのように対処するかについての論争も同時に起こっています。

複数のメディアの報道によると、Super Alignment チームの 2 人の共同リーダー、Ilya Sutskever 氏と Jan Leike 氏の最近の退職を受けて、OpenAI の Super Alignment チームは解散されました。 Jan Leike氏も金曜日に一連の投稿を公開し、「光沢のある製品」を優先して「セキュリティ」を無視したOpenAIとそのリーダーシップを非難した。

本日早朝、OpenAI の共同創設者である Greg Brockman がこの問題に対して長い返信を書きました。

「サムとグレッグ」と署名されたこの記事の中で、ブロックマン氏は次のように指摘しました: OpenAI は AI テクノロジーの安全な開発と展開を確保するための措置を講じています。

私たちは、Jan が OpenAI のために行ってくれたことすべてに非常に感謝しており、彼が今後も OpenAI の使命に外部から貢献し続けることを知っています。同氏の退任により生じた課題を踏まえ、当社全体の戦略をどのように考えているかをご説明させていただきます。

まず、私たちはAGIのリスクと機会についての認識を高め、世界がAGIに対してより良く備えることができるようにしました。私たちは、ディープラーニングのスケーリングの驚くべき可能性を繰り返し実証し、その影響を分析してきました。AGI の国際的なガバナンスが普及する前から呼びかけ、AI システムの壊滅的なリスクを評価する科学の開拓に貢献してきました。

第 2 に、私たちは、ますます高性能化するシステムを安全に導入するために必要な基盤を築いてきました。新しいテクノロジーを初めて使用するのは簡単ではありません。たとえば、私たちのチームは GPT-4 を安全な方法で世界に提供するために多くの作業を行い、それ以来、展開中に学んだ教訓に基づいてモデルの動作と不正行為の監視を改善し続けてきました。

第三に、未来は過去よりも困難になるでしょう。新しいモデルごとのリスクに対処するために、セキュリティへの取り組みを継続的に改善する必要があります。昨年、私たちは業務を体系化するために準備フレームワークを採用しました。

今こそ、私たちが将来をどのように見ているかについて話す絶好の機会です。

モデルがより強力になり続けるにつれて、モデルが世界とより深く統合され始めると予想されます。ユーザーは、テキストの入出力のみで単一のモデルと対話するのではなく、多くのマルチモーダル モデルと、ユーザーに代わってアクションを実行できるツールで構成されるシステムと対話することが増えています。

私たちは、これらのシステムは人々にとって大きな恩恵と助けとなり、安全に届けることが可能であると信じていますが、それには多くの基礎工事が必要です。これには、トレーニング中に何を結びつけるか、拡張可能な監視などの困難な問題の解決策、その他の新しいタイプのセキュリティへの取り組みについての思慮深い検討が含まれます。この方向に進んでいますが、いつ安全基準に達してリリースできるかはまだわかりません。それによってリリースが遅れるとしても、それは問題ありません。

私たちは、将来起こり得るすべてのシナリオを想像することはできないことを承知しています。したがって、非常に緊密なフィードバック ループ、厳格なテスト、すべてのステップの慎重な検討、世界クラスのセキュリティ、セキュリティと機能の調和のとれた統合が必要です。私たちは今後もさまざまな時間スケールでセキュリティ調査を実施していきます。私たちはまた、安全保障問題に関して政府や多くの関係者と協力し続けます。

人工知能への道に実証されたガイドはありません。私たちは、経験的な理解が今後の方向性を示すのに役立つと信じています。当社は、重大なリスクの軽減に取り組みながら、大きな成長の見通しを達成できると信じており、この役割を非常に真剣に受け止めており、当社の行動に対するフィードバックを慎重に検討しています。

—サムとグレッグ

しかし、その効果は満足のいくものではないようで、嘲笑さえされています:

AIの分野で活躍する学者であるゲイリー・マーカス氏も次のように述べています: 透明性は語る雄弁よりも声が大きい。

グレッグ・ブロックマン氏は、政策や公約についてこれ以上具体的に答えるつもりはないようだ。

Jan Leike 氏と Ilya Sutskever 氏が去った後、もう 1 人の OpenAI 共同創設者である John Schulman 氏が Super Alignment チームによって行われている作業の責任者に引き継がれました。ゆるやかな関係のチーム。社内のさまざまな部門に所属する研究者のグループ。 OpenAIはこれを「（チームの）より深い統合」と表現している。

論争の背後にある真実は何ですか？おそらくイリヤ・サツケヴァーが一番よく知っていたのかもしれないが、彼は潔くゲームから離れることを選択し、今後そのことについて二度と話すことはないかもしれない。結局のところ、彼はすでに「非常に個人的に意味のあるプロジェクト」を持っていたのです。

以上がOpenAI CEO、「口止め協定」に応じるも持分を巡る争いは続く, ウルトラマン「私のせいです」の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。