ChatGPT の父が国会議事堂で議論しています! OpenAIは政府と協力して権力を掌握したいと考えている

前回は周祥子でしたが、今回はサム・アルトマンの番でした。

しかし、今回の議員たちは彼に対して全く異なる態度を示しました。友好的で、忍耐強く、十分な下調べをし、謙虚にアドバイスを求めました。

北京時間の昨夜、OpenAI CEO のサム・アルトマン氏は米国上院で AI テクノロジーの潜在的な危険性について証言し、高度な AI を製造する組織に対するライセンス要件やその他の規制を導入するよう議員に促しました。 。

サム アルトマンは、難しい質問を受ける必要はありませんでした。席に座って気楽に話しました。証拠: 世界で最も注目を集めるスタートアップ CEO として、彼はテクノロジー業界のルールと未来を書いています。

サム アルトマン氏は米国議会に面して、OpenAI が今後 6 か月間 GPT-5 をトレーニングしないことを再度断言しました。

同時に、彼は世界に対しても警告しました「AI は世界にとって有害で​​ある可能性があります。ますます強力になる AI リスクに対処するには、監督と法律を強化する必要があります。」そして政府の介入は非常に重要です。

なぜアルトマンは政府の規制にこれほど積極的に関わっているのでしょうか?

明らかに、ルール作成者になれば、すべての競争に勝つことができます。

「社交的な牛」の特質を頼りにシリコンバレーで名を上げてきたアルトマン氏にとって、政府との付き合いはバッグから何かを取り出すのと同じくらい簡単だ。

AI が生み出す開会の挨拶

テクノロジーの世界に突如現れた新勢力として、OpenAI は今年で 8 年目、電光石火のスピードで世界を巻き起こしてきました。世界中のすべてのテクノロジー企業は、ChatGPT から始まるグローバルな変革に参加することを余儀なくされています。

この世界的な AI 軍拡競争は、多くの専門家に懸念を与えています。

しかし、この公聴会中、上院議員らは OpenAI のテクノロジーによって引き起こされた混乱を批判せず、ChatGPT の潜在的なルールについて謙虚に証人の意見を求めました。フレンドリーで礼儀正しい。

公聴会の冒頭で、リチャード・ブルメンソール上院議員は音声クローン作成ソフトウェアを使用して自分の声をコピーし、ChatGPT に書き込ませました。冒頭の文は、何時間もの音声を使用してトレーニングされたテキスト読み上げジェネレーターです。

この動きは、議会が「AIの採用」に対して明確な姿勢を持っていることを証明しています。

AI は危険です、規制してください

今回の公聴会では、立法者たちは明らかに非常に興奮しており、Xiao Zha 氏と Zhou Shouzi 氏に対しては非常に厳しい態度でした。は顕著な対照的です。

上院議員らは過去の過ちを口論するのではなく、AIがもたらす恩恵に熱心だ。

そしてアルトマン氏は上院に対し、AI テクノロジーは失敗する可能性があると単刀直入に言いました。

彼は、人工知能産業が世界に重大な害をもたらしていることを非常に心配していると述べました。

「AI テクノロジーが誤った方向に進むと、悲惨な結果が生じます。私たちはこれについて声を上げる必要があります。政府と協力して、このようなことが起こらないようにしたいと考えています。」

「私たちは、ますます強力になる AI モデルのリスクを軽減するには、政府の規制介入が重要であると考えています。たとえば、米国政府は、能力のしきい値を超える AI を開発およびリリースするために、ライセンス要件とテスト要件を組み合わせることを検討する可能性があります。」モデル。"＃＃＃＃＃＃

アルトマン氏は、AIが生成したコンテンツによって選挙が影響を受けることを非常に懸念しているため、この点に関しては適切な監督が必要だと述べた。

これに対し、ディック・ダービン上院議員は、大企業が「規制を支持してほしい」と上院に来るのは注目に値すると述べた。

アルトマンは次の 3 点の計画を提案しました:

どのように監督するか?アルトマン氏はすでに政府のことを考えている。

公聴会で、彼は体系的な計画を提案しました。

1. 大規模な AI モデルのライセンス付与と、基準を満たさないモデルのライセンスの取り消しを担当する新しい政府機関を創設します。

彼は、最先端の大規模モデルのレベルに到達できない技術については、このライセンス規制制度を導入する必要はないと考えています。イノベーションを促進するために、議会は中小企業や研究者を規制上の負担から守るためにコンピテンシーの基準を設定する可能性がある。

2. AI モデルの危険な機能の評価を含む、AI モデルの一連の安全基準を作成します。

たとえば、モデルは、「自己複製」や「監視外でのフロー」が可能かどうかなどのセキュリティ テストに合格する必要があります。

3. 独立した専門家に、さまざまな指標に基づくモデルのパフォーマンスの独立した監査を実施するよう要求します。

上院議員らからその役割を引き受ける意思があるかとの質問に対し、アルトマン氏は「現在の仕事に満足しているが、議会が選択できるリストを喜んで提供するだろう」と述べた。

アルトマン氏は、AIモデルは「人の行動や信念を説得し、操作し、影響を与える」ことができ、さらには「新しい生物学的因子を作成する」ことさえできるため、ライセンスが非常に必要であると述べた。

コンピューティング能力の一定のしきい値を超えるすべてのシステムにライセンスを付与する方が簡単ですが、アルトマン氏は、特定の能力に基づいて規制の線を引くことを好むと述べました。

#では、OpenAI 自身のモデルは安全なのでしょうか?

アルトマン氏は、誰もが安心できると繰り返し述べてきました。

彼は、GPT-4 モデルは他の同様のモデルよりも意図的かつ誠実に応答し、GPT-4 は広範なプレリリース テストとテストを受けているため、有害なリクエストを確実に拒否すると述べました。監査。

「新しいシステムをリリースする前に、OpenAI は広範なテストを実施し、外部の専門家を雇って詳細なレビューと独立した監査を実施し、モデルの動作を改善し、強力なセキュリティと監視システムを実装します。」

#「GPT-4 をリリースする前に、私たちは 6 か月以上をかけて広範な評価、外部のレッドチーム編成、および危険な能力のテストを実施しました。」

そして先月、ChatGPT ユーザーはチャット記録をオフにして、個人データが AI モデルのトレーニングに使用されるのを防ぐことができました。

しかし、「華点」を発見した洞察力の鋭い人々もいます。アルトマン氏の提案には、世間で激しく議論されている 2 つの点は含まれていません。

1. AI モデルにトレーニング データのソースを開示するよう要求します。

2. AI モデルが知的財産権で保護された作品を学習に使用することは禁止されています。

つまり、アルトマンはこれら 2 つの物議を醸す点を非常に巧妙に避けました。

議員らはアルトマン氏のAI安全ルール提案を称賛し、時折彼の証言に感謝してきた。アルトマン上院議員（共和党、ルイジアナ州）は、アルトマン氏に連絡を取って、議会が設立した規制当局で働くことに興味がないか尋ねさえした。

議会は人工知能を規制することを決意しており、初期の兆候があります。今月初め、アルトマン氏はグーグル、マイクロソフト、エヌビディアの最高経営責任者（CEO）とともにホワイトハウスでカマラ・ハリス副大統領と会談し、責任あるAIの開発について話し合った。

ホワイトハウスは昨年の初めに、差別の防止などさまざまな要件を業界に提示する「人工知能権利章典」を提案しました。

原爆と比較して、国際原子力機関に似た国際機関を設立することが推奨されます

上院議員は AI の比較を提案しました原爆に。

アルトマンは、核兵器を規制する世界中の政府の慣行に言及し、業界のための世界的なルールを策定するために国際原子力機関に似た機関を設立するという考えを提案しました。

OpenAI は今後 6 か月間 GPT-5 をトレーニングしません

4 月の第 2 ラウンドの Lex Fridman とのインタビューで、Sam Altman は次のように決定的に言いました。 「私たちは現在 GPT-5 のトレーニングを行っていません。GPT-4 に基づいてさらなる作業を行っているだけです。」

この公聴会で、アルトマン氏は、OpenAI には今後 6 か月以内に GPT-5 となる可能性のある新しいモデルをトレーニングする計画はないことを直接認めました。

そして、これは、今年後半に Google がこれまでで最も強力な人工知能システム、Project Gemini を導入することを意味するはずです。

Gemini はストレージやスケジューリングなど将来のイノベーションを見据えて設計されていると言われており、最初からマルチモーダルなだけでなく、ツールや API の統合も非常に効率的です。現在、新しく設立された Google Deepmind チームによって開発されています。

マーカス氏：OpenAIは全人類のためだと主張しているが、データは透明ではない

ニューヨーク大学の心理学・神経科学教授ゲイリー・マーカス氏も登場証言台で。

彼は国会議員よりもさらに攻撃的です。

サム・アルトマンに対する彼の質問は「致命的」と言えるでしょう。

OpenAI 設立の目的は全人類の利益ではないでしょうか? なぜ今、マイクロソフトと提携に走るのでしょうか?

OpenAI はオープンではなく、GPT-4 のトレーニング データは透明ではありません。これは何を意味しますか?

Marcus 氏は次のように結論付けました。私たちは前例のない機会に恵まれていますが、企業の無責任、広範な展開の悲惨なリスクにも直面しています。 、適切な規制の欠如、信頼性の低さ

Marcus の見解では、Open と Microsoft はどちらも非常に間違ったことを行っています。

Microsoft の Bing AI Sydney はかつて、一連の衝撃的な動作を示しました。

「シドニーには大きな問題があります。私だったらすぐに市場から外すでしょうが、マイクロソフトはそうしませんでした。」

Marcus 氏は、この事件は自分への警鐘であると述べました。OpenAI のような非営利団体でさえ、大企業に買収され、その後はやりたいことが何でもできるのです。

しかし現在、人々の見方や生活は AI によって微妙に形作られ、変化しつつあります。誰かが意図的に AI テクノロジーを悪い目的に使用したらどうなるでしょうか?

マーカスはこのことをとても心配していました。

「テクノクラートと寡頭制を組み合わせれば、少数の企業が人々の信念に影響を与えることができる。そこにこそ本当の意味がある」リスクには嘘がある…私たちも知らないデータを使って少数のプレイヤーにこれをやらせるのは怖い」

アルトマン氏は、AIコミュニティには独占はないと述べた

いくつかの一般的な法律および規制の問題に関して、アルトマンがすでに計画を念頭に置き、上院議員に対して明確な取り決めを行っていることがわかります。

上院議員は、人工知能に関する「最大の懸念」の一つは「この大規模な企業独占」であると述べた。

彼は、OpenAI とテクノロジー大手 Microsoft とのコラボレーションを例として挙げました。

アルトマン氏は、大型モデルを製造できる企業の数は比較的少ないため、規制が容易になる可能性があると考えていると述べた。

たとえば、大規模な生成 AI を製造できるのは少数の企業だけですが、競争は常に存在します。

大型モデルに対する法的責任の確立

ソーシャル メディアの台頭は、1996 年に米国議会で可決された第 230 条によって促進されました。ウェブサイト ユーザーの投稿に対する責任を免除します。

アルトマン氏は、大規模モデルは現時点では第 230 条によって保護される方法がないと考えています。大規模モデルが出力するコンテンツに対する法的責任から保護するために、新しい法律を制定する必要があります。

最も致命的な質問を賢明に回避#​​

##アルトマン氏は当初、「AIは最も深刻な結果を引き起こす可能性がある」という上院議員の提案を避けた。

しかし、マーカスがアルトマンが質問に答えていないことを友好的に思い出させた後、上院議員は質問を繰り返した。

アルトマンは最終的にこの質問に直接答えなかった。

彼は、OpenAI は人工知能のリスクについて非常に明確にしようと努めてきたと述べました。 「さまざまな方法で」「世界に重大な害」を引き起こしている。

彼は再び明らかにした。この問題に対処することが、OpenAI が設立された理由です。 「もしこのテクノロジーで何か問題が起こった場合、それはひどく間違った方向に進む可能性があります。」

実際、今年初めの「StrictlyVC」とのインタビューでアルトマン氏は、人類の絶滅が最も深刻であると述べた。深刻な問題です。悪い状況です。

最終的にはマーカスもウルトラマンに対して態度が軟化したようです。

公聴会の終わり頃、アルトマンの隣に座っていたマーカスは、「彼が恐怖について語った誠実さは明白であったため、テレビ画面を通しては反映されなかった」と語った。

経験豊富なテクノロジーリーダー

シャオ・ザーと比較して、今回の公聴会でのアルトマンのパフォーマンスは非常に洗練されていました。彼はきっと優れた人物になると思います。彼はすでに政治家との付き合いに慣れている。結局のところ、アルトマンは何年も前にカリフォルニア州知事に立候補することを検討していた人でした。

そして、公聴会に行く前にすでにデータのプライバシーと通貨のせいで「多くの問題を抱えていた」シャオ・ザー氏と比較して、アルトマン氏の背後にあるOpenAIは、ほとんど何も得ていないだけでなく、世間の批判もあるが、それは現在のAI「すべてのことが起こる」という状況の主な創始者でもある。

最初から好意を示しAI規制を訴えたアルトマンに対し、ほぼ全員が「技術の素人」である議員たちは、国民の前では自然と優しい表情を浮かべるだろう。この「権威」にはたくさんの優しさがあります。

つまり、同じ状況では、アルトマンに対するプレッシャーはシャオ・ザーのプレッシャーと同じレベルではありません。

大規模モデルのビジネス モデル

上院はこの懸念を提起しています。インターネット ソーシャル プラットフォームと同様に、AI 製品が主に広告に基づいている場合, このビジネスモデルでは、操作的な製品設計や中毒性のあるアルゴリズムの悪用が可能になります。

アルトマン氏は、サブスクリプションモデルが「本当に気に入っている」と語った。

しかし、OpenAI は、無料ユーザーから収益を得るために、ChatGPT の無料版で広告を掲載する可能性を検討しました。

以上がChatGPT の父が国会議事堂で議論しています! OpenAIは政府と協力して権力を掌握したいと考えているの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。