Hu Yong 氏との会話: ChatGPT の影響は iPhone の影響に匹敵し、私たちが最も懸念しているのは AI の兵器化です丨第 29 号を参照

丨強調

1. iPhone では、テクノロジーに習熟していない人でも簡単に始めることができ、アプリ ストア モデルの完全なセットが開発されています。この点で、ChatGPT は Apple の iPhone の発売と非常によく似ています。

2. ChatGPT が人気があるのは、多くの実用的な機能を備えているだけでなく、非常に人間に似ているためでもあります。テクノロジーに明らかな人間的特徴があると、人々はテクノロジーを好むようになります。

3. 擬人化された人工知能は、私たちが他の人工知能の道に進むことを妨げます. 人工知能の開発の方向性は、人間を模倣するのではなく、人間のさまざまな能力を強化することであり、業界が大規模なモデルを収集することはお勧めできません;

4. 何らかの世界的な規制がなければ、人工知能の競争は止まらない、なぜならそれはビジネスロジックに基づいているからであるマスク氏らは開発を6か月間停止することを希望する公開書簡に署名したが、これは基本的に希望的観測にすぎない。 ## ＃＃＃＃５. 長期的かつより憂慮すべき問題は、人工知能を兵器に適用して兵器を自動化し、大量破壊能力を達成することです。

組織 / 趙陽波

丨概要

2022 年 11 月、OpenAI は生成事前トレーニング モデル ChatGPT-3.5 を正式にリリースし、わずか 5 日間で 100 万人のユーザーを獲得し、今年 1 月末にはユーザー数が 1 億人を超え、世界の 1 つとなりました。近年のテクノロジーインターネット業界で最も人気のあるモデルの中で、最も代表的な「驚異的」製品が登場します。

今年の3月、OpenAIは鉄が熱いうちにChatGPT-4を発表し、このときGoogle、Baidu、Alibabaなど多くの中国インターネット企業が解雇され、「100モデルの戦い」ブームが巻き起こりました。

ChatGPT の人気には、注目に値する多くの疑問が残されています。なぜ OpenAI のようなチームから生まれたのですか? OpenAI は、2 か月で 1 億ユーザーを達成するためにどのような成長の魔法を使用していますか? その成長は道です再現可能で、どれくらい持続するのでしょうか? それとも、単なる一瞬で終わるのでしょうか?

北京大学ジャーナリズム・コミュニケーション学院教授の胡勇氏は、ChatGPTが世界中で引き起こした人工知能の波により、AI業界での「軍拡競争」が始まったと考えている。監督がいる限り、競争は決して止まらないかもしれません。

激化する「100 モデルの戦い」に応えて、Hu Yong 教授は、業界が大型モデル以外の可能性を模索するよう試みるよう提案しました。「大型モデルは良いことですが、それだけが人工知能開発の唯一の道ではありません「すべてのリソースを 1 つの側面に集中させることで、成功への選択肢はたくさんあります。」と彼は強調しました。

01

AI の「iPhone モーメント」

Liu Xingliang: Microsoft の創設者である Bill Gates は、ChatGPT は PC やインターネットの誕生と同じくらい重要であると述べましたが、この説明は正確ですか?

Hu Yong:

本質に立ち返ると、ChatGPT は実際には製品です。 ChatGPT がなぜこれほど人気が​​あるのか​​を製品の観点から説明します。

過去 30 年間に多くのハイテク製品が登場しましたが、テクノロジー業界を真に破壊する能力を持つ製品は、「Netscape Navigator」ブラウザ、Google 検索、iPhone の 3 つだけだと思います。

Netscape ブラウザ、ソース: Network

1 つ目は Netscape の「Netscape Navigator」ブラウザです。このブラウザがなければ World Wide Web は存在しません。2 つ目は、PC インターネット時代全体に大きな影響を与えた Google の検索エンジンです。3 つ目は iPhone、 iPhoneの誕生がもたらした大きな衝撃を人々は「iPhoneモーメント」とも呼びます。これら 3 つの製品の登場は業界全体の発展を促進し、ユーザーの促進にも重要な役割を果たしました。

ChatGPT の出現は、AI バージョンの「iPhone モーメント」と比較されており、ChatGPT がいかに破壊的であるかを示しています。

iPhone が登場する以前、携帯電話の主流は Nokia と Motorola であり、そのインターフェイスは iPhone とはまったく異なりました。 iPhone は、テクノロジーに詳しくない人でも簡単に始められるようにし、マルチタッチ テクノロジーを導入し、アプリ ストア モデル全体を開発しました。それ以来、誰もが携帯電話を使い始め、今日では私たちがある程度携帯電話と切り離せないものになったのは、すべて Apple のおかげです。

ChatGPT この時点では、Apple の iPhone の出現と非常に似ています。

なぜそれを「iPhone モーメント」と比較するのでしょうか? ChatGPT は、人工知能について何も知らない人に「人工知能とは何か」を示します。これまで人工知能について聞いたことがなく、何ができるのか分からなかったとしても、ChatGPT は、これが人工知能であり、これらのことができることを教えてくれます。

Liu Xingliang: ChatGPT はパンデミック後の私たちのライフスタイルをどのように変えますか?

Hu Yong: 最初の変更点は、シンプルで使いやすいインターフェースです。このようなインターフェースがなければ、始めることはできません。使い始めると、それを何に使いたいのかを考えなければなりませんが、「何をするか」は実際に現実の生活の変化に対応します。

ChatGPT は人気のソーシャル メディア投稿で、どんな仕事にも挑戦できる全能の男として説明されていることがわかりました。

わかりやすい例を挙げると、たとえば、あるシナリオでは、男の子がチャットボットに「ガールフレンドが不安だ」というリクエストをしました。彼女の感情を和らげるために適切な言葉遣いで文章を書くのをロボットが手伝ってくれれば、人工知能がこの要求を即座に実行できるようになるだろうと彼は望んでいる。

さまざまな推奨アルゴリズムは本質的には人工知能です。例えば、車を運転するときに地図を使えば最適なルートを計算してくれるし、これも人工知能の応用で、タクシーを呼んでくれることもありますが、ユーザーはまだそれを感じ取っていません。しかし、ChatGPT は人工知能に対する認識を一般の人々に押し広げました。

Liu Xingliang: 人工知能が将来どのような開発傾向と応用シナリオを持つ可能性があるかを予測しますか?

胡勇: 人工知能は現在のハイテク産業の目覚めを表しており、本質的にハイテク産業の重要な成果であり、他の産業を目覚めさせています。

次に何が起こるかというと、すべてのクラウド会社やソフトウェア会社が自問することになると思います。人工知能のこの段階までの発展は、私たちにとって何を意味するのでしょうか?これが起業家精神の新たな波を引き起こし、何百ものスタートアップが誕生しています。

同時に、生成人工知能を使って構築された驚くべき応用例も見てきました。現在画像生成として知られているものもその 1 つです。

AI 生成ロボット雑誌の表紙、出典: Midjourney

さらに、もう一つ重要な点は、ハイテク分野の領域が塗り替えられる可能性があることだと思いますが、最も注目を集めているのはGoogleです。

Google はインターネット業界で最も収益性の高い事業である検索エンジンを所有していますが、人工知能の出現は検索に対する人々の期待を完全に変え、検索を熾烈な競争分野にする可能性がありますが、誰も考えなかったいくつかの問題も引き起こすでしょう -ユーザーは検索エンジンを使用して Web サイトから回答を取得し、人工知能はこれらの Web サイトにトラフィックを送信せずに、取得したコンテンツをダイアログ ボックスに直接表示します。

トラフィックがなければ、Web サイトはどのようにして収入を得るのでしょうか?

広告収入が失われれば、これらのウェブサイトは縮小して閉鎖される可能性がありますが、これらのウェブサイトが消えてしまったら、人工知能のための情報はどこから来るのでしょうか？

これは、私たちの元のネットワーク エコシステムにある種の不均衡を引き起こす可能性があると思います。つまり、私たちは今、自問する必要があるかもしれません。「インターネットは終わりを迎えたのか?」

02

ChatGPT が人気があるのは、ますます人間らしくなっているためです。

Liu Xingliang: ChatGPT は一夜にして一般の人々の家庭に飛び込み、3 月にはユーザー数が 1 億人を超え、史上最速でユーザー数が 1 億人を超えた製品となりました。その理由は何ですか?

胡勇:人工知能の擬人化が重要な理由だと思いますが、人工知能とチャットするとき、自分が生身の人間とチャットしているのか、ロボットとチャットしているのか疑問に思わずにはいられません。これは実際には古典的な「チューリング テスト」ですが、ChatGPT の起動のおかげで、「チューリング テスト」が実現されたと言えます。

元の質問を使用して ChatGPT をテストすることは、現時点ではそれほど価値がないかもしれません。チャットボットにはメモリがあり、以前の会話スレッドを思い出すことができるためです。

Microsoft の Bing チャットボットなど、無数のユーザーのテスト結果によると、「新しい Bing」には記憶があるだけでなく、感情もあるようであることがわかりました。時には、いわゆる「チャットボックスから逃げたい」という話や、人間のユーザーと恋に落ちる話さえあります。

コピーの作成や履歴書の審査など、多くの実用的な機能に加えて、非常に人間らしいという非常に重要な機能も備えており、これが人々に愛される理由の説明になります。そんなに。

社会科学の研究によると、人々は人間と同じようにテクノロジーと対話することを強く好みます。明らかに人間的な性質を持っているテクノロジーほど、人はテクノロジーを好みます。たとえそれが間違いを犯したり、あなたを混乱させたり、あなたを侮辱したりしたとしても、機械的に正しい答えを与えるツールを望まないので、あなたはそれをより興味深いと感じるかもしれません。

厳密に言うと、これは私たちの脳の構造に関係しています。私たちは認知バイアスを持っており、人間の特質を目にする物体に帰することを非常に好みます。

ボストン・ダイナミクス社が公開した動画をご覧になったことがあるかと思いますが、エンジニアがロボットを激しく蹴り、観客の反応が「残酷だ」というもので、私たちがロボットに対して強い共感を持っていることがわかります。私たちは、いつかロボットが私たちに復讐するだろうとさえ想像しています。これは実際に人間と人間の特徴をロボットに投影し、より深いレベルで私たちの心理的ニーズを満たします。これは、この種の ChatGPT が人間の特性の現れであるため、なぜこれほど人気が​​あるのか​​を説明することもできます。

Liu Xingliang: ChatGPT のユーザー数は約 1 週間で 100 万人、2 か月で 1 億人を突破しましたが、インターネット業界ではこの概念は何ですか? その記録が破られる可能性はありますか?

Hu Yong: 最も直接的な比較は TikTok で、ユーザー数が 1 億人に達するまでに約 9 か月かかりました。もうひとつ印象深いのはインスタグラムで、同じユーザー数を獲得するのに2年以上かかったという、前代未聞の奇​​跡を起こしたと言えるでしょう。

今後「2ヶ月でユーザー数が1億人を超える」という現象が起こるかどうかは分かりませんが、コンシューマーレベルだけで見ればChatGPTがその分野を代表するものであることは間違いありませんキラーアプリケーションを発見した人工知能。

機械学習の大成功により、人工知能全体の開発の道は、数千の部隊を備えた大規模モデルの開発になるようです。私自身、この問題については懐疑的ですが、人工知能は必ずしもこの道だけを進むわけではないと考えています。

大規模モデルの大成功により、現在、中国や米国の大手テクノロジー企業を含む世界最大のテクノロジー プラットフォームが大規模言語モデルに賭けています。この道をたどれば、次のマイルストーンが現れるかもしれません。

人工知能に他の道があるのであれば、当然、他のキラー アプリケーションも他の道で開発される可能性がありますが、それはすべて、現在の大きなテクノロジー プラットフォーム全体の人的資源、物的資源、技術をどの方向に投資するかによって決まります。

03

大型モデルとの集合は推奨しません

Liu Xingliang: ChatGPT はますます人間らしくなっているので人気がありますが、ロボットを擬人化したくないと言っていましたが、これは矛盾していますか?

胡勇: 矛盾はありません。今日の人工知能はますます人間に似てきており、これは人工知能の現在の開発方向を指します。しかし、過度に擬人化したくないので、この方向性の開発には反対です。

これをより広範な議論で議論する場合、私たちは 2 つの観点を議論しているだけです。一方は人工知能が人類を確実に滅ぼすと信じており、もう一方は人工知能は人類を滅ぼさず、私たちに生命をもたらすだけであると信じています。より良い。

彼らがどの政党であっても、彼らの人工知能の行動予測は擬人化論理に基づいています。つまり、彼らは独自の文化的論理を人工知能に適用しています。

「人工知能が人類を滅ぼすかもしれない」という意見を支持する人は、汎用人工知能 (AGI) が権力を追求すると言いますが、その過程で人工知能自体も「なぜ常に人間によって制御されているのか」と疑問を抱くかもしれません。 「自律意識を持ち、自分で意思決定することは可能でしょうか？」

「人工知能は人間に影響を与えない」という見方を支持する反対側の人々は、アシモフの三原則を使用するのと同じように、人間の道徳規範を人工知能に植え付けることで、人工知能はその規範に従って行動すると信じるでしょう。ロボット工学の法則、人工知能がこれらの規則に従わなければならないと言われれば、人間に損害を与えることはありません。

問題は、擬人化人工知能の開発が他の人工知能へのアクセスを妨げることです。人工知能の発展の方向性は、人間を模倣するのではなく、人間のさまざまな能力を高めることにあると私は考えています。

たとえば、私たちの仕事や生活では、人間の自然な限界により、最善を尽くすことができないことがたくさんあります。現時点では、人型人工知能よりも強化された人工知能の方が有用であるため、人工知能の開発によって欠点を補うことが望まれます。

たとえば、スマートな高齢者ケア。マットレスにインテリジェントな機能を持たせたり、高齢者が転倒したときに転倒警告を発したり、薬を飲む必要があるときに高齢者に薬の服用を思い出させたりできます。これらは、必ずしもロボットを家庭に持ち込む必要がなくても、高齢化社会に移行するときに非常に役立つと思います。現在、業界は人類を助ける方向に向かっていますが、それだけでは十分ではありません。

現在、大規模言語モデルに注目が集まっていますが、大規模言語モデルが悪いと言っているわけではありませんが、それが人工知能の発展の唯一の道にはなってほしくなく、すべてのリソースが活用されるべきです。この側面に集中しないでください。

04

マスク氏の公開書簡は「愚かな夢」

Liu Xingliang: ChatGPT は現象になっていますが、この現象はいつまで続くのでしょうか?

胡勇:現状から判断すると、業界で「軍拡競争」と呼ばれる大型模型ブームが始まっています。

Google には常に大規模な言語モデルがあり、Transformer テクノロジーさえも Google によって発明されたことはわかっています。しかし、なぜ Google がこの競争の起爆剤になれなかったのかというと、Google のテクノロジーに十分な余力がないからではなく、主に Google が非常に慎重です。

//編集者注: 2017 年 6 月、Google Brain チームは、神経情報処理システム会議で「attention is all you need」というタイトルの論文を発表しました。これは、大規模言語モデルの先駆的な研究とみなされています。

対照的に、Microsoft は、このテクノロジーを Bing 検索エンジン、さらにはオフィス ソフトウェアにすぐに適用しました。これは、Microsoft 自体が OpenAI の重要な投資家であるためです。第 2 に、Microsoft の検索エンジンは世界市場シェアをわずかに占めており、Bing のシェアは 3% です。 Google が 90% 以上を占めているのに対し、Bing は Microsoft にとって「まったく無関心」な製品であるため、リスクを冒して大胆に Google を破壊してみてはいかがでしょうか。そこでGoogleは消極的な状況に陥り、対応を始め、この軍拡競争に参入した。

ChatGPT、Bard、Bing ソース: Network

コンテストはどれくらい続きますか?

この競争はビジネスロジックに基づいているため、何らかの世界的な規制がなければ止まらないと思います。

最近、マスク氏らは開発を 6 か月間停止することを希望する公開書簡に署名しましたが、この公開書簡は基本的には夢だと思います。なぜ彼らは6か月間停止することに全会一致で同意するのでしょうか？

企業の観点から見ても、巨大な利益やビジネス ニーズにより、特定の結果を無視する場合があります。たとえば、Microsoft などの企業は、まだ欠点があり、一般の人々がもっと忍耐強く、モデルを改善するためにより多くのデータを提供してくれることを期待するという免責事項を記載することになります。このようにして、これらの大手AI企業は巧妙に責任を回避している。

大規模モデルのガバナンスに関して、コンセンサスが形成されるには、世界中のすべての関係者が人工知能を規制する共通の方法を見つけるか、このテクノロジーが私たちにあまりにも大きな影響を与え、もうなくなってしまったと一般の人々が信じるかのどちらかです。大規模な失業を引き起こすなど、経済的範囲を超えた社会的反発が生じている。

これら 2 つのシナリオを超えて、現時点ではレースの終わりは見えず、レースは前に加速するだけです。

Liu Xingliang: AI が暴走し続けた場合、将来的にはどのような問題やリスクが生じるでしょうか?

胡勇:短期的には、比較的大きなリスクは大規模な人間の失業ですが、これは架空の問題ではありません。

たとえば、先ほどチャットしたときに、イラストが必要な場合、以前は著作権で保護された画像を探したり、イラストレーターを探して絵を描いてもらったりしていたと話しましたが、今では画像ジェネレーターを使用して画像を生成できるようになりました。このようなニーズを持つすべての人が画像ジェネレーターを使用すると、イラストレーターは市場を失うことになりますが、これはすでに明らかな傾向です。この問題は冗談ではなく、実際に多くの人が職を失う結果となるでしょう。

しかし、長期的でより懸念すべき問題は何でしょうか?次の焦点は主に自律型致死兵器にあると思います。

一言で言えば、人工知能を兵器に応用して自動化を実現するというもので、この大量破壊能力には倫理的制約がなく、無差別殺害も可能です。

例えば戦場では、相手が敵だとわかっていても、人間として、兵士として、他人の命を奪っていることを知って葛藤することがありますが、機械にはそれがありません。認識していれば、指示さえ与えれば実行される可能性があります。

現在の世界情勢によれば、私たちは依然としてさまざまな不平等や対立を抱えています。この場合、人工知能を兵器化することは十分に可能であり、ドローンを使って目標を正確に攻撃するなど、実際にすでに現実に起こっている。

「ターミネーター」のように、ロボットが人間に完全に取って代わり地球を支配するというシナリオは、今の私たちには想像しにくいですが、より現実的な問題としては、現在の世界は平和ではないので、どこかの国がこの技術を手に入れて、兵器への適用は深刻な結果をもたらすだろう。

自動運転を例に説明責任というと、交通事故が発生した場合、交通事故を引き起こした自動運転システムに責任があるのは当然です。しかし、厳密に言えば、自動運転車が大規模な交通事故を起こすことは難しく、例えば連続して複数の人をはねる可能性は非常に低いですが、自動殺人兵器が人の命を奪う可能性は十分にあります。一度にたくさんの人が。

最後に、今日人工知能について議論するときに最も重要な問題は、人工知能自体が私に与える影響を考えることではなく、私がどのような人間であるかを考えることだと思います。これを理解することによってのみ、私たちは人工知能の時代に生き残ることができ、唯一の可能性を見つけることができます。

以上がHu Yong 氏との会話: ChatGPT の影響は iPhone の影響に匹敵し、私たちが最も懸念しているのは AI の兵器化です丨第 29 号を参照の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。