AI ハッカーについて心配し始める時期が来たのでしょうか?

AI 攻撃は、まずターゲットを特定し、フィードバックを得て継続的に最適化および改善します。ある日、AI が全く新しいソリューションを開発したり、ソリューションの最適化を開始したりできれば、その致死性は非常に大きなものになるでしょう。

システムの曖昧さが AI ハッカーに対する現在の障壁となっています

囲碁のようなゲームでは、ルール、目標、フィードバックはすべてシンプルかつ確実です。状況を混乱させる外部的なものは何もなく、負けるか勝ったかはフィードバックです。 GPT-3 AI が住む世界はテキストだけであるため、一貫した記事を書くことができます。このため、現在のハッカーの報奨活動の多くは、すべて人工的ですべてが制約され、すべてのルールが AI 用に準備されたシミュレートされた環境で行われています。

システムのあいまいさが鍵です。税法には納税額を決定するための計算式があるため、世界のすべての税法を AI に入力できます。それでも、どんな法律にも曖昧さはあります。ブラーをコードに変換するのは難しく、AI が処理するのは困難です。したがって、たとえAIが導入されても、近い将来、依然として多くの税務弁護士が必要となるでしょう。

人間のシステムのほとんどはもっと曖昧です。 AI を使用して現実世界のスポーツ ゲーム (ホッケー ゲームなど) をハッキングできる可能性はありますか?難しいですね。 AI はゲームのルールを理解する必要がありますが、それだけでは十分ではなく、人間の生理学、クラブやボールの空気力学なども理解する必要があります。もちろん絶対に不可能とは言えませんが、囲碁を扱うよりもはるかに難しいのは間違いありません。

短期的には、社会システムが非常に複雑で曖昧であるからこそ、AI ハッカーに対するシステムの防御が強化されます。今後、AIスポーツハッカーが現れる可能性は低いでしょう。ロボットが実際に試合に参加したり、いつかAIが進化して広大な世界をあらゆる次元から理解できるようになったら、AIスポーツハッカーが生まれるかもしれない。

同様に、カジノ AI ハッカーや法的手続き AI ハッカーの開発は簡単ではありません。 AIが個人や集団の仕事をシミュレーションするには長い時間がかかるが、当面は不可能だ。

しかし、AI の非線形進化能力を過小評価しないでください。

世界には AI ハッカーが溢れています。これは SF の問題ですが、愚かな SF の問題ではありません。 AIは急速に進歩していますが、その進歩は不安定で一貫性がありません。難しいと思っていた問題が簡単だったり、簡単だと思っていた問題が難しかったりすることもあります。数十年前、私たちは AI を笑いながら、囲碁が複雑すぎるため、AI が囲碁を征服するのは不可能だと考えていたかもしれません。ルールが複雑だからではなく、可能な手が多すぎるからです。今は何ですか？ AIはすでに囲碁に勝った。

したがって、AI ハッカーの問題について事前に考え、早めに計画を立てる必要があります。

まず、金融システムのルールはアルゴリズムによって簡単に悪用されてしまうため、私たちが注意すべきは金融システムにおけるAIハッカーかもしれません。高頻度取引アルゴリズムはその好例であり、将来的にはより複雑になるでしょう。 AI にリアルタイムの世界的な金融情報を提供し、世界的な法律や規制を追加し、ニュース情報やその他の関連情報を追加して、「最大の法的利益」または「可能な限り最大の利益の獲得」を追求する目標を達成するために AI を割り当てることができます。 "。 利益"。その際、人知を超えたハッキン​​グ行為が行われる可能性があり、人間はハッキング行為が行われたことに気付かないことになります。もちろん、そのようなことは今では少し遠いことのように思えます。

短期的には、AI が人間と協力してハッキング攻撃を完了する可能性があります。 AI は抜け穴を見つけることができ、経験豊富な会計士や税務弁護士が協力して豊富な経験を活用して、抜け穴を悪用して利益を得ることができるかどうかを判断できます。

成熟した AI ハッカーの致死性は計り知れません

人類の歴史を通じて、ハッカー攻撃は一般に人間の行為です。 AIが攻撃を始めればすべてが変わる。 AIは人間のように特定の手法に限定されることも、多くの制約を受けることもありません。 AIはまったく休むことがなく、宇宙人のように考え、人間が予測できない方法でシステムをハッキングする可能性があります。

コンピュータは、速度、規模、範囲、複雑さの 4 つの側面で攻撃を強化します。 AIは攻撃力を何倍にも高めることができます。

速度: 人間が攻撃を開始するまでに数か月、場合によっては数年かかる場合もありますが、AI はその必要がなく、数日、数時間、場合によっては数秒かかる場合もあります。たとえば、米国の税法全体を AI に入力し、誰かの税金を最小限に抑える計画を見つけるように指示したらどうなるでしょうか?多国籍企業の場合、AI を使用して世界の税法を分析し、企業の税金を軽減することができます。

規模: AI が脆弱性を発見すると、それを非常に大規模に悪用する可能性があります。 AI が金融システムに侵入し始めると、AI は業界全体を支配することになります。そのとき、信用市場、税法、一般法はすべて富裕層に有利に傾く可能性があります。 AIは不平等を悪化させるだろう。最初の AI 金融ハッカーは、平等を追求する研究者によって開発されたのではなく、多国籍銀行、ヘッジファンド、経営コンサルタントによって開発された可能性があります。

対象範囲: 社会はハッカーに対処する計画を持っていますが、主に人間のハッカーと人間のスピードでの攻撃に対処します。 AI が税法の何百もの抜け穴をすぐに見つけられるとしたら、国はどうやってそれに対処できるのでしょうか? 税法の改正のスピードにはまったく追いつきません。

複雑さ: AI の助けを借りて、人間のハッカーは、人間の支援なしでは理解できないレベルを超える複雑な攻撃を仕掛けることができます。 AI の高度な統計分析により、変数間の関係が明らかになり、優れた戦略家や専門家でさえ気づいていない隠れた脆弱性を見つけることができます。

AIが超高速、超大規模、超広範囲、超高度な複雑性で攻撃を仕掛けてきた場合、社会はまったく対処できなくなる可能性があります。 AIは人間の限界を突破し、社会を支配するようになるのだろうか？ AI研究者の中には確かに懸念している人もいる。今となっては憶測のように聞こえますが、人類にとって早期の予防は依然として必要です。 (シャオ・ゲー)

以上がAI ハッカーについて心配し始める時期が来たのでしょうか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。