AI の新たな世界の課題: セキュリティとプライバシーはどうなったのでしょうか?

生成 AI の急速な発展により、プライバシーとセキュリティに関して前例のない課題が生じ、規制介入が緊急に求められています。

先週、私はワシントン D.C. で一部の議員およびそのスタッフと AI のセキュリティ関連の影響について話し合う機会がありました。

今日の生成 AI は、基礎研究、潜在的な可能性、学術的用途を備えた 1980 年代後半のインターネットを思い出させますが、まだ一般公開の準備は整っていません。今回は、マイナーリーグのベンチャーキャピタルによって刺激され、Twitter のエコーチェンバーに触発された、野放しのベンダーの野心が、AI の「すばらしい新世界」を急速に前進させています。

「パブリック」基本モデルには欠陥があり、消費者および商業利用には適していません。プライバシーの抽象化が存在する場合、ふるいのように漏洩します。攻撃対象領域と脅威ベクトルはまだ理解されていないため、セキュリティ構造は重要です。幻のガードレールについては、あまり言わない方が良いでしょう。

では、どうやってここにたどり着いたのでしょうか？セキュリティとプライバシーはどうなったのでしょうか?

「妥協」の基本モデル

「オープン」モードには制限がある場合があります。さまざまなベンダーが、オープン モードの重み付け、ドキュメントへのアクセス、テストを通じて自社のオープン性の程度を宣伝しています。それでも、主要なベンダーは、モデルを複製して再現できるように、トレーニング データセットやそのマニフェスト、系統情報に近いものを提供していません。

1 つ以上のモデルを使用してデータセットをトレーニングしたい場合、消費者または組織として、知的財産や著作権などに関するデータ汚染の程度を検証または確認する能力はありません。 、または違法なコンテンツとして。

重要なのは、トレーニング データ セットのマニフェストがなければ、存在しない悪意のあるコンテンツを検証または確認する方法がありません。国の支援を受けた攻撃者を含む悪意のある攻撃者は、ネットワーク上にトロイの木馬のコンテンツを植え付け、モデルのトレーニング中に取り込まれると、推論中に予測できない潜在的に悪意のある副作用を引き起こします。

モデルが侵害されると、それを忘れさせる方法はなく、唯一の選択肢はモデルを破棄することであることに注意してください。

「蔓延する」セキュリティ問題

生成 AI モデルは、「すべての」データがコンテナーに取り込まれるため、究極の安全なハニーポットです。 AI 時代には、新しいカテゴリの攻撃ベクトルが出現していますが、業界はこれらのモデルがサイバー脅威からどのように保護されているか、また、これらのモデルがサイバー脅威アクターによってツールとしてどのように使用されるかの影響をまだ理解していません。

悪意のあるヒント挿入技術がインデックスを汚染するために使用される可能性があり、データ ポイズニングが重みを破損するために使用される可能性があり、反転技術を含む埋め込み攻撃が埋め込みから豊富なデータを抽出するために使用される可能性があり、メンバーシップ推論がデータが存在するかどうかを特定するために使用される可能性があります。トレーニングセットなどは氷山の一角にすぎません。

脅威アクターは、モデルの反転やプログラムによるクエリを通じて機密データにアクセスする可能性があり、モデルを破壊したり、モデルの基本的な動作に影響を与えたりする可能性があり、前述したように、大規模な制御されていないデータの取り込みにより、国家主導のサイバーに脅威が埋め込まれる可能性があります。トロイの木馬などのアクティビティ。

プライバシーの「漏洩」

AI モデルは、トレーニングに使用されたデータセットがあってこそ役に立ちます。無差別な大規模なデータの取り込みは、個人や一般の人々に前例のないプライバシー リスクをもたらします。 AI 時代において、プライバシーは社会的懸念となっており、主に個人データの権利に対処する規制は不十分です。

静的データに加えて、動的な会話のプロンプトも知的財産として保護および維持する必要があります。あなたがモデルを使用してアーティファクトを共同作成することに関与しているコンシューマである場合、この作成アクティビティをガイドするために使用するプロンプトがモデルのトレーニングに使用されたり、他のモデル コンシューマと共有されたりしないことを望んでいます。

あなたがビジネス成果を達成するためにこのモデルを使用している従業員である場合、雇用主はあなたのチップが機密であることを期待します。さらに、どちらかの当事者に責任問題が生じた場合に備えて、チップと回答には安全な監査証跡が必要です。これは主に、これらのモデルの確率的性質と、時間の経過に伴う応答の変化によるものです。

＃＃＃次は何が起こる？

私たちは、大規模な創発的および潜在的な動作を示すという点で、コンピューティングの歴史の中でもユニークな、前例のないテクノロジを扱っています。セキュリティ、プライバシー、機密保持のために過去に使用されていた方法は、もはや適切ではありません。

業界リーダーらは警戒を強め、規制当局や政策立案者は介入せざるを得なくなった。

以上がAI の新たな世界の課題: セキュリティとプライバシーはどうなったのでしょうか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。