ホームページ >テクノロジー周辺機器 >AI >OpenAI は、ChatGPT の欠陥報告に対する賞金稼ぎを募集するために 20,000 ドルの報奨金を設定しています。
OpenAI は、ChatGPT の欠陥報告に対する賞金稼ぎを募集するために 20,000 ドルの報奨金を設定しています。
- 王林転載
- 2023-04-23 21:52:06746ブラウズ
ビッグデータ ダイジェストの生成
##昨日、OpenAI は報奨金プランの開始を発表しました。 ChatGPT によってもたらされる増大するサイバーセキュリティ リスクへの対処を支援します。
この「バウンティ ハンター プログラム」は、OpenAI システムの脆弱性を報告するためにさまざまな独立した研究者を招待します。脆弱性の重大度に応じて、200 ドルから 20,000 ドルの金銭的報酬を受け取ります。
このプロジェクトは、クラウドソーシングのサイバーセキュリティ企業 BugCrowd と提携して実施されており、OpenAI はこれが同社の「開発への取り組み」であると述べています。安全で先進的な人工知能」。
したがって、ChatGPT でチャットするプロセスで抜け穴を見つけた場合 (たとえば、それは次の時点で破棄されます)毎ターン) あなたが人間の場合は、時間内に報告する必要があります。脆弱性の発見に協力できれば、賞金を受け取ることができます。
ChatGPT の誕生以来、人々はこの種の人工知能システムの脆弱性についてますます懸念するようになりました。 AI サイバーセキュリティ会社 Dark Trace によると、研究者らは、ChatGPT の開始と一致する 1 月から 2 月にかけて、AI を使用したソーシャル エンジニアリング攻撃が 135% 増加したことを発見しました。
ChatGPT、特に新しくリリースされた ChatGPT 4.0 の出現により、ネットワーク攻撃のしきい値が確実に下がりました。
ChatGPT 4.0 のリリースからわずか数日後、ワシントン大学コンピューター サイエンスの学生 Alex Albert は、ChatGPT 4.0 を超越する方法を見つけました。セキュリティメカニズム。 Twitterに投稿されたデモの中で、アルバート氏は、GPT-4がテキストを解釈して応答する方法の脆弱性を利用して、ユーザーがGPT-4にコンピュータをハッキングするための命令を生成する方法を示した。 ＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃ ＃これ報奨金プログラムは、この一連のセキュリティ問題によって引き起こされた広範な懸念に対処するために設計されており、以前、Rez0 という名前のセキュリティ研究者が脆弱性を悪用して ChatGPT の API を攻撃し、80 以上の秘密のプラグインを発見したとされています。
これらの論争を踏まえ、OpenAI は、研究者に対し、解決可能な脆弱性を報告するよう奨励するためにこの報奨金を立ち上げました。同社の製品エコシステムには AI の欠陥がある一方で、生成型 AI によってもたらされるセキュリティ リスクに誠実に対処する組織として自社を位置づけています。
専門家: 「報奨金プログラム」の効果は限定的
##OpenAI の計画は一部の専門家に歓迎されていますが、この報奨金プログラムでは、ますます高度化する人工知能テクノロジーによってもたらされる課題に完全に対処できる可能性は低いと言う人もいます。サイバーセキュリティのリスクについて。
専門家は、OpenAI の報奨金プログラムが対処する脅威の範囲は非常に限られていると考えています。たとえば、報奨金プログラムの公式ページには次のように記載されています。「デモンストレーションのプロンプトと応答コンテンツに関連する問題は厳密に対象外であり、対象範囲内のサービスに対して追加の直接検証可能なセキュリティ上の影響がない限り、報奨金は支払われません。」
関連レポート:
https://www.php.cn/link/3e9928ece00c78dc7777c644f68d3956
# https://www.php.cn/link/52ff52aa56d10a1287274ecf02dccb5f
以上がOpenAI は、ChatGPT の欠陥報告に対する賞金稼ぎを募集するために 20,000 ドルの報奨金を設定しています。の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。