生成型 AI イノベーション セキュリティ システムを構築する、Amazon の最高セキュリティ責任者が教える 3 つのヒント

Amazon クラウド テクノロジーは世界中に何百万もの顧客を抱えており、毎日数十億のイベントを追跡しているため、Amazon クラウド テクノロジーはより多くのセキュリティ脅威を検出できます。

2019 年、Amazon クラウド テクノロジー最高セキュリティ責任者の Steve Schmidt は、クラウド セキュリティの問題に焦点を当てた最初のカンファレンスである Amazon クラウド テクノロジー re:Inforce の開始を正式に発表しました。このカンファレンスは現在 5 回開催されています。クラウドセキュリティのベンチマーク。

スティーブ シュミットは、2010 年に Amazon に入社し、Amazon クラウド テクノロジーの最高情報セキュリティ責任者を 12 年間務め、2022 年からは Amazon の最高セキュリティ責任者を務めています。最近、生成型 AI 時代の企業セキュリティについてウォール ストリート ジャーナルのインタビューを受けました。

Steve Schmidt 氏は、セキュリティ チームの仕事は、企業が AI などの革新的なテクノロジのメリットとリスク、およびそれを使用して企業のセキュリティ効率を向上させる方法を理解できるように支援することであると述べました。

Amazon クラウド テクノロジー最高セキュリティ責任者 Steve Schmidt

生成 AI セキュリティ、企業は 3 つの質問をする必要がある

Steve Schmidt 氏は次のように考えています。機能型 AI のセキュリティについて話したり、機能型 AI を使用したりする企業は、次の 3 つの質問を自問する必要があります。AI は悪用、ハッキング、改ざんされる可能性があるのか​​?

まず、データはどこにあるのでしょうか?

企業は、データを使用したモデルのトレーニングのワークフロー全体、データの出所、データの処理と保護の方法を理解する必要があります。

第二に、クエリと関連データはどうなるでしょうか?

企業が注意を払う必要がある機密データセットはトレーニング データだけではありません。企業とそのユーザーが生成 AI と大規模な言語モデルを使い始めると、より多くのクエリを作成する方法をすぐに学ぶことになります。効果的。さらに詳細と特定の要件がクエリに追加され、より良い結果が得られます。クエリに生成 AI を使用する企業は、生成 AI がモデルへのデータ入力とクエリ結果をどのように処理するかを明確に理解する必要があります。エンタープライズ クエリ自体も機密性が高いため、データ保護計画の一部として含める必要があります。

第三に、生成 AI モデルの出力は十分に正確ですか?

安全性の観点から見ると、生成 AI の使用シナリオによってリスクが定義され、シナリオが異なれば精度要件も異なります。大規模な言語モデルを使用してカスタム コードを生成している場合は、コードが適切に記述されていること、ベスト プラクティスに従っていることなどを確認する必要があります。

スティーブ スミス氏は、生成 AI を使用する際のセキュリティ問題を理解した後、生成 AI を使用して革新するための 3 つのセキュリティに関する提案も行いました。

まず、セキュリティ チームは、「ノー」にするのは簡単だと言いました。 , しかし、それは正しいことではありません。 人工知能を安全に使用できるように、人工知能の使用に関する会社のポリシーを理解できるように社内スタッフをトレーニングします。会社の AI 使用ポリシーと一致する方法を使用するように従業員に指導します。セキュリティ チームが「ノー」と言うのは簡単ですが、すべてのビジネス チームや開発者などがセキュリティ チームを回避することも同様に簡単です。

2 つ目は、可視性です。 企業には、従業員がデータをどのように使用しているかを理解し、業務要件以外のデータへのアクセスを制限し、従業員がこのデータにアクセスするために外部サービスをどのように使用しているかを監視するための可視化ツールが必要です。業務外の機密データへのアクセスなど、ポリシーへの違反が見つかった場合、この動作は停止されます。また、従業員が使用しているデータの機密性は低いものの、ポリシーに違反する可能性がある場合には、従業員に積極的に連絡を取り、真の目的を理解して解決策を模索します。

3 番目に、メカニズムを通じて問題を解決します。 メカニズムは、企業が特定の行動を長期にわたって正確に推進できるようにする再利用可能なツールです。たとえば、従業員が規制に違反して業務を行った場合、システムはポップアップ ウィンドウを通じて従業員に指示を出し、特定の社内ツールの使用を推奨し、関連する問題を報告します。

セキュリティ サービス向けの生成 AI 機能の提供

安全性は常に Amazon クラウド テクノロジーの最優先事項であり、Steve Schmidt は Amazon のセキュリティ文化の実践者および提唱者の 1 人でもあります。

「セキュリティ チームは、すぐに使える生成 AI アプリケーションを使用して、コード段階からセキュリティ業界のアップグレードを促進する必要があります。これは、Amazon を含むどの企業にも当てはまります。これは、生成に関する Steve Schmidt の提案です。」あい。

生成 AI を使用して安全なコードの記述を改善すると、効果的に業界全体をより高いレベルのセキュリティ分野に押し上げることができるからです。

Amazon CodeWhisperer コードアシスタントと新しい生成 AI アシスタント Amazon Q はどちらも、企業がより良いコードを生成したり、ソフトウェアエンジニアがコードを作成するときに直接提案を提供したりするのに役立ちます。

Amazon CodeWhisperer は、セキュリティ スキャン機能が組み込まれた AI コーディング アシスタントで、開発者がアノテーションに基づいてコードを生成し、オープンソース参照を追跡し、脆弱性をスキャンするのに役立ちます。個人の開発者は無料です。また、企業が CodeWhisperer を企業の内部コード ストレージに安全に接続して、CodeWhisperer の有効性を向上させ、開発タスクの完了を迅速化できるカスタマイズ機能も提供します。

Amazon Q は、Amazon CodeWhisperer で開発者からのさまざまなコード関連の質問に回答し、ワンクリックで実装できるコードを添付し、開発者がアプリケーションのメンテナンスとアップグレードを大幅に削減できるコード変換機能を提供します。必要な時間は数日から数分までです。

同時に、Amazon Cloud Technology 2023 re:Invent Global Conference で、Amazon Cloud Technology は生成 AI 機能を備えたセキュリティ サービス機能も発表しました。

Amazon Inspector の Amazon Lambda 関数コード スキャン機能は、生成 AI と自動推​​論を利用してコードを修正できるようになりました。以前のスキャン機能では、問題のあるコードの場所、潜在的な影響、および推奨事項が強調表示されていましたが、生成 AI では、複数のクラスの脆弱性に対してコンテキストに関連したコード パッチを作成することもできるようになりました。開発者は検証やコード置換などの操作を迅速に実行して、問題を迅速かつ効果的に解決できます。

Amazon Detective は、生成 AI を使用して検出グループの概要を提供できるようになりました。これにより、検出グループが自動的に分析され、自然言語で洞察が提供され、セキュリティ調査が迅速化されます。 Amazon Detective サービスの目的は、ユーザーが潜在的なセキュリティ問題や不審なアクティビティの根本原因を簡単に分析、調査し、迅速に特定できるようにすることです。新しい生成 AI 機能により、特定のユーザーに、より広範なセキュリティの観点とより多くのセキュリティ知識を提供できます。

最近、Amazon Cloud Technology と NVIDIA は、最新の共同リリースの中で、GB200 が Amazon Nitro システムの強化されたセキュリティの恩恵を受け、クライアントおよびクラウドでの処理中に顧客のコードとデータを完全に保護することにも言及しました。安全性。

Steve Schmidt 氏は、セキュリティ チーム自体が何をしたいかではなく、顧客チームや社内チームが目標に向かって前進できるよう常に支援できるようにすることが重要であると述べました。

以上が生成型 AI イノベーション セキュリティ システムを構築する、Amazon の最高セキュリティ責任者が教える 3 つのヒントの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。