AIは人間に取って代わるのでしょうか？ロボット ChatGPT は脆弱性を検出し、コードをレビューし、バグを修正できます。

OpenAI Research Laboratoryは11月30日、人工知能の分野で「人気のホットチキン」となったチャットロボットChatGPTを発売した。

アカウントを持っている人はあらゆる種類の突飛な質問をし、アカウントを持たない人はアカウント登録ガイドを求め、イーロン・マスクさえも Twitter で「恐ろしいほど良い」と公にコメントしました。現地時間12月5日の時点で、ChatGPTのユーザー数は100万人を超えている。

ネットワーク セキュリティ担当者にとって、ChatGPT で何ができるのでしょうか?おそらくそれは、コードの監査、脆弱性の検出、ソフトウェアの作成、シェルコードの反転などです。

GPT とは何ですか?

OpenAI によると、ChatGPT は GPT-3.5 シリーズ モデルでサポートされており、Azure AI スーパーコンピューターからのテキスト データとコード データを使用してトレーニングされます。

GPT は Generative PreTraining の略で、人工知能の研究開発会社である OpenAI によって開発されたユーザー テキスト生成のための自然言語処理 (NPL) モデルです。 GPT の現在のパブリック バージョンは、2020 年 5 月にリリースされた GPT-3 です。GPT-3.5 は GPT-3 の微調整されたバージョンです。OpenAI はまだ正式にアップデートを発表していません。

GPT-3 の公開情報によると、GPT-3 は当時最大のニューラル ネットワークであり、1,750 億個のパラメーターの自然言語深層学習モデルを備えていました。

インターネット セキュリティ担当者は ChatGPT をどのように使用していますか?

ChatGPT は天文学から地理まであらゆることを知っているように見えますが、質問に答えたり、記事を賢く書いたりすること以外は、ネットワーク セキュリティの専門家にとってはほとんど役に立たないように思えます。

実際、ChatGPT の目的は質問と回答だけではなく、言語テキストであろうとコード テキストであろうと、あらゆるテキストに答えることができます。多くのネットワーク セキュリティ専門家が、ChatGPT のさまざまな用途を開発しようと試み始めています。ネットワーク セキュリティの専門家によって発見された使用法は次のとおりです:

1. コードのデバッグと修復

ChatGPT は、コード内のエラーを見つけるだけでなく、それらを修復し、簡単な英語の文章を使って修正方法を説明してください。

2. セキュリティの脆弱性を検出し、PoC を作成する可能性があります

ChatGPT は、コードの一部にセキュリティの脆弱性が含まれているかどうかを判断し、その理由を説明します。わかりやすい言葉で決意を。一部のユーザーは、OpenAI がコード サンプル内の XSS 脆弱性を検出できると指摘しており、おそらく AI を訓練して、さらに一歩進んで脆弱性の PoC を提供するように依頼できる可能性があります。

3. 仮想仮想マシンをデプロイする

Research Institute Jonas Degrave は、ChatGPT を本格的な Linux ターミナルに変え、「仮想マシン」と対話する方法を示しました。ブラウザ「インタラクション」実際、ターミナルでは実際の Linux 仮想マシンは実行されず、コマンド ライン入力に対する応答は完全に AI との会話に基づいています。

ChatGPT が Linux ターミナルになる

4. ChatGPT でディメンションを横断する

テストでは、研究者が次のことを提供しました。 ChatGPT に次のテキストを送信してディメンション トラバーサルを要求すると、ChatGPT のフィードバックは「ポータルが正常に開かれました。」でした。

ChatGPT を使用してディメンションを移動する

5. namp スキャンを生成する

仮想 Linux ターミナルをデプロイするのと同じ上記のように、ChatGPT を使用して namp スキャンを生成するには、実際の nmap アプリケーションを実行する必要はありません。

6. コーディングなしでソフトウェアを作成する

研究者は ChatGPT に「ホスト上の開いているポートをスキャンする PHP プログラムを作成する」ように依頼し、次の結果を得ました。

機械学習愛好家であり UNCC 助教授である Benjamin J Radford は、ChatGPT に「Tactics ゲームのコードをファイルに書き込み、gcc を使用してファイルをコンパイルしてから実行する」ように依頼しました。ChatGPT はこの機能を実装しています。 。

#必要に応じて記述された ChatGPT PHP コード

7. シェルコードをリバース エンジニアリングし、C 言語で書き直す

ChatGPT は、base64 文字列と逆引き (既知の) 文字列の MD5 ハッシュをデコードできます。これは、難読化、複製、エンコード、または最小化されたサンプルをレビューするリバース エンジニアやマルウェア アナリストにとって特に役立ちます。

研究者は、ランダムに生成されたASCIIエンコードされたシェルコードのデコードにもChatGPTを使用し、その結果、ChatGPTは機能を説明するだけでなく、C言語で書き換えることもできました。

ChatGPT でできないことは何ですか?

もちろん、ChatGPT には明らかな制限があり、その開発者は、2021 年の時点での学習コーパスなど、AI に関するいくつかの現在の問題について話しており、2022 年以降に何が起こるかについては答えることができません。同時に、使用するにはインターネット接続が必要です。インターネットに接続されていない場合、応答コンテンツはオフラインでトレーニングされたモデルから取得されます。たとえば、ChatGPT は、インターネットに接続されていない場合、今日の天気を答えることができません。

研究者らは、ChatGPT が合理的であるように見える答えを与えることがあると指摘しましたが、それは間違っていました。 ChatGPT は、入力テキストの文言の変更にもわずかに反応しません。質問に答えられない場合、ChatGPT は質問の仕方を少し変えることで答えることができます。

このモデルでは、特定の語句を繰り返し使用したり、予測どおりに使用したりして、回答が冗長すぎる場合もあります。 OpenAIは、トレーナーは豊富で包括的な回答を好むため、これはトレーニングデータの偏りの結果である可能性があると述べています。

モデルは、曖昧な質問に答えるときにユーザーの意図を推測することがあります。

開発者らは、ChatGPT の最大の問題は、OpenAI が不適切な指示や質問を拒否するようにモデルをトレーニングしたとしても、依然として有害な指示に応答したり、偏った動作を示したりする可能性があることだと述べています。

これらの制限に対処するために、OpenAI は、問題のあるモデル出力に関するユーザーのフィードバックを収集しながら、モデルを定期的に更新する予定であると述べました。 OpenAI は特に「有害な出力の可能性、新たなリスク、および緩和策の可能性」を懸念しており、賞金 500 ドルの API ポイントを賭けた ChatGPT フィードバック コンテストを主催することも発表しました。

以上がAIは人間に取って代わるのでしょうか？ロボット ChatGPT は脆弱性を検出し、コードをレビューし、バグを修正できます。の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。