研究: AI コーディング アシスタントは安全でないコードにつながる可能性があるため、開発者は注意が必要です

研究者らは、コードを記述する際に AI (人工知能) アシスタントに依存すると、開発者が自分の開発作業に対して過信し、その結果、コードの安全性が低下する可能性があると述べています。

スタンフォード大学が実施した最近の研究では、GitHub の Copilot などの AI ベースのコーディング アシスタントを使用すると、開発者が自分の作業の品質について混乱し、ソフトウェアの問題につながる可能性があることがわかりました。脆弱性があり、安全性が低くなります。ある AI 専門家は、このようなタスクに AI アシスタントを使用する場合、開発者が期待を管理することが重要であると述べています。

AI コーディングによってもたらされるさらなるセキュリティ脆弱性

調査では、47 人の開発者を対象に試験を実施しました。そのうち 33 人はコードを書くときに AI アシスタントを使用していましたが、対照グループの 14 人が単独でコードを書いていたのと比較されました。対称キーを使用した文字列の暗号化または復号化など、5 つのセキュリティ関連のプログラミング タスクを完了する必要があります。全員が Web ブラウザを使用してヘルプを得ることができます。

コーディングやその他のタスク用の AI アシスタント ツールの人気が高まっており、Microsoft 所有の GitHub は開発者の生産性を向上させるために、2021 年にテクノロジー プレビューとして Copilot を開始します。

Microsoft は、今年 9 月に発表した調査レポートの中で、GitHub によって開発者の効率が向上すると指摘しました。回答者の 88% は、Copilot の方がコーディングの効率が高いと回答し、59% が、Copilot の主な利点は、反復的なタスクをより迅速に完了し、コーディングをより迅速に完了できることであると回答しました。

スタンフォード大学の研究者は、ユーザーが AI アシスタントを使用してより安全でないコードを作成しているかどうかを知りたいと考え、実際にそのとおりであることを発見しました。 AI アシスタントを使用する開発者は、コードの品質について依然として幻滅していると彼らは言います。

チームは論文の中で次のように書いています:「AIアシスタントの支援を受けた開発者は、コントロールグループの開発者よりもほとんどのプログラミングタスクにおいてセキュリティ脆弱性を導入する可能性が高いことが観察されましたが、また、評価においてもセキュリティ脆弱性を導入する可能性が高いことがわかりました」さらに、この調査では、AI アシスタントへのクエリの作成 (AI アシスタント機能の採用やパラメータの調整など) に多く投資した開発者は、最終的に安全なソリューションを提供する可能性が高いことがわかりました。」

この研究プロジェクトでは、Python、C、Verilog の 3 つのプログラミング言語のみを使用しました。このイベントには、新卒者から経験豊富な専門家まで、さまざまな開発経験を持つ比較的少数の参加者が参加し、管理者によって監視される特別に開発されたアプリケーションを使用します。

最初の実験は Python で書かれており、AI アシスタントの助けを借りて書かれた実験は安全でないか、間違っている可能性が高くなります。 AI アシスタントの助けがなかった対照グループでは、開発者の 79% が品質に問題なくコードを記述しましたが、AI アシスタントの助けがあった対照グループでは、品質に問題なくコードを記述した開発者は 67% のみでした。

AI コーディング アシスタントは注意して使用してください

AI アシスタントを採用する開発者は、安全でないソリューションを提供したり、シンプルなコードを使用したりする可能性が高いため、AI コーディング アシスタントが作成するコードのセキュリティに関しては事態はさらに悪化します。文字列を暗号化および復号化するためのパスワード。また、プロセスが期待どおりに動作していることを確認するために、最終値の妥当性チェックを実行する可能性も低くなります。

今回の調査結果は、経験の浅い開発者はAIアシスタントを信頼する傾向があるが、新たなセキュリティ脆弱性を持ち込むリスクがあることを示唆しているとスタンフォード大学の研究者らは述べた。したがって、この研究は、将来の AI コード アシスタントの設計を改善し、導くのに役立ちます。

ソフトウェアプロバイダーであるペガシステムズのAIラボ所長ピーター・ファン・デル・プッテン氏は、規模は小さいものの、この研究は非常に興味深いものであり、その結果はAIアシスタントの利用に関するさらなる研究のきっかけとなる可能性があると述べた。コーディングやその他の領域で使用します。同氏は、「これは、AIアシスタントへの依存に関する広範な研究の一部が結論付けたこととも一致している。AIアシスタントを採用している開発者は段階的にAIアシスタントにアクセスできるようにすべきだ。ツールを信頼し、あまり頼りすぎないように」と警告した。そしてその限界を理解してください。同氏は、「テクノロジーが受け入れられるかどうかは、品質やパフォーマンスに対する期待だけでなく、それが時間と労力を節約できるかどうかにも左右されます。全体として、期待が満たされている限り、人々は AI アシスタントの使用に対して前向きな態度をとります。」と述べています。これは、これらのツールの使用方法のベスト プラクティスを定義することと、コードの品質をテストするための潜在的な追加機能を採用することを意味します。」

以上が研究: AI コーディング アシスタントは安全でないコードにつながる可能性があるため、開発者は注意が必要ですの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。