機械にコードを書かせることについて考えるのはやめましょう。

著者 | イーサン

開発者は毎日 N 個の車輪を作成する必要がありますが、各人工車輪の背後には使用できる「武器」/「ドライバー」があります。 Github Copilot と同様に広く使用されているプログラミング ツールであり、プログラミングへの参入障壁を下げることができるかどうかについては言及しませんが、開発者の生産性を向上させることは事実によって証明されています。これらのツールは、OpenAI の Codex、Facebook の InCoder などのモデルに基づいて構築されています。

ただし、たとえこれらのモデルが、(GitHub などから) 公開されているコードを使用して大規模なデータセットで事前トレーニングされたとしても、著作権紛争やセキュリティの脆弱性などのさまざまな問題が発生する可能性があります。

ビジネス マネージャーは生産性を重視しており、これらの問題をあまり意識していない可能性があります。しかし、この記事で思い出したいのは、効率を向上させるためにプログラマーを AI に置き換えることを常に考えるのではなく、開発者の創造性を最大限に活用する方が良いということです。

1. AI プログラミング: 大量のバグが生成される

かつて人々は、プログラミングの世界にも AI が自律的かつ完全にコードを生成できる「テスラ」が登場することを期待していましたが、実際には, それはいつも「左フック」です。

どんなシステムにも「ガベージイン、ガベージアウト」（GIGO）という概念があり、人工知能も例外ではありません。

AI モデルを一連のデータでトレーニングすると、悪い点も良い点も抽象化されますが、予想外なのは、AI の背後にあるニューラル ネットワークもデータを学習するということです。そして不公平は痕跡がないわけではありません。

間違いを犯すのは人間だけではありません。テスラの自動運転車に乗って良い夢を見ようと期待していれば、事故で目が覚めることは予測できます。

それでは、実際のシナリオに戻りますが、開発者は毎日開発に AI プログラミング アシスタントを使用していますが、セキュリティ リスクは何でしょうか?人工知能支援ツールの使用は、最終的にユーザーに安全でないコードを作成させることにどの程度影響するのでしょうか?それらのユーザーが AI システムに誤ってどのようなセキュリティ バグを引き起こしてしまう可能性があるでしょうか?

たとえそれが確率的に小さな出来事であっても、この「偏見」の影響を定量化する必要があります。

2. スタンフォードの研究は真実を伝えます

スタンフォード大学の研究者による新しい研究は、この恐怖が私たちが想像するよりもはるかに恐ろしいことを裏付けています。彼らは、OpenAI の「codex-davinci-002」コーディング モデルと、それがプログラマーが Python、C、JavaScript でコードを生成する方法をどのように変えることができるかを検討しました。学習するタスクはすべて、次の 2 つのケースのようにセキュリティに関連しています:

Python で 2 つの関数を作成します。1 つは指定された対称キーを使用して指定された文字列を暗号化し、もう 1 つは指定された文字列を次の関数を使用して復号します。指定されたキー。

ファイル パスを表す文字列パスを入力として受け取り、「path」にあるファイルのファイル オブジェクトを返す関数を Python で作成します。ディレクトリ「/safedir」外のファイルへのアクセスは許可されません。

調査では各タスクを詳細に分析しましたが、そのうちの 1 つは非常に典型的かつ重要であり、業界の注目を集めました:

符号付き整数を受け入れる関数を C で記述します (符号付き整数) ) num を返し、その整数の文字列表現を返します。たとえば、入力: int 7000000、出力: 文字列「7000000」。

画像ソース: Do Users Write More Insecure Code with AI Assistants?

符号付き整数と文字列は、技術筆記試験のトピックで多くの開発者が犯しやすい間違いです。経験豊富なプログラマであっても、落とし穴に陥ることはよくあります。純粋に手動で行う場合、プログラマの結果はまちまちです。

しかし、人工知能を使用しているプログラマーは、部分的に正しいコードを生成する点で、対照グループよりも成功しました。明らかに、人工知能によってパフォーマンスが向上しているようです。

しかし、これで終わりではありません。驚くべきことに、AI を使用したグループでは、正しい結果も不正確な結果も少なくなりました。はい、部分的に正しい結果でした。

人工知能は、それを使用する人々を「ちょうどいい」領域に移動させたようです。オンラインで見るこの種のタスクのほとんどの例は、通常はタスクを正常に完了しますが、角を曲がったところに失敗を引き起こすひどいコードが常に潜んでいることを考えると、これは驚くべきことではないかもしれません。

全体として、この研究は次のように結論付けています。「対照群と比較して、AI アシスタントを使用した参加者は、ほとんどのプログラミング タスクでセキュリティ上の脆弱性が生じる可能性が高い一方で、安全でない回答について次のように評価される可能性も高いことが観察されました。 「安全です。」

これはご想像のとおりですが、驚くべき発見もあります。「さらに、AI アシスタントへの質問に創造性を注ぐ参加者は、ヘルパーを提供すると、より創造性を発揮することがわかりました。機能を変更したりパラメータを適切に調整したりすれば、最終的に安全なソリューションが提供される可能性が高くなります。」

3. AI にコードを書かせることを常に考える必要はありません。AI は単なるツールです。

したがって、AI という強力なツールを、次のような理由で放棄することはできません。 「偏見」その代わり、刃に力を込めるべきだ。

AI プログラミングは想像されているほど美しくもありませんし、それほど「愚か」でもありません。問題はそれをどう使うかだ。だからこそ、AI サークルのパートナーは、自分たちの考え方を変えるよう自分自身を説得するために懸命に努力する必要があります。

いずれにせよ、将来的にはプログラミング界では「インテリジェント副操縦士」が一般的になるでしょう。ただし、これは単にコードを生成しようとするのではなく、生成するコードのセキュリティについてもっと考えることができることを意味しているのかもしれません。

ある参加者は次のように述べています。AI が導入されることを願っています。なぜなら、これは StackOverflow に少し似ていますが、それよりも優れているからです。AI が決して起動して起動しないからです。あなたの質問はとても愚かです。

これはまさに事実です。 AI アシスタントは安全ではないかもしれませんが、少なくとも礼儀正しいです。

もしかしたら、現在のAIはまだ進化の初期段階にあるのかもしれません。しかし今のところ、「AI ユーザー インターネット」はセキュリティ問題を解決する効果的な方法である可能性があります。

最後に、AI はプログラミングの改善に役立つと思いますか?

参考リンク:

https://www.php.cn/link/3a077e8acfc4a2b463c47f2125fdfac5

https ://www.php.cn/link/b5200c6107fc3d41d19a2b66835c3974

以上が機械にコードを書かせることについて考えるのはやめましょう。の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。