プログラミングは死んだ、今はAI?教授、公に「反対のことを歌っている」：AIはまだプログラマーを助けることはできない

コンピレーション | ヌカ・コーラ、リン・ミン

GitHub Copilot や ChatGPT などの AI 製品の人気により、プログラミングにおける AI の強力な機能をより多くの人が知ることができるようになりました。最近、「AIがプログラマーに取って代わる」「AIがプログラミングの王座を奪う」といった発言が頻繁に登場します。

少し前に、元ハーバード大学コンピュータ サイエンス教授で Google エンジニアリング ディレクターのマット ウェルシュ氏は、シカゴ コンピュータ協会のバーチャル会議で、ChatGPT と GitHub Copilot はプログラミングの終わりの始まりを告げるものだと述べました。ウェールズ氏は、生成AIは3年以内にプログラミングを終わらせると主張する。

しかし、これに反対する人もいます。最近、コンストラクター研究所の教授であり、エッフェル ソフトウェアの最高技術責任者であるバートランド マイヤー氏は、ACM に関する記事を発表して、公に「反対の曲を歌う」ことを目的としており、ChatGPT がどのようにプログラムされているかを注意深く研究し、最終的に AI はプログラマーを助けることはできないと結論付けました。

ChatGPTプログラミング実験

少し前に、Meyer は一連の記事を通じて架空の二分探索問題を解決する方法について議論しました。内容は良さそうに見え、各記事は独自のバージョンの答えも提案していましたが、実際にはほとんどが間違っていました。 (詳細情報: https://bertrandmeyer.com/2020/03/26/getting-program-right-nine-episodes/)

これを資料として使用して、Meyer はこれらの記事を ChatGPT (バージョン 4) に投稿しました。

AI プレーヤーが最初に問題を説明しました:

この問題は、実際には 2 つだけでなく、任意の数の要素で発生する可能性があります。しかし、プログラムが間違っていることを証明するには、反例を示すだけで十分です (ただし、プログラムが正しいことを証明するには、それがすべての例に当てはまることを示す必要があります)。 Meyer 氏はプログラムが正しいかどうかを尋ねただけで、具体的な修正方法については言及しませんでしたが、それでも ChatGPT は次のような提案を熱心に行いました。

ここのコメントセクションは非常に役に立ちます:

ChatGPT は正しく、ロジックは非常に明確です。 Meyer 氏は、提案された置換コードをじっくり検討した結果、何か怪しいものを発見しました。そこでマイヤー氏はさらに尋ねました:

Meyer のエラーを修正しようとしているときに、ChatGPT は同じエラーを持つ別のバージョンを別の方法で出力しました。

ChatGPT は毎回新しいバージョンを提供しようとします。以前のエラーを修正する一方で、新しい問題も引き起こします 。

Meyer 氏は、ChatGPT が特に謝罪に優れていることも発見しました:

ChatGPT は自らと対話し、修正された解決策と考えられるものを積極的に Meyer に推奨しています:

現時点では、Meyer は最新バージョンが正しいかどうかを確認しようとするつもりもありません。経験豊富なプログラマは、1 つのケースに焦点を当てて特定の修正を継続的に追加することが、正しいプログラムを生成する最善の方法ではないことを知っています。

したがって、マイヤー氏も礼儀正しくあり続けることを選択しました:

ここで興奮が高まります。ChatGPT はループ不変条件の概念を Meyer に導入することを決定しました。

Meyer は、「アルゴリズムの正しさを検証するためのより体系的な方法が必要である」とは決して述べたり、ほのめかしたりしませんでした。彼は、ChatGPT が推奨する答えが正しいことをどのように証明できるかを知りたかっただけですが、「体系的な」Or を使用したわけではありません。 「検証」のような言葉。このシーンの理由は、大規模なコーパスに基づく統計的推論が ChatGPT に自信を与え、ユーザーが出力コードの正しさに間違いなく疑問を抱き、体系的な方法で検証を要求すると信じられるようにしたためである可能性があります。

マイヤー氏は続けてこう尋ねた:

ChatGPT は、ACM Computing Survey に含まれるループ不変調査も含めて、良い回答を返しました。そして、やはり最初に褒めてから問題を説明するのですが、これは非常に丁寧です:

現時点では、マイヤー氏は尋問を続けるつもりはない。

Meyer は問題の解決方法を知っていましたが、ほとんどのプログラマーと同様に間違いを犯しました。彼は、自分を監視し、落とし穴を警告し、間違いを犯したときに修正してくれる AI プログラミング アシスタントを望んでいます。言い換えれば、彼は AI が効率的で役立つペア プログラミングのパートナーになることを望んでいます。しかし、実験結果によると、AI プログラミング ツールは、頭が良く本をよく読むだけでなく、一貫して礼儀正しく、喜んで謝る優秀な大学院生に似ています。振り返ってみても、それは依然として粗雑で不正確に見え、いわゆる助けはマイヤーにとってほとんど役に立ちませんでした。

最新の AI の結果では正しいプログラムを生成できない

Meyer 氏は、現在の生成 AI ツールは、一部の分野では確かに優れた仕事をすることができ、ほとんどの人間よりも優れていると信じています。関連する結果は迅速かつ説得力を持って得られ、一見するとトップの専門家と同等の優れた結果が得られます。大きな問題ではありません。この翻訳ツールは、マーケティング用のパンフレットを作成したり、Web サイトのコンテンツの大まかな翻訳を実行できることに加えて、優れた医療画像分析機能も発揮します。

しかし、プログラミングの要件はまったく異なり、出力プログラムの正確さに関する厳しい要件があります。開発者は特定のエラーを許容できますが、コア機能は正しくなければなりません。顧客の注文が Microsoft 株を 100 株購入し、Amazon 株を 50 株売却することである場合、プログラムはその逆を行うべきではありません。プロのプログラマーでもミスをすることはありますが、その時にAIアシスタントが助けられるかどうかにかかっています。

しかし、最新の AI の結果は正しいプログラムを生成できません。AI が生成するプログラムは、実際には、これまでに見られた多数のオリジナル プログラムから推測されます。これらの手順は信頼できるように見えますが、その正確性は完全に保証されません。 （ここでいう現代のAIとは、初期のAIと区別するためのものです。後者は、エキスパートシステムなどの手法で人間の論理的思考を再現しようとしましたが、ほとんど失敗に終わりました。今日のAIはもっぱら統計的推論に依存しており、基本的な機能を実現しています。）

Meyer氏は、AIアシスタントはある面では非常に優れているが、それらは論理の産物ではなく、言葉を操作するのが得意な達人であると指摘した。大規模な言語モデルは、それ自体を表現し、それほど間違っていないように見えるテキストを生成することができます。このパフォーマンスは多くのアプリケーション シナリオには十分ですが、プログラミングのニーズにはまだ適していません。

現在の人工知能は、ユーザーが基本的なフレームワークを生成し、比較的信頼できる答えを与えるのを支援できます。しかし、それで終わりです。現在の技術レベルからすると、正常に動作するプログラムを出力することは到底不可能です。

しかし、これはソフトウェア エンジニアリング業界にとって悪いことではありません。マイヤー氏は、「プログラミングは死んだ」というあらゆる種類のプロパガンダに直面して、この実験は、人間のプログラマーと自動プログラミングアシスタントの両方に標準化された制約が必要であり、作成された代替プログラムは検証される必要があることを思い出させてくれると信じています。最初の驚きの後、人々は最終的には、ワンクリックでプログラムを生成する機能はあまり役に立たないことに気づくでしょう。ユーザーが望む結果を正しく達成できないことが多いことを考慮すると、急いで開始した自動化機能は実際には有害である可能性があります。 最後に書きます

マイヤー氏は AI プログラミングを非難しているのではなく、慎重な姿勢が信頼できる機能を備えた究極の AI システムの構築に役立つ可能性があると信じています。

AI テクノロジーはまだ開発の初期段階にありますが、これらの制限は永続的で克服できない障害ではありません。おそらく将来、生成 AI プログラミング ツールがこれらの障害を克服できるようになるでしょう。真にプログラム可能にするには、仕様と検証の側面を徹底的に調査し、研究する必要があります。

そこで質問が来ます: AI プログラミング ツールを使用したことがありますか?どのツールが使用されましたか?どのくらい正確ですか?これらのツールは本当に役に立ちますか?コメント欄にあなたの経験を書き留めてください。

元のリンク:

GPT-4 と Copilot を使用してコードを記述することに抵抗し、プログラミング経験 19 年のベテラン プログラマーが「面接」で排除されました

馬化騰氏は「陣形を引き締める」と発言、テンセントが反応、マイクロソフトが独自のLinuxディストリビューションをリリース、OpenAIがGPT-4に対応してバカになった | Qニュース

ベクトルデータベース?投資しないでください！投資しないでください！投資しないでください！

年収60万ではデータアナリストとして仕事を続けられないのでしょうか？ ！ Alibaba Damo Academy の調査によると、GPT-4 への切り替えコストはわずか数千元です

レポートの推奨事項

ChatGPT、Claude、Sage、Tiangong 3.5、Wenxinyiyan、Tongyi Qianwen、iFlytek Spark、Moss、ChatGLM、vicuna-13B などの大規模な言語モデル製品が含まれており、4 つの主要な次元と 12 の細分化された次元で表示されます。技術的な観点から大型モデル製品のプログラミング機能を調査し、AGI の起業家的な方向性の選択と仕事の実践的な応用についての最新の理解を強化します。 QR コードをスキャンして InfoQ アシスタントを追加し、すべての情報のロックを解除します。

ライブブロードキャストプレビュー

AI ラージ モデルの時代において、アーキテクトはどのような機会と課題に直面しますか?今夜 20:00 に、Mobvista テクノロジー副社長の Cai Chao が香港科技大学 iFlytek AI Research Institute の副所長である Li Xin とライブ接続し、その答えを明らかにします。 ArchSummit Shenzhen のエキサイティングな特別トピックのネタバレも事前に含まれており、知識の賜物は無限です。今すぐ予約してください！

以上がプログラミングは死んだ、今はAI?教授、公に「反対のことを歌っている」：AIはまだプログラマーを助けることはできないの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。