Pengaturcaraan sudah mati, kini AI? Profesor secara terbuka 'menyanyi sebaliknya': AI masih belum dapat membantu pengaturcara

Kompilasi |. Nuka Cola, Ling Min

Kepopularan produk AI seperti GitHub Copilot dan ChatGPT telah membolehkan lebih ramai orang melihat keupayaan hebat AI dalam pengaturcaraan. Baru-baru ini, kenyataan seperti "AI menggantikan pengaturcara" dan "AI mengambil alih takhta pengaturcaraan" telah kerap muncul.

Beberapa masa lalu, Matt Welsh, bekas profesor sains komputer Universiti Harvard dan pengarah kejuruteraan Google, berkata pada persidangan maya Persatuan Komputer Chicago bahawa ChatGPT dan GitHub Copilot menandakan permulaan tamatnya pengaturcaraan. Welsh menegaskan bahawa AI generatif akan menamatkan pengaturcaraan dalam masa 3 tahun.

Tetapi ada sesetengah orang yang menentang perkara ini. Baru-baru ini, Bertrand Meyer, profesor di Institut Pembina dan ketua pegawai teknologi Perisian Eiffel, menerbitkan artikel mengenai ACM untuk secara terbuka "menyanyi lagu yang bertentangan dengan teliti dia mengkaji bagaimana ChatGPT diprogramkan, dan akhirnya membuat kesimpulan bahawa AI tidak dapat membantu pengaturcara."

Percubaan Pengaturcaraan ChatGPT

Beberapa masa dahulu, Meyer membincangkan cara menyelesaikan masalah carian binari khayalan melalui beberapa artikel Walaupun kandungannya kelihatan baik dan setiap artikel mencadangkan versi jawapannya sendiri, kebanyakannya sebenarnya salah. (Bacaan lanjutan: https://bertrandmeyer.com/2020/03/26/getting-program-right-nine-episodes/)

Menggunakan ini sebagai makanan ternakan, Meyer menyerahkan artikel ini ke ChatGPT (versi 4).

Pemain AI pertama kali menerangkan masalah:

Masalah ini sebenarnya boleh berlaku dengan sebarang bilangan elemen, bukan hanya dua. Tetapi untuk membuktikan bahawa program itu tidak betul, cukup untuk memberikan contoh balas (tetapi untuk membuktikan bahawa ia betul, anda perlu menunjukkan bahawa ia terpakai kepada semua contoh). Meyer hanya bertanya sama ada program itu betul dan tidak menyebut cara membetulkannya, tetapi ChatGPT masih bersemangat memberikan cadangan berikut:

Bahagian komen di sini sangat membantu:

ChatGPT betul, logiknya sangat jelas. Selepas meneliti kod penggantian yang dicadangkan, Meyer menemui sesuatu yang mencurigakan. Jadi Meyer bertanya lebih lanjut:

Semasa cuba membetulkan pepijat Meyer, ChatGPT mengeluarkan versi lain yang juga buggy, tetapi dengan cara yang berbeza. Perlu dinyatakan bahawa ChatGPT cuba menyediakan versi baharu setiap kali - sambil membetulkan ralat sebelumnya, ia juga membawa masalah baharu .

Meyer juga mendapati bahawa ChatGPT sangat mahir dalam meminta maaf:

ChatGPT telah bercakap dengan dirinya sendiri, secara aktif mengesyorkan perkara yang dianggap sebagai penyelesaian yang diperbetulkan kepada Meyer:

Pada ketika ini, Meyer tidak cuba untuk mengetahui sama ada versi terbaharu itu betul. Pengaturcara yang berpengalaman tahu bahawa memfokuskan pada satu kes dan sentiasa menambah pembetulan khusus bukanlah cara terbaik untuk menjana program yang betul.

Jadi Meyer pun memilih untuk terus bersopan:

Inilah keseronokan: ChatGPT memutuskan untuk memperkenalkan konsep invarian gelung kepada Meyer!

Meyer tidak pernah secara eksplisit atau tersirat menyatakan bahawa "pendekatan yang lebih sistematik diperlukan untuk mengesahkan ketepatan algoritma", dia hanya ingin tahu bagaimana ChatGPT akan membuktikan bahawa jawapan yang disyorkan adalah betul, tetapi pastinya tidak menggunakan "sistematik" Atau perkataan seperti "pengesahan". Sebab bagi adegan ini mungkin inferens statistik berdasarkan korpus besar memberikan keyakinan ChatGPT, membenarkannya untuk mempercayai bahawa pengguna pasti akan mempersoalkan ketepatan kod output, dan kemudian memerlukan pengesahan secara sistematik.

Meyer terus bertanya:

ChatGPT kemudiannya memberikan jawapan yang baik, malah termasuk tinjauan invarian gelung yang disertakan dalam Tinjauan Pengkomputeran ACM. Dan ia masih memuji terlebih dahulu dan kemudian menerangkan masalah, yang sangat sopan:

Pada ketika ini, Meyer tidak bercadang untuk bertanya lagi.

Meyer tahu cara menyelesaikan masalah, tetapi seperti kebanyakan pengaturcara, dia melakukan kesilapan. Dia mahukan pembantu pengaturcaraan AI yang boleh memantaunya, memaklumkan dia tentang perangkap dan membetulkannya apabila dia membuat kesilapan. Dengan kata lain, dia mahu AI menjadi rakan pengaturcaraan pasangan yang cekap dan berguna. Walau bagaimanapun, keputusan eksperimen menunjukkan bahawa alat pengaturcaraan AI adalah serupa dengan pelajar siswazah kelas atas, yang bukan sahaja pintar dan membaca dengan baik, tetapi juga secara konsisten sopan dan bersedia untuk meminta maaf. Walaupun jika difikirkan semula, ia masih kelihatan kasar dan tidak tepat, dan apa yang dipanggil bantuan itu tidak berguna kepada Meyer.

Hasil AI moden tidak menjana program yang betul

Meyer percaya bahawa alat AI generatif semasa sememangnya boleh melakukan kerja yang baik dalam sesetengah kawasan, malah lebih baik daripada kebanyakan manusia: hasil yang berkaitan datang dengan cepat dan meyakinkan, dan pada pandangan pertama adalah sama baiknya dengan Pakar teratas, pada dasarnya terdapat bukan masalah besar. Selain dapat menjana risalah pemasaran dan melakukan terjemahan kasar kandungan laman web, alat terjemahan juga menunjukkan keupayaan analisis imej perubatan yang sangat baik.

Tetapi keperluan untuk pengaturcaraan adalah berbeza sama sekali. Ia mempunyai syarat ketat tentang ketepatan program keluaran. Pembangun boleh bertolak ansur dengan ralat tertentu, tetapi fungsi teras mestilah betul. Jika pesanan pelanggan adalah untuk membeli 100 saham saham Microsoft dan menjual 50 saham saham Amazon, program itu tidak sepatutnya melakukan sebaliknya. Pengaturcara profesional kadangkala membuat kesilapan Pada masa ini, ia bergantung kepada sama ada pembantu AI boleh membantu.

Walau bagaimanapun, usaha AI moden tidak menghasilkan program yang betul: Program yang mereka hasilkan sebenarnya disimpulkan daripada sejumlah besar program asal yang telah dilihat sebelum ini. Prosedur ini mungkin kelihatan boleh dipercayai, tetapi ketepatannya tidak dapat dijamin sepenuhnya. (AI moden yang disebut di sini adalah untuk membezakannya daripada AI awal - yang terakhir cuba menghasilkan semula pemikiran logik manusia melalui kaedah seperti sistem pakar, tetapi telah gagal pada tahap yang besar. AI hari ini bergantung sepenuhnya pada penaakulan statistik Laksanakan fungsi asas)

Meyer menegaskan bahawa walaupun pembantu AI menunjukkan prestasi yang sangat baik dalam beberapa aspek, mereka bukanlah produk logik, tetapi mahir yang pandai memanipulasi perkataan. Model bahasa yang besar mampu mengekspresikan diri mereka dan menghasilkan teks yang tidak kelihatan terlalu buggy. Walaupun prestasi ini mencukupi untuk banyak senario aplikasi, ia masih tidak sesuai untuk keperluan pengaturcaraan.

Kepintaran buatan semasa boleh membantu pengguna menjana rangka kerja asas dan memberikan jawapan yang boleh dipercayai. Tetapi di situlah ia berakhir. Berdasarkan tahap teknikal semasa, ia tidak dapat mengeluarkan program yang boleh berjalan secara normal.

Tetapi itu bukan perkara yang buruk untuk industri kejuruteraan perisian. Meyer percaya bahawa dalam menghadapi semua jenis publisiti bahawa "pengaturcaraan sudah mati", percubaan ini mengingatkan kitaKedua-dua pengaturcara manusia dan pembantu pengaturcaraan automatik memerlukan kekangan piawai, dan sebarang program alternatif yang dihasilkan perlu disahkan. Selepas kejutan awal, orang ramai akhirnya akan menyedari bahawa keupayaan untuk menjana program dengan satu klik tidak banyak membantu. Memandangkan ia sering gagal mencapai hasil yang dikehendaki pengguna dengan betul, fungsi automasi yang dilancarkan secara tergesa-gesa sebenarnya boleh membahayakan.

Tulis di penghujung

Meyer tidak merendah-rendahkan pengaturcaraan AI Dia percaya bahawa sikap berhati-hati boleh membantu kami membina sistem AI terbaik dengan keupayaan yang boleh dipercayai.

Teknologi AI masih dalam peringkat awal pembangunannya, tetapi batasan ini bukanlah halangan yang kekal dan tidak dapat diatasi. Mungkin suatu hari nanti, alat pengaturcaraan AI generatif akan dapat mengatasi halangan ini. Untuk menjadikannya benar-benar boleh diprogramkan, aspek spesifikasi dan pengesahan perlu diterokai dan dikaji secara mendalam.

Jadi inilah soalannya: Pernahkah anda menggunakan alat pengaturcaraan AI? Alat yang manakah digunakan? Sejauh mana ketepatannya? Adakah alat ini benar-benar membantu anda? Selamat datang untuk menulis pengalaman anda di ruang komen.

Pautan asal:

Menentang menggunakan GPT-4 dan Copilot untuk menulis kod, seorang pengaturcara veteran dengan pengalaman pengaturcaraan selama 19 tahun telah disingkirkan dalam "temu bual"

Ma Huateng berkata untuk "mengencangkan formasi", Tencent membalas;

Pangkalan data vektor? Jangan melabur! Jangan melabur! Jangan melabur!

Tidak boleh mengekalkan pekerjaan sebagai penganalisis data dengan gaji tahunan 600,000? ! Penyelidikan oleh Alibaba Damo Academy mendapati bahawa menukar kepada GPT-4 hanya berharga beberapa ribu yuan

Laporkan pengesyoran

Termasuk ChatGPT, Claude, Sage, Tiangong 3.5, Wenxinyiyan, Tongyi Qianwen, iFlytek Spark, Moss, ChatGLM, vicuna-13B dan produk model bahasa besar lain, empat dimensi utama + 12 subbahagian Menunjukkan keupayaan komprehensif mereka, meneroka keupayaan pengaturcaraan produk model besar dari perspektif teknikal, dan meningkatkan pemahaman terkini tentang pemilihan hala tuju keusahawanan AGI dan aplikasi kerja praktikal. Imbas kod QR untuk menambah pembantu InfoQ dan buka kunci semua maklumat.

Pratonton siaran langsung

Dalam era model besar AI, apakah peluang dan cabaran yang dihadapi oleh arkitek? Malam ini pada jam 20:00, Naib Presiden Teknologi Mobvista Cai Chao akan berhubung secara langsung dengan Li Xin, Naib Presiden Institut Penyelidikan AI iFlytek HKUST, untuk mendedahkan jawapan untuk anda! Terdapat juga spoiler untuk topik-topik menarik di Stesen ArchSummit Shenzhen terlebih dahulu, dan hadiah pengetahuan tidak terhingga! Buat temu janji sekarang!

Atas ialah kandungan terperinci Pengaturcaraan sudah mati, kini AI? Profesor secara terbuka 'menyanyi sebaliknya': AI masih belum dapat membantu pengaturcara. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!