Komen media asing mengenai GPT-4: Satu lonjakan besar dalam bidang kecerdasan buatan dan satu lagi perubahan besar dalam etika teknikal

Berita pada 15 Mac, waktu tempatan pada hari Selasa, ​​Kecerdasan Buatan​​​Makmal Penyelidikan​ ​OpenAI​​mengeluarkan versi terkini model bahasa besar GPT-4. Alat canggih yang telah lama ditunggu-tunggu ini bukan sahaja boleh menjana teks secara automatik, tetapi juga menerangkan dan menganalisis kandungan imej ia bukan sahaja meningkatkan tahap teknikal gelombang kecerdasan buatan, tetapi juga menjadikan sempadan etika pembangunan teknologi semakin sukar untuk diabaikan.

Sembang dalam talian awal OpenAI ​​ChatGPT mendapat banyak perhatian dengan teks lancar yang dijana secara automatik, dan juga membuat orang ramai tidak senang tentang keupayaannya untuk mengarang kertas kerja dan skrip fiksyen. Anda tahu, ChatGPT masih menggunakan GPT-3, teknologi generasi lama yang sudah lapuk lebih setahun yang lalu.

Sebaliknya, model GPT-4 yang tercanggih bukan sahaja dapat menjana teks secara automatik tetapi juga menerangkan imej berdasarkan keperluan pengguna yang mudah. Sebagai contoh, apabila GPT-4 ditunjukkan gambar sarung tangan tinju yang tergantung pada jungkat-jungkit kayu dengan bola pada satu hujung, dan pengguna bertanya apa yang akan berlaku jika sarung tangan itu tertanggal, GPT-4 akan menjawab bahawa ia akan mengenai jungkat-jungkit, menghantar bola terbang.

Penguji awal telah mendakwa bahawa GPT-4 sangat maju dalam keupayaannya untuk menaakul dan mempelajari perkara baharu. ​

​Microsoft ​​ turut mendedahkan pada hari Selasa bahawa bot sembang kecerdasan buatan Bing yang dikeluarkan bulan lepas telah menggunakan GPT-4.

Teknologi ini akan merevolusikan lagi kerja dan kehidupan orang ramai, kata pembangun pada hari Selasa. Tetapi ia juga menimbulkan kebimbangan orang ramai tentang bagaimana manusia boleh bersaing dengan mesin yang sangat canggih dan bagaimana orang boleh mempercayai apa yang mereka lihat dalam talian.

Para eksekutif OpenAI berkata bahawa "berbilang modaliti" GPT-4 merentas teks dan imej menjadikannya jauh lebih unggul daripada ChatGPT dalam "keupayaan penaakulan lanjutan." Syarikat itu menangguhkan pengeluaran fungsi perihalan imej GPT-4 kerana kebimbangan mengenai penyalahgunaan fungsi tersebut dan pelanggan perkhidmatan ChatGPT Plus yang disokong oleh GPT-4 hanya boleh menggunakan fungsi teks.

Penyelidik dasar OpenAI Sandhini Agarwal berkata syarikat itu belum mengeluarkan ciri ini lagi untuk lebih memahami potensi risiko. Jurucakap OpenAI Niko Felix berkata OpenAI sedang merancang untuk "melaksanakan perlindungan bagi menghalang maklumat peribadi dalam imej daripada dikenal pasti."

OpenAI juga mengakui bahawa GPT-4 masih akan mempunyai kesilapan biasa seperti "menjana halusinasi", membuat karut, mengekalkan prasangka sosial, dan memberikan nasihat yang tidak baik.

Microsoft telah melabur berbilion dolar dalam OpenAI, dengan harapan teknologi kecerdasan buatan akan menjadi ciri pembunuh perisian pejabat, enjin carian dan produk dalam talian yang lain. Syarikat itu mempromosikan teknologi sebagai rakan kongsi yang sangat cekap yang boleh mengendalikan tugasan berulang dan membolehkan orang ramai menumpukan pada kerja kreatif, seperti membantu pembangun perisian menyelesaikan kerja seluruh pasukan.

Walau bagaimanapun, sesetengah orang yang mengambil berat tentang kecerdasan buatan mengatakan bahawa ini mungkin hanya gejala, dan kecerdasan buatan boleh membawa kepada model perniagaan dan risiko yang tidak dapat diramalkan oleh sesiapa pun.

Perkembangan pesat kecerdasan buatan, ditambah pula dengan populariti ChatGPT, telah membawa kepada persaingan sengit di kalangan syarikat dalam industri untuk bersaing merebut penguasaan dalam bidang kecerdasan buatan dan mengeluarkan perisian baharu.

Kegilaan ini juga telah mendapat banyak kritikan. Ramai percaya tergesa-gesa syarikat ini untuk melancarkan teknologi yang tidak teruji, tidak dikawal dan tidak dapat diramalkan boleh menipu pengguna, menjejaskan kerja artis dan menyebabkan kemudaratan dunia sebenar.

Oleh kerana ia direka untuk menjana frasa yang meyakinkan, model bahasa AI sering memberikan jawapan yang salah. Lebih-lebih lagi, model ini dilatih menggunakan maklumat dan imej dari Internet dan belajar untuk meniru berat sebelah manusia.

Penyelidik OpenAI menulis dalam laporan teknikal bahawa "memandangkan GPT-4 dan sistem kecerdasan buatan yang serupa digunakan secara meluas," mereka "akan mengukuhkan cerapan yang wujud."

Irene Solaiman, bekas penyelidik di OpenAI dan pengarah dasar Hugging Face, sebuah syarikat kecerdasan buatan sumber terbuka, percaya bahawa kepantasan kemajuan teknologi seperti ini memerlukan seluruh masyarakat bertindak balas terhadap masalah yang berpotensi tepat pada masanya. cara.

Dia seterusnya berkata, "Sebagai sebuah masyarakat, kita sudah boleh mencapai kata sepakat luas tentang beberapa kemudaratan yang tidak sepatutnya disebabkan oleh model," tetapi "banyak kemudaratan adalah halus dan terutamanya memberi kesan kepada kumpulan minoriti." bahawa berat sebelah berbahaya itu "tidak boleh menjadi pertimbangan kedua untuk prestasi AI."

GPT-4 terkini juga tidak stabil sepenuhnya. Apabila pengguna mengucapkan tahniah kepada alat AI atas peningkatannya kepada GPT-4, jawapannya ialah "Saya masih model GPT-3." Kemudian selepas diperbetulkan ia meminta maaf untuk ini dan berkata: "Sebagai GPT-4, saya mengucapkan terima kasih atas ucapan tahniah anda!" ia " Ia sememangnya model GPT-3, bukan GPT-4".

Jurucakap OpenAI Felix berkata pasukan penyelidik syarikat sedang menyiasat di mana masalahnya.

Pada hari Selasa, penyelidik kecerdasan buatan mengkritik OpenAI kerana tidak mendedahkan maklumat yang mencukupi. Syarikat itu belum mengeluarkan data mengenai penilaian berat sebelahnya dalam GPT-4. Jurutera yang bersemangat juga kecewa untuk menemui beberapa butiran tentang model, set data atau kaedah latihan GPT-4. OpenAI berkata dalam laporan teknikal bahawa ia tidak akan mendedahkan butiran ini kerana "landskap kompetitif dan implikasi keselamatan" yang dihadapinya.

Bidang kecerdasan buatan berbilang deria di mana GPT-4 beroperasi adalah sangat kompetitif. DeepMind, syarikat kecerdasan buatan yang dimiliki oleh induk Google Alphabet, tahun lepas mengeluarkan model do-it-all yang dipanggil Gato yang boleh menggambarkan imej dan bermain permainan video. Google bulan ini mengeluarkan PaLM-E, sistem berbilang modal yang menyepadukan penglihatan kecerdasan buatan dan analisis bahasa ke dalam robot lengan tunggal. Sebagai contoh, jika seseorang memintanya untuk mengambil beberapa cip, ia boleh memahami permintaan itu, beralih ke laci dan memilih objek yang sesuai.

Sistem serupa telah mengilhamkan keyakinan yang tidak terbatas tentang potensi teknologi, malah ada yang melihat tahap kecerdasan hampir sama dengan manusia. Walau bagaimanapun, seperti yang dikatakan oleh pengkritik dan penyelidik AI, sistem ini hanya mencari corak yang mantap dan korelasi yang wujud dalam data latihan berulang tanpa pemahaman yang jelas tentang maksudnya.

GPT-4 ialah "transformer pra-latihan generatif" keempat sejak keluaran awal OpenAI pada 2018, berdasarkan teknologi ​Rangkaian Neural​​ terobosan yang dibangunkan pada 2017 "Penukar". Sistem sedemikian, "pra-latihan" dengan menganalisis teks dan imej dalam talian, telah membawa kepada kemajuan pesat dalam cara sistem kecerdasan buatan menganalisis pertuturan dan imej manusia.

Selama bertahun-tahun, OpenAI juga secara asasnya telah mengubah potensi risiko sosial untuk mengeluarkan alat kecerdasan buatan kepada orang ramai. Pada 2019, syarikat itu enggan mengeluarkan GPT-2 secara terbuka, dengan mengatakan bahawa walaupun AI menunjukkan prestasi yang sangat baik, mereka bimbang tentang "aplikasi berniat jahat" yang akan menggunakannya.

Tetapi pada November tahun lepas, OpenAI melancarkan ChatGPT secara terbuka berdasarkan versi GPT-3 yang diperhalusi. Hanya dalam beberapa hari pelancaran, ia melepasi 1 juta pengguna.

Percubaan awam dengan ChatGPT dan chatbot Bing menunjukkan bahawa teknologi itu jauh daripada prestasi sempurna tanpa campur tangan manusia. Selepas beberapa siri perbualan pelik dan jawapan yang salah, eksekutif Microsoft mengakui bahawa chatbots AI masih tidak boleh dipercayai apabila memberikan jawapan yang betul, tetapi berkata mereka sedang membangunkan "metrik keyakinan" untuk menangani isu itu.

GPT-4 berjanji untuk memperbaiki beberapa kelemahan, dan penyokong AI seperti blogger teknologi Robert Scoble percaya bahawa "GPT-4 lebih baik daripada yang dijangkakan oleh sesiapa sahaja

CEO OpenAI Sam Altman telah mencuba untuk meredakan jangkaan untuk GPT-4. Dia berkata pada bulan Januari bahawa spekulasi tentang keupayaan GPT-4 telah mencapai tahap yang mustahil, bahawa "khabar angin tentang GPT-4 adalah tidak masuk akal" dan "mereka akan kecewa

Tetapi Ort Mann juga mempromosikan visi OpenAI. Dalam catatan blog bulan lalu, beliau berkata syarikat itu merancang bagaimana untuk memastikan "semua manusia" mendapat manfaat daripada "tenaga universal buatan" (AGI). Istilah industri ini merujuk kepada idea yang masih tidak realistik untuk memiliki kecerdasan buatan super sepintar, atau lebih pintar daripada manusia.

Atas ialah kandungan terperinci Komen media asing mengenai GPT-4: Satu lonjakan besar dalam bidang kecerdasan buatan dan satu lagi perubahan besar dalam etika teknikal. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!