Adakah mungkin Bing menyepadukan GPT-4? Adakah ini benar atau teori yang tidak berasas?

​Pengarang |. Xu Jiecheng

Sebelum keluaran Microsoft New Bing, kebanyakan orang meramalkan bahawa prestasi keseluruhan Bing Baharu akan sangat serupa dengan ChatGPT Walaupun ada beberapa perbezaan dalam butiran antara keduanya, pengguna seharusnya tidak dapat mengesan perbezaan ini dari perspektif pengalaman. Walau bagaimanapun, dengan keluaran dan kemas kini Bing Baharu, semakin ramai orang mula mengesyaki bahawa perjanjian $10 bilion sebelum ini antara Microsoft dan OpenAI nampaknya berkaitan dengan lebih daripada sekadar ChatGPT "bayi".

1. Pengumuman rasmi Microsoft: Mengintegrasikan model baharu

Walaupun Bing dan ChatGPT baharu adalah kedua-duanya. berdasarkan GPT Model siri 3.5 telah diperhalusi, tetapi pada pertengahan Februari, Microsoft mengumumkan bahawa ia telah menyepadukan model bahasa AI baharu ke dalam Bing Baharu, membolehkannya berprestasi lebih baik daripada ChatGPT. Walaupun Microsoft tidak menyatakan dengan jelas sumber dan data berkaitan model AI baharu sehingga hari ini, sesetengah orang dalam industri membuat spekulasi bahawa model itu berkemungkinan berkaitan dengan GPT-4, yang OpenAI tidak mendedahkannya untuk masa yang lama.

Malah, seawal penghujung tahun lalu, banyak khabar angin mengenai model GPT-4 telah bocor dalam industri mungkin mempunyai lebih daripada 100 trilion parameter (GPT -3 ialah 175 bilion), dan sesetengah pakar meramalkan bahawa GPT-4 akan memberi lebih perhatian kepada kawalan kos, dan bilangan parameter model tidak akan banyak berubah berbanding GPT-3. Menurut beberapa laporan media asing pada masa itu, GPT-4 akan dikeluarkan sekitar Februari 2023. Walaupun dinilai daripada prestasi OpenAI baru-baru ini dan ucapan CEOnya, maklumat ini tidak tepat. Tetapi menurut berita terkini dari New York Times, model GPT-4 mungkin akan dikeluarkan pada separuh pertama tahun 2023.

Dan data ujian yang berkaitan juga menunjukkan bahawa model potensi Bing Baharu yang dikemas kini mempunyai kependaman yang lebih rendah daripada ChatGPT. Di samping itu, berdasarkan prestasi perbualan sebenar, terdapat perbezaan tertentu antara Bing Baharu dan ChatGPT semasa semasa perbualan dengan pengguna, Bing Baharu menunjukkan keadaan yang lebih semula jadi dan naluri daripada ChatGPT. Tetapi apabila kegigihan perbualan meningkat, New Bing juga menunjukkan kecenderungan tindak balas berulang seperti model siri GPT.

2. Satu-satunya penyelesaian

Semasa keluaran ChatGPT, OpenAI pernah menyiarkan di blog rasminya bahawa syarikat itu telah "berpindah dari model awal mereka seperti GPT- 3 dan Pengajaran yang diperoleh daripada penggunaan Codex", kami memilih untuk menggunakan model hibrid RLHF (menggunakan isyarat maklum balas manusia untuk mengoptimumkan model bahasa secara langsung) dan pembelajaran diselia untuk melatih ChatGPT. Menurut OpenAI, menggunakan kaedah RLHF boleh mengurangkan kebarangkalian ChatGPT mengeluarkan maklumat berniat jahat dan salah ke tahap tertentu.

Tetapi dari perspektif New Bing, Microsoft pada masa itu terpaksa mempercepatkan kitaran latihan New Bing kerana persaingan dengan Google Bard. Kurang daripada tiga bulan antara pelancaran projek Bing Baharu Microsoft dan pengeluarannya tidak mencukupi untuk membina semula dan menyepadukan saluran latihan RLHF yang lengkap. Oleh itu, Microsoft masih harus menggunakan model pembelajaran diselia tradisional semasa melatih model New Bing. Ini juga telah menyebabkan Bing Baharu dibelenggu oleh masalah ketepatan yang disebabkan oleh pembangunan tergesa-gesa dan kekurangan latihan awal sejak dikeluarkan.

Menurut berita yang berkaitan, Microsoft kini cuba menyelesaikan masalah ketepatan kandungan yang dijana oleh New Bing dalam pelbagai cara dan telah mencapai beberapa keputusan, tetapi tidak ada sebutan yang jelas. dalam pelan pengoptimuman dan Bing Baharu menggunakan mod RLHF untuk melatih semula model. Dalam hal ini, sesetengah pakar membuat spekulasi bahawa Microsoft berkemungkinan mengoptimumkan kandungan terjana Bing Baharu dengan menyepadukan penapis penjanaan model bahasa AI yang lain.

Bekas penyelidik Playment AI, Khamisi juga menganalisis masalah ini dalam blog peribadinya: "Baik ChatGPT mahupun model awam yang lain pada masa ini tidak dapat mengawal penjanaan maklumat berniat jahat dan maklumat palsu. , jika Microsoft mahu untuk menaikkan had bilangan soalan dan jawapan pada New Bing, cara terbaik ialah menunggu OpenAI menyediakan beberapa model dengan keupayaan ini dan menggunakannya dalam New Bing Sekarang nampaknya Microsoft telah melakukan ini sedikit sebanyak ".

3. Peringkat kerjasama yang tidak dapat dipisahkan

Selain itu, perkara lain yang perlu diberi perhatian ialah walaupun hubungan kerjasama antara OpenAI dan Microsoft sentiasa rapat, dalam Sebelum " Mengenai Kerjasama ChatGPT pula, hubungan kedua-duanya jauh daripada mencapai tahap "memakai seluar yang sama". Dalam kerjasama dan tawaran sebelum ini, mereka tidak pernah terbuka antara satu sama lain dalam hal set data dan infrastruktur masing-masing.

Walau bagaimanapun, pada awal tahun ini, Microsoft mengumumkan fasa ketiga perkongsian jangka panjangnya dengan OpenAI Sebagai tambahan kepada pelaburan berbilion dolar selama beberapa tahun, yang lebih penting Perkara utama ialah: Dalam fasa ini, Microsoft membenarkan syarikat OpenAI dan pembangun mereka mengakses infrastruktur AI dalaman terbaik, model dan rantaian alat Microsoft melalui Azure. Selepas itu, OpenAI serta-merta meningkatkan lagi pelaburannya dalam data model.

Menurut laporan media asing: Bermula dari akhir Januari, OpenAI telah menyumber luar kerja pelabelan datanya kepada syarikat data di San Francisco, cuba bergantung pada data yang lebih tepat untuk membina penapis kandungan yang lebih baik untuk beberapa model AInya. Langkah OpenAI ini pada asasnya boleh dilihat sebagai ungkapan sokongan ikhlas untuk Microsoft selepas menerima sokongan. Menggabungkan fenomena di atas, kami mempunyai sebab untuk mempercayai bahawa Microsoft berkemungkinan telah memperoleh beberapa hak untuk menggunakan model GPT-4 dan telah mula mencuba untuk mengintegrasikannya ke dalam enjin carian dan robot perbualannya sendiri.

4 Ditulis pada penghujung

Ringkasnya, kerjasama antara Microsoft dan OpenAI telah memasuki zon air dalam, dan keluaran awam GPT-4 hanyalah sekitar sudut. Jika OpenAI ingin menjalankan ujian GPT-4 yang lebih lengkap sebelum keluaran rasminya, maka saudara besar Microsoft, yang mempunyai data dan pengguna yang besar, sudah pasti pilihan terbaik mereka, dan Microsoft, yang telah membuat keuntungan yang tidak terkira banyaknya daripada ChatGPT, kemungkinan besar akan terima dengan gembira permintaan lelaki muda ini, lagipun, dalam kalangan AI hari ini, tiada apa yang lebih kuat untuk menarik wang daripada model GPT.

Tetapi berdasarkan spekulasi terdahulu tentang model GPT-4, walaupun New Bing telah menyepadukan model GPT-4 secara dalaman, ia hanya perlu bergantung pada model kepada Beberapa Bing Baharu sedia ada. ciri telah dioptimumkan dan keupayaan inovatif GPT-4 tidak didedahkan kepada umum. Langkah ini sememangnya selaras dengan gaya konservatif Microsoft, apatah lagi pesaingnya Google baru sahaja menunjukkannya melalui Bard tidak lama dahulu 'jangan makan tauhu panas dengan tergesa-gesa" maksudnya? Walaupun Microsoft mahupun OpenAI tidak mendedahkan lebih banyak berita tentang New Bing dan GPT-4 kepada dunia luar setakat ini, selepas mengetahui tentang beberapa perkembangan semasa mereka, saya percaya jangkaan semua orang untuk masa depan telah meningkat.

Pautan rujukan:

https://blogs.microsoft.com/blog/microsoftandopenaiextendpartnership/

https://www.nytimes.com /technology/microsoft-ai-chatgpt-bing.html

https://time.com/6247678/openai-chatgpt-kenya-workers/

https://analyticsindiamag.com/ 13-not-to-miss-research-paper-on-llms/

Atas ialah kandungan terperinci Adakah mungkin Bing menyepadukan GPT-4? Adakah ini benar atau teori yang tidak berasas?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!