GPT-4 telah memulakan ujian dalaman versi panjang input 32000! Adakah anda telah menerima jemputan?

Xi Xiaoyao Technology Talk Original
Pengarang |. Xiaoxi, ZenMoore

Apakah masalah terbesar dengan GPT-4 sekarang? Mungkin selain daripada halusinasi sementara mesin yang dia tidak dapat berbuat apa-apa, ia adalah panjang input yang tersekat. Walaupun panjang konteks kira-kira 8,000 versi biasa semasa GPT-4 mungkin lebih daripada mencukupi dalam perbualan umum dan senario carian, versi asas semasa GPT-4 masih agak meluas dalam aspek seperti penjanaan kandungan dan pembacaan pintar.

Walau bagaimanapun, dalam sidang akhbar GPT-4 juga telah disebut bahawa sebenarnya GPT-4 menyokong panjang token 32768, tetapi ia belum dikeluarkan sepenuhnya, tetapi akan dikemas kini secara automatik satu demi satu. Dalam dua hari yang lalu, fajar 32k GPT-4 nampaknya akan datang tidak lama lagi! Ramai pengguna GPT-4 sudah boleh melihat pilihan GPT-4 32k di PlayGround mereka.

Dalam API, anda juga boleh memanggil versi yang dinaik taraf dengan menyatakan Model GPT-4-32K

Walau bagaimanapun, ini masih harus menjadi ujian dalaman GPT-4 untuk sesetengah pengguna, dan kuota ujian dalaman tidak boleh dikeluarkan mengikut masa permohonan untuk senarai tunggu Pengguna yang menerima versi 32k ujian dalaman menyertai senarai tunggu pada 16 Mac, tetapi Terdapat juga pengguna yang menyertai pada masa yang sama dan tidak membuka kunci versi 32k. Satu sebab yang mungkin ialah pengguna yang menerima versi beta tertutup menekankan minat mereka yang besar terhadap 32k GPT-4 semasa mendaftar.

Sudah tentu, tidak kira apa, 32k GPT-4 nampaknya semakin dekat dengan kita, jadi apakah jenis imaginasi yang akan dibawa oleh 32k GPT-4? berkuat kuasa? Lagipun, ia adalah dua kali lebih mahal daripada versi 8k GPT-4, dan mungkin mempunyai masa tindak balas yang lebih perlahan...

Salah satu contoh ialah bot perbualan, apabila If panjang konteks dilanjutkan kepada 50 halaman, masalah pembenaman kompleks yang disebabkan oleh gelongsor keluar dari tetingkap 8k boleh dielakkan dengan baik. Contoh lain ialah pengekstrakan dan tafsiran sejumlah besar maklumat kompleks seperti kertas kerja dan laporan penyelidikan Pada masa ini, data mesti dibahagikan dan diekstrak langkah demi langkah melalui kaedah berstruktur Walau bagaimanapun, panjang konteks 32k boleh menyelamatkan masalah ini dalam satu terjatuh. Contoh lain ialah ujian kecil yang dilakukan oleh blogger Twitter Matt Shumer Dengan menyediakan GPT-4 32k dengan sampel kod, ia menyelesaikan satu set lengkap kes ujian dalam beberapa saat, yang juga sangat berguna untuk kejuruteraan.

Selain OpenAI, terdapat juga model sumber terbuka yang membuka model bahasa berskala besar dengan panjang konteks yang lebih besar. MPT-7B ini (juga dikenali sebagai Llongboi) telah dikeluarkan pada 5hb bulan ini Sorotan terbesar Llongboi, yang menelan belanja 200,000 dolar AS untuk dilatih, ialah ia menyokong konteks 64k dan boleh menyajikan pelbagai senario seperti penjanaan kandungan. dan bersembang.

Alamat blog: https://www.php.cn/link/894a200a66c2b57205af564d6883882a

Pautan projek: Pautan projek ://www.php.cn/link/18fe8ebf5d52c8992581f439ba783aa3

Sudah tentu, prestasi dan kestabilan projek sumber terbuka pastinya tidak setanding dengan GPT-4 sekarang kerana sesetengah orang telah mula menerima 32k Jemputan GPT- 4, saya percaya ia pasti akan menemui kita tidak lama lagi, jadi marilah kita "Semoga ia mempercepatkan"!

Atas ialah kandungan terperinci GPT-4 telah memulakan ujian dalaman versi panjang input 32000! Adakah anda telah menerima jemputan?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!