Adakah Respons ChatGPT Mempunyai Had Watak atau Perkataan?

ChatGPT adalah berita besar. Tetapi sejauh manakah respons yang anda perolehi daripada chatbot serba guna ini?

Mewujudkan ini tidak semudah yang anda sangkakan. Sebagai permulaan, tanya ChatGPT soalan ini, dan anda akan yakin bahawa tiada had yang ditetapkan untuk panjang jawapannya.

Walau bagaimanapun, seperti yang kita dedahkan di sini, ia tidak semudah itu. Terdapat had tersembunyi untuk panjang respons ChatGPT, tetapi terdapat juga beberapa penyelesaian yang bagus dan mudah untuk membantu anda mendapatkan jawapan yang lebih panjang.

Bagaimanakah ChatGPT Menentukan Panjang Respons?

Cara ChatGPT berfungsi adalah rumit, dan panjang respons berbeza-beza bergantung pada perkara yang ditanya dan tahap butiran yang diminta. Seperti yang ditunjukkan oleh tangkapan skrin seterusnya, ChatGPT mendakwa tiada had yang ketat.

Sudah tentu, bertanya kepada ChatGPT tentang dirinya sendiri bukanlah idea yang baik kerana ia biasanya tidak objektif tentang kebolehannya atau mempunyai maklumat yang terhad. Jadi, kami menjalankan beberapa ujian untuk menentukan had panjang respons ChatGPT. Kami meminta chatbot untuk menulis artikel 5000 perkataan mengenai sejarah Piala Dunia FIFA. Penilaian ChatGPT terhadap dirinya sendiri berbeza daripada hasil yang kami temui.

ChatGPT ialah alat yang berkuasa. Tetapi mungkin 5,000 patah perkataan terlalu banyak, jadi saya meminta 2,500 patah perkataan.

ChatGPT masih mengatakan ia tidak dapat memenuhi permintaan. Kami bekerja sehingga 1,000 patah perkataan sebelum chatbot menghasilkan artikel. Tetapi terdapat satu lagi masalah: tidak kira berapa kali kami mencuba, ChatGPT tidak dapat menghasilkan 1,000 perkataan mengenai subjek itu. Tapi kenapa? Apakah yang mengehadkan keupayaan chatbot untuk menghasilkan balasan yang lebih panjang?

Sebahagian daripada jawapan mengapa ini berlaku terletak pada sesuatu yang dipanggil sistem token.

Apakah Yang Digunakan oleh Sistem Token ChatGPT?

Apabila anda bertanya soalan kepada ChatGPT, panjang balasan yang boleh diberikannya bergantung pada sistem token. Daripada kiraan perkataan mudah untuk menentukan panjang kedua-dua pertanyaan dan jawapan, ChatGPT menggunakan sistem ini. perasan sesuatu? Panjang kedua-dua "pertanyaan dan jawapan" diambil kira. Sistem token memecahkan setiap input dan output kepada satu siri token untuk mengklasifikasikan permintaan dan saiz tindak balas.

Walaupun bilangan perkataan memainkan peranan dalam perkara ini, ia bukanlah keseluruhan cerita. Sebagai contoh, contoh di bawah telah dimasukkan ke dalam alat Tokenizer OpenAI.

Ayat "Berapa banyak perkataan yang telah saya taip" dan jawapan "6" telah "ditoken" kepada nilai sembilan token. Ini selaras dengan "peraturan ibu jari" OpenAI bahawa satu token bersamaan dengan sekitar tiga perempat daripada perkataan.

Di sinilah keadaan menjadi sedikit rumit. Model GPT OpenAI datang dalam pelbagai panjang token. Model GPT-4 standard yang disertakan dengan langganan ChatGPT Plus anda menawarkan mana-mana sahaja antara panjang konteks token 4k dan 8k. OpenAI juga menyediakan model GPT-4 panjang konteks token 32k yang dilanjutkan. Siri GPT-3.5 menawarkan lebih banyak jenis token. Terdapat model 4k, 8k dan 16k GPT-3.5. Walau bagaimanapun, tidak semua model ini tersedia untuk umum.

Kami menggunakan asas GPT-3.5 dan model GPT-4 8k yang sepatutnya untuk ujian ini. Kami menyebut "sepatutnya" kerana teg 8k tidak keluar semasa kami menjalankan ujian tetingkap konteks. Dan kemudian terdapat fakta bahawa tiada pengesahan daripada sumber rasmi bahawa model GPT-4 di chat.openai.com ialah model 8k.

Model asas GPT 3.5 4k sepatutnya menyekat soalan pengguna dan membalas 4,097 token. Begitu juga, model GPT-4 8k sepatutnya menyampaikan 8,192 token. Dengan pengiraan OpenAI, ini bersamaan dengan kira-kira 3,000 perkataan untuk GPT-3.5 dan sekitar 5,000 hingga 6,000 perkataan untuk token GPT-4 8k. Tapi tunggu sekejap. Dengan anggaran 3,000 hingga 6,000 perkataan kapasiti pada mana-mana model, mengapa ChatGPT tidak dapat menyampaikan artikel 2,500 perkataan atau bahkan 1,500 perkataan apabila kami meminta? Mengapakah respons ChatGPT jauh lebih rendah daripada kiraan token yang diiklankan atau panjang konteksnya?

Mengapa Respons ChatGPT Terhad?

Walaupun panjang token kelihatan mudah dan baik dari segi teori, terdapat lebih banyak cara model AI mempertimbangkan had ini. Terdapat dua pertimbangan yang ketara.

Perbualan Lepas: Oleh kerana ChatGPT ialah chatbot perbualan, setiap kali anda bertanya soalan, chatbot menganggap perbualan lama untuk kekal konsisten dan memastikan interaksi yang terdengar semula jadi. Ini bermakna dalam perbualan yang lebih panjang, gesaan dan respons yang lebih lama selalu dianggap sebagai sebahagian daripada tetingkap konteks dan akhirnya memakan panjang token anda. Jadi, bukan hanya soalan dan balasan segera yang dipertimbangkan dalam pengiraan tetingkap konteks. Permintaan Sistem: ChatGPT telah menjadi salah satu aplikasi yang paling pesat berkembang sepanjang masa. Ini telah menjana permintaan yang besar untuk ChatGPT. Untuk memastikan semua orang mendapat sebahagian daripada tindakan, 8k token mungkin tidak selalunya 8k. Ingat, lebih banyak token untuk diproses, lebih banyak permintaan pada sistem. Untuk mengurangkan purata permintaan daripada setiap pengguna, respons dihadkan sehingga jauh di bawah had yang dinyatakan.

Untuk menegaskan, ini bukan peraturan tetap—kami menghasilkan output yang melebihi ini dengan hampir dua ratus perkataan. Walau bagaimanapun, ini boleh dianggap sebagai had atas yang selamat untuk mencapai jawapan yang lengkap.

Cara Mendapatkan Jawapan Lebih Panjang Daripada ChatGPT

Sebaik sahaja anda memahami bahawa terdapat "had tersembunyi" untuk respons ChatGPT, terdapat beberapa cara mudah untuk membantu anda mendapatkan respons yang lebih lengkap.

Minta ChatGPT untuk Meneruskan: Jika ChatGPT berhenti di tengah-tengah jawapan, maka satu pilihan adalah dengan hanya memintanya untuk meneruskan. Dalam contoh di bawah, kami menaip "Teruskan", dan ia menambah dua ratus perkataan lagi pada respons. Pecah soalan anda kepada bahagian yang lebih kecil: Sebagai contoh, kami memintanya beberapa kali untuk menulis esei tentang kesan AI terhadap masyarakat . Satu pilihan di sini ialah memintanya untuk menunjukkan titik tumpu beberapa topik untuk esei tentang AI, kemudian gunakan titik tumpu yang dibekalkan sebagai gesaan individu. Gunakan pilihan Jana Semula: Walaupun ini mungkin menimbulkan ralat yang sama, tanpa kehilangan apa-apa, ia sentiasa bernilai. Tentukan had atas bagi kiraan perkataan anda dalam gesaan anda: Imej di bawah menggambarkan cara ini boleh digunakan untuk memanipulasi kiraan perkataan maksimum dalam jawapan. Mulakan perbualan baharu: memulakan perbualan baharu memberi anda peluang untuk bekerja. Ingat, ChatGPT mempertimbangkan gesaan dan respons yang lalu dalam perbualan. Memulakan sembang baharu memberi anda konteks yang tidak digunakan untuk digunakan.

Petua ini akan membantu anda mendapatkan jawapan yang lebih lengkap daripada ChatGPT dan mengatasi had tidak rasmi dalam tempoh responsnya.

ChatGPT: Kualiti Daripada Kuantiti

Walaupun tiada maklumat rasmi tentang tempoh maksimum jawapan ChatGPT, dalam amalan, terdapat kekangan tersembunyi. Sistem token, dipengaruhi oleh perbualan lalu dan permintaan sistem, semuanya memberi kesan kepada berapa lama jawapan ChatGPT boleh. Walau bagaimanapun, dengan meminta ChatGPT meneruskan, memecahkan soalan kepada beberapa bahagian, menjana semula respons, menentukan jumlah perkataan dan memulakan sembang baharu, anda selalunya boleh mendapat balasan yang lebih lengkap dan lebih panjang. Walaupun tidak sempurna, mengetahui had tidak rasmi ini dan menggunakan teknik yang betul boleh membantu anda memanfaatkan sepenuhnya AI chatbot yang berkuasa ini.

Atas ialah kandungan terperinci Adakah Respons ChatGPT Mempunyai Had Watak atau Perkataan?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!