OpenAI melancarkan kemas kini utama kepada GPT chatbot API untuk pembangun dan menurunkan harga

Berita pada 14 Jun, OpenAI hari ini mengumumkan kemas kini utama kepada API model bahasa besarnya (termasuk GPT-4 dan gpt-3.5-turbo), termasuk fungsi panggilan fungsi baharu, Kurangkan penggunaan kos dan menyediakan versi 16,000 token untuk model gpt-3.5-turbo.

Model Bahasa Besar (LLM) ialah teknologi kecerdasan buatan yang boleh memproses bahasa semula jadi "context window"nya bersamaan dengan memori jangka pendek yang boleh menyimpan kandungan input atau kandungan dialog robot. Dalam model bahasa, meningkatkan saiz tetingkap konteks telah menjadi perlumbaan teknikal, dan Anthropic baru-baru ini mengumumkan bahawa model bahasa Claudenya boleh menyediakan 75,000 pilihan tetingkap konteks token. Selain itu, OpenAI juga telah membangunkan versi 32,000 token GPT-4, tetapi ia belum lagi dilancarkan secara terbuka.

OpenAI baru sahaja melancarkan versi tetingkap konteks 16000 baharu bagi gpt-3.5-turbo, dinamakan "gpt-3.5-turbo-16k", yang boleh mengendalikan input sehingga 16000 token panjang, yang bermaksud bahawa Memproses lebih kurang 20 halaman teks pada satu masa, ini merupakan peningkatan besar untuk pembangun yang perlu memodelkan pemprosesan dan menjana blok teks yang lebih besar.

Selain perubahan ini, OpenAI menyenaraikan sekurang-kurangnya empat ciri baharu utama yang lain:

• Memperkenalkan keupayaan panggilan fungsi dalam API Penyiapan Sembang
• Diperbaiki dan "lebih versi steerable" GPT-4 dan gpt-3.5-turbo
• Mengurangkan harga model terbenam "ada" sebanyak 75%
• Mengurangkan harga gpt -Harga token input 3.5 -model turbo telah dikurangkan sebanyak 25%

Fungsi panggilan fungsi memudahkan pembangun membina fungsi yang boleh memanggil alat luaran, menukar bahasa semula jadi kepada panggilan API luaran atau melakukan pertanyaan pangkalan data . Contohnya, ia boleh menukar input seperti "Hantar e-mel kepada Anya untuk melihat sama ada dia mahu kopi Jumaat depan" kepada panggilan fungsi seperti "hantar_email (ke: rentetan, badan: rentetan)". Khususnya, ciri ini turut memudahkan pengguna API menjana output dalam format JSON, sesuatu yang sebelum ini sukar dicapai.

Mengenai aspek "lebih terkawal", yang merupakan istilah teknikal untuk cara membuat LLM berkelakuan seperti yang anda mahu, OpenAI berkata model "gpt-3.5-turbo-0613" baharunya akan termasuk " Kawalan yang lebih dipercayai melalui fungsi mesej sistem". Mesej sistem ialah input arahan khas dalam API yang memberitahu model bagaimana untuk bertindak, seperti "Anda adalah Grimes dan anda hanya bercakap tentang milkshake."

Selain peningkatan fungsi, OpenAI juga menyediakan pengurangan kos yang banyak. . Terutama, harga token model gpt-3.5-turbo yang popular dikurangkan sebanyak 25%. Ini bermakna bahawa pembangun kini boleh menggunakan model ini untuk kira-kira $0.0015 setiap 1000 token dan $0.002 setiap 1000 token, yang bersamaan dengan kira-kira 700 halaman teks setiap dolar. Model gpt-3.5-turbo-16k berharga AS$0.003 setiap 1000 token dan AS$0.004 setiap 1000 token.

Selain itu, IT House mendapati OpenAI juga telah mengurangkan harga model pembenaman "text-embedding-ada-002" sebanyak 75%. Model benam ialah teknik yang membolehkan komputer memahami perkataan dan konsep, menukar bahasa semula jadi kepada bahasa digital yang boleh difahami oleh mesin, yang penting untuk tugasan seperti mencari teks dan mengesyorkan kandungan yang berkaitan.

Memandangkan OpenAI sentiasa mengemas kini modelnya, model lama tidak akan kekal. Hari ini, syarikat itu juga mengumumkan ia mula menamatkan beberapa versi awal modelnya, termasuk gpt-3.5-turbo-0301 dan gpt-4-0314. Pembangun boleh terus menggunakan model ini sehingga 13 September, selepas itu model lama ini tidak akan tersedia lagi, kata syarikat itu. Perlu diingat bahawa API GPT-4 OpenAI masih dalam senarai menunggu dan belum dibuka sepenuhnya.

Atas ialah kandungan terperinci OpenAI melancarkan kemas kini utama kepada GPT chatbot API untuk pembangun dan menurunkan harga. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!