OpenAI, 출력 크기가 크게 확장된 새로운 대형 언어 모델인 GPT-4o 긴 출력을 조용히 출시

OpenAI는 현금 경색에 주목하고 있는 것으로 알려졌지만, 이것이 탁월한 생성 AI 회사가 계속해서 새로운 모델과 업데이트를 꾸준히 출시하는 것을 막지는 못합니다.

OpenAI는 GPT-4o Long Output이라는 GPT-4o 대형 언어 모델의 새로운 변형을 조용히 발표했습니다. 이 새로운 모델은 원래 GPT-4o의 4,000개 토큰에 비해 최대 64,000개 토큰의 출력을 생성할 수 있는 대폭 확장된 출력 크기를 자랑합니다. 이는 출력 용량이 16배 증가한 것을 의미합니다.

토큰은 기억을 빠르게 되살리기 위한 개념, 문법 구조, LLM 이면의 의미론적 의미에 따라 구성된 문자와 숫자의 조합을 숫자로 표현한 것입니다.

예를 들어 "Hello"라는 단어는 하나의 토큰이지만 "hi"도 마찬가지입니다. 여기에서 OpenAI의 Tokenizer를 통해 작동 중인 토큰의 대화형 데모를 볼 수 있습니다. 기계 학습 연구원인 Simon Willison도 훌륭한 대화형 토큰 인코더/디코더를 보유하고 있습니다.

이 새로운 모델은 더 긴 출력 컨텍스트에 대한 고객 요구를 충족하도록 설계되었으며 OpenAI 대변인은 VentureBeat에 다음과 같이 말했습니다. “고객으로부터 더 긴 출력 컨텍스트를 원한다는 피드백을 들었습니다. 우리는 항상 고객의 요구 사항을 가장 잘 충족할 수 있는 새로운 방법을 테스트하고 있습니다.”

이 모델은 현재 몇 주 동안 알파 테스트 단계를 거치고 있으며, 이 기간 동안 OpenAI는 확장된 출력이 사용자 요구 사항을 얼마나 효과적으로 충족하는지에 대한 데이터를 수집할 것입니다.

이 향상된 기능은 코드 편집 및 작성 개선과 같이 상세하고 광범위한 출력이 필요한 애플리케이션에 특히 유리합니다. 더 확장된 출력을 제공함으로써 GPT-4o 모델은 더 포괄적이고 미묘한 응답을 제공할 수 있으며 이는 이러한 사용 사례에 큰 이점을 줄 수 있습니다.

Sudah, sejak dilancarkan, GPT-4o menawarkan tetingkap konteks maksimum 128,000 — jumlah token yang model boleh kendalikan dalam mana-mana satu interaksi, termasuk token input dan output. Untuk Output Panjang GPT-4o, tetingkap konteks maksimum ini kekal pada 128,000.

Jadi bagaimanakah OpenAI dapat meningkatkan bilangan token output 16 kali ganda daripada 4,000 kepada 64,000 token sambil mengekalkan tetingkap konteks keseluruhan pada 128,000?

Panggilannya datang kepada beberapa matematik mudah: walaupun GPT-4o asal dari Mei mempunyai jumlah tetingkap konteks sebanyak 128,000 token, mesej output tunggalnya terhad kepada 4,000.

Begitu juga, untuk tetingkap mini GPT-4o baharu, jumlah konteks ialah 128,000 tetapi output maksimum telah dinaikkan kepada 16,000 token.

Ini bermakna untuk GPT-4o, pengguna boleh menyediakan sehingga 124,000 token sebagai input dan menerima sehingga 4,000 output maksimum daripada model dalam satu interaksi. Mereka juga boleh memberikan lebih banyak token sebagai input tetapi menerima lebih sedikit sebagai output, sambil masih menambah sehingga 128,000 jumlah token.

Untuk GPT-4o mini, pengguna boleh menyediakan sehingga 112,000 token sebagai input untuk mendapatkan output maksimum sebanyak 16,000 token kembali.

Untuk Output Panjang GPT-4o, jumlah tetingkap konteks masih dihadkan pada 128,000. Namun, kini, pengguna boleh memberikan input bernilai sehingga 64,000 token sebagai pertukaran untuk maksimum 64,000 token keluar semula — iaitu, jika pengguna atau pembangun aplikasi yang dibina di atasnya mahu mengutamakan respons LLM yang lebih panjang sambil mengehadkan input .

Dalam semua kes, pengguna atau pembangun mesti membuat pilihan atau tukar ganti: adakah mereka mahu mengorbankan beberapa token input demi output yang lebih panjang sementara masih kekal pada jumlah 128,000 token? Bagi pengguna yang mahukan jawapan yang lebih panjang, Output Panjang GPT-4o kini menawarkan ini sebagai pilihan.

Model GPT-4o Long Output baharu berharga seperti berikut:

Bandingkan dengan harga GPT-4o biasa iaitu $5 setiap juta token input dan $15 setiap juta keluaran, atau bahkan mini GPT-4o baharu pada $0.15 setiap juta input dan $0.60 setiap juta output, dan anda boleh melihat ia berharga agak secara agresif, meneruskan pendirian OpenAI baru-baru ini bahawa ia mahu menjadikan AI berkuasa mampu milik dan boleh diakses oleh sebahagian besar pangkalan pengguna pembangun.

Pada masa ini, akses kepada model percubaan ini terhad kepada sekumpulan kecil rakan kongsi yang dipercayai. Jurucakap itu menambah, "Kami sedang menjalankan ujian alfa selama beberapa minggu dengan sebilangan kecil rakan kongsi yang dipercayai untuk melihat sama ada output yang lebih panjang membantu kes penggunaan mereka."

Bergantung pada hasil fasa ujian ini, OpenAI mungkin mempertimbangkan untuk meluaskan akses kepada pangkalan pelanggan yang lebih luas.

Ujian alfa yang berterusan akan memberikan cerapan berharga tentang aplikasi praktikal dan potensi manfaat model keluaran lanjutan.

Jika maklum balas dari kumpulan awal

위 내용은 OpenAI, 출력 크기가 크게 확장된 새로운 대형 언어 모델인 GPT-4o 긴 출력을 조용히 출시의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!