OpenAI、出力サイズが大幅に拡張された新しい大規模言語モデルである GPT-4o Long Output を静かにリリース

OpenAI は資金難に直面していると伝えられていますが、それでもこの傑出した生成 AI 企業が新しいモデルやアップデートを着実にリリースし続けることを妨げるものではありません。

OpenAI は、GPT-4o ロング アウトプットと呼ばれる、GPT-4o 大規模言語モデルの新しいバリエーションを静かに発表しました。この新しいモデルは、大幅に拡張された出力サイズを誇り、オリジナルの GPT-4o の 4,000 トークンと比較して、最大 64,000 トークンの出力を生成できます。これは、出力容量が 16 倍に増加したことを示します。

記憶をすぐにリフレッシュするために説明すると、トークンは、LLM の舞台裏で意味論的な意味に基づいて編成された概念、文法構造、文字と数字の組み合わせを数値的に表現したものです。

たとえば、「こんにちは」という単語は 1 つのトークンですが、「こんにちは」も同様です。ここでは、OpenAI の Tokenizer を介して動作するトークンのインタラクティブなデモをご覧いただけます。機械学習研究者の Simon Willison も、優れたインタラクティブなトークン エンコーダー/デコーダーを持っています。

この新しいモデルは、より長い出力コンテキストを求める顧客の需要を満たすように設計されており、OpenAI の広報担当者は VentureBeat に次のように語っています。私たちは常にお客様のニーズに最大限に応える新しい方法をテストしています。」

このモデルは現在、数週間にわたるアルファ テスト段階にあり、その間に OpenAI は拡張出力がユーザーのニーズをどの程度効果的に満たしているかに関するデータを収集します。

この強化された機能は、コード編集や記述の改善など、詳細かつ広範な出力を必要とするアプリケーションに特に有利です。より拡張された出力を提供することで、GPT-4o モデルはより包括的で微妙な応答を提供でき、これらのユースケースに大きな利益をもたらします。

Sudah, sejak dilancarkan, GPT-4o menawarkan tetingkap konteks maksimum 128,000 — jumlah token yang model boleh kendalikan dalam mana-mana satu interaksi, termasuk token input dan output. Untuk Output Panjang GPT-4o, tetingkap konteks maksimum ini kekal pada 128,000.

Jadi bagaimanakah OpenAI dapat meningkatkan bilangan token output 16 kali ganda daripada 4,000 kepada 64,000 token sambil mengekalkan tetingkap konteks keseluruhan pada 128,000?

Panggilannya datang kepada beberapa matematik mudah: walaupun GPT-4o asal dari Mei mempunyai jumlah tetingkap konteks sebanyak 128,000 token, mesej output tunggalnya terhad kepada 4,000.

Begitu juga, untuk tetingkap mini GPT-4o baharu, jumlah konteks ialah 128,000 tetapi output maksimum telah dinaikkan kepada 16,000 token.

Ini bermakna untuk GPT-4o, pengguna boleh menyediakan sehingga 124,000 token sebagai input dan menerima sehingga 4,000 output maksimum daripada model dalam satu interaksi. Mereka juga boleh memberikan lebih banyak token sebagai input tetapi menerima lebih sedikit sebagai output, sambil masih menambah sehingga 128,000 jumlah token.

Untuk GPT-4o mini, pengguna boleh menyediakan sehingga 112,000 token sebagai input untuk mendapatkan output maksimum sebanyak 16,000 token kembali.

Untuk Output Panjang GPT-4o, jumlah tetingkap konteks masih dihadkan pada 128,000. Namun, kini, pengguna boleh memberikan input bernilai sehingga 64,000 token sebagai pertukaran untuk maksimum 64,000 token keluar semula — iaitu, jika pengguna atau pembangun aplikasi yang dibina di atasnya mahu mengutamakan respons LLM yang lebih panjang sambil mengehadkan input .

Dalam semua kes, pengguna atau pembangun mesti membuat pilihan atau tukar ganti: adakah mereka mahu mengorbankan beberapa token input demi output yang lebih panjang sementara masih kekal pada jumlah 128,000 token? Bagi pengguna yang mahukan jawapan yang lebih panjang, Output Panjang GPT-4o kini menawarkan ini sebagai pilihan.

Model GPT-4o Long Output baharu berharga seperti berikut:

Bandingkan dengan harga GPT-4o biasa iaitu $5 setiap juta token input dan $15 setiap juta keluaran, atau bahkan mini GPT-4o baharu pada $0.15 setiap juta input dan $0.60 setiap juta output, dan anda boleh melihat ia berharga agak secara agresif, meneruskan pendirian OpenAI baru-baru ini bahawa ia mahu menjadikan AI berkuasa mampu milik dan boleh diakses oleh sebahagian besar pangkalan pengguna pembangun.

Pada masa ini, akses kepada model percubaan ini terhad kepada sekumpulan kecil rakan kongsi yang dipercayai. Jurucakap itu menambah, "Kami sedang menjalankan ujian alfa selama beberapa minggu dengan sebilangan kecil rakan kongsi yang dipercayai untuk melihat sama ada output yang lebih panjang membantu kes penggunaan mereka."

Bergantung pada hasil fasa ujian ini, OpenAI mungkin mempertimbangkan untuk meluaskan akses kepada pangkalan pelanggan yang lebih luas.

Ujian alfa yang berterusan akan memberikan cerapan berharga tentang aplikasi praktikal dan potensi manfaat model keluaran lanjutan.

Jika maklum balas dari kumpulan awal

以上がOpenAI、出力サイズが大幅に拡張された新しい大規模言語モデルである GPT-4o Long Output を静かにリリースの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。