ChatGPT大型アップデート！ OpenAI がプログラマーにギフト パッケージを提供: API にキラー機能が追加され、価格が引き下げられ、新しいモデルと 4 倍のコンテキストが登場します

ChatGPT は一夜にして再び進化し、OpenAI は一度に大量のアップデートを開始しました。

#コアは API の新しい関数呼び出し機能であり、Web バージョンのプラグインと同様に、API は外部ツールも使用できます。

この機能は開発者の手に委ねられており、ChatGPT API が本来持っていない機能もさまざまなサードパーティ サービスによって解決できます。

これはキラー機能であり、ChatGPT API のリリース以来最も重要なアップデートであると考える人もいます。

さらに、ChatGPT API に関するこのアップデートは、それぞれが非常に重要です。容量が増加するだけでなく、価格も下がります:

• gpt-4-0613 および gpt-3.5-turbo-0613 モデルの新しいバージョンの紹介
• gpt-3.5-turbo コンテキスト長が 4k から 16k に 400% 増加しました
• gpt-3.5-turbo 入力トークンの価格が 25% 引き下げられます
• 最先端の埋め込みモデルの価格が 75% 引き下げられます
• GPT-4 API は、キューリストはクリアされます

このニュースが中国に伝わったとき、一部のネチズンはこれが国産大型モデルが直面する大きな課題であると信じていました。

API がツールをいつ使用するかを決定します

OpenAI の公式導入によると、関数呼び出しは新しいバージョンの GPT-4 と GPT の両方をサポートしています。 -3.5。

開発者は、使用する必要がある関数を記述するモデルのみが必要です。いつどの関数を呼び出すかは、プロンプトの単語に基づいてモデル自体によって決定されます。これは、ChatGPT がプラグインを呼び出すメカニズムと同じです。 。

具体的な使用方法について、公式は 3 つの例を示しています。

最初の 、チャットボットは外部 API を呼び出して操作を実行したり、質問に答えたりします。 「誰かにメールを送る」や「今日の天気は？」など。

2 番目の # では、自然言語を API 呼び出しまたはデータベース クエリ (「先月の注文は何件ありましたか?」など) に変換します。 「 」は SQL クエリ ステートメントを自動的に生成します。

3 番目の 、テキストから構造化データを自動的に抽出します。たとえば、必要な「名前、 「誕生日」、「場所」を指定してWebリンクを与えると、Wikipediaの記事に記載されているすべての文字情報を自動的に抽出できます。

この新機能は、大多数のネチズン、特に開発者を歓喜させ、これにより作業効率が大幅に向上すると述べています。

以前は、GPT で関数を呼び出したい場合は、LangChain のツールを使用する必要がありました。
……
LangChain は理論的には動作効率が高くなりますが、その信頼性は特別に調整された新しい GPT より劣ります。

更新バージョン、低価格

現在、モデルの新しいバージョンが徐々に反復され始めています。

最新バージョンの gpt-4-0613、gpt-3.5-turbo-0613、および拡張コンテキスト長 gpt-4-32k-0613 はすべて関数呼び出しをサポートしています。

gpt-3.5-turbo-16k は関数呼び出しをサポートせず、4 倍のコンテキスト長を提供します。これは、1 つのリクエストで約 20 ページのテキストをサポートできることを意味します。

古いモデルも徐々に廃止され始めています。

gpt-3.5-turbo および gpt-4 の初期バージョンを使用しているアプリは、6 月 27 日に新しいバージョンに自動的にアップグレードされます

移行にさらに時間が必要な開発者は、手動で次のバージョンを指定することもできます。続行 古いバージョンを使用してください。ただし、古いバージョンのリクエストはすべて、9 月 13 日以降完全に廃止されます。

このタイムラインについて話した後、価格を見てみましょう。

アップグレード後、OpenAI は製品の価格を上げなかっただけでなく、価格も引き下げました。

1 つ目は、最もよく使用される gpt-3.5-turbo (4k トークン バージョン) です。

入力トークンの価格は 25% 引き下げられ、1,000 トークンあたり 0.0015 米ドルになりました。これは、1 米ドルあたり 666,000 トークンに相当します。

出力トークンの 1,000 トークンあたりの価格は 0.002 米ドルです。これは 1 米ドルと 500,000 トークンに相当します。

英語のテキストに換算すると、1 ドルで約 700 ページになります。

埋め込みモデルの価格は大幅に下落し、直接 75% 削減されました。

トークン 1,000 個あたりのコストはわずか 0.0001 USD (1 USD と 1,000 万トークン) です。

さらに、新しく発売された GPT3.5-Turbo の 16K トークン バージョンは、4K バージョンの 4 倍の処理能力を提供しますが、価格はわずか 2 倍です。

入力トークンと出力トークンの価格は、それぞれ 1,000 トークンあたり 0.003 米ドルと 0.004 米ドルです。

さらに、数人のネチズンは月額料金が 100 円から数セントに下がったと報告していますが、具体的な状況はまだ不明です。

最後に、必要に応じて GPT-4 API テスト資格を取得するために列に並ぶことを忘れないでください。

OpenAIが「チェーン」をキャッチ、マイクロソフトはその後

多くのネチズンは、OpenAIの新しい「関数呼び出し」は基本的にラングチェーンの「ツール」のレプリカであると指摘した。

おそらく将来、OpenAI はチェーンやインデックスなど、ラングチェーンのさらに多くの機能もコピーするでしょう。

Langchain は、大規模モデルの分野で最も人気のあるオープン ソース開発フレームワークであり、さまざまな大規模モデルの機能を統合してアプリケーションを迅速に構築できます。

チームは最近、シードラウンドで 1,000 万米ドルの資金調達も受けました。

ただし、OpenAI のこのアップデートは、Langchain の起業家プロジェクトを直接「殺す」ものではありません。

しかし、開発者は当初、いくつかの機能を実装するために LangChain を必要としていましたが、現在はその必要がなくなりました。

# ラングチェーンの反応を見ると、生存欲求は確かに非常に強いです。

OpenAI がアップデートを正式にリリースしてから 10 分以内に、Langchain はすぐに「互換性についてはすでに取り組んでいる」と発表しました。

そして、1 時間も経たないうちに新しいバージョンがリリースされ、新しい公式機能をサポートするだけでなく、開発者がすでに作成したツールを OpenAI 機能に変換することもできます。

ネチズンは、開発スピードの恐ろしさを嘆くために列に並んだだけでなく、避けられない疑問についても考えました。 #OpenAI があなたの起業家プロジェクトを破壊したらどうしますか?

これに関して、OpenAI CEO の Sam Altman 氏が最近声明を発表しました。 ヒューマンループが5月末に開催した交流会で、アルトマン氏はかつて次のように述べました:

ChatGPTなどのコンシューマレベルのアプリケーションを除き、顧客との競合を避けるように努めてください。 。

現在、開発ツールは競争回避の範囲には含まれていないようです。

OpenAI と競合するスタートアップ企業に加えて、無視できない存在があります。

OpenAI の最大のスポンサーである Microsoft も、Azure クラウドを通じて OpenAI API サービスを提供しています。

つい最近、一部の開発者は、公式 OpenAI API から Microsoft Azure バージョンに切り替えた後、パフォーマンスが大幅に向上したと報告しました。 ＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃ 具体的には： ＃＃＃

• レイテンシの中央値が 15 秒から 3 秒に短縮されました
• 95 パーセンタイルのレイテンシが 60 秒から 15 秒に短縮されました
• 1 秒あたりに処理されるトークンの平均数が 3 倍に増加しました。 8が24に増えました。

Azure の割引も含めると、以前よりもさらに安くなりました。

#ただし、Microsoft Azure の更新速度は、一般的に OpenAI よりも数週間遅くなります。

開発段階では OpenAI を使用して迅速な反復を行い、大規模な展開には Microsoft Azure に移行します。

アップデートのお知らせ https://openai.com/blog/function-calling-and-other-api-updates。

GPT-4 API キュー https://openai.com/waitlist/gpt-4-api。

参考リンク:
[1]https://news .ycombinator.com/item?id=36313348。

[2]https://twitter.com/svpino/status/1668695130570903552。

[3]https://weibo.com/1727858283/N5cjr0jBq。

[4]https://twitter.com/LangChainAI/status/1668671302624747520。

[5]https://twitter.com/hwchase17/status/1668682373767020545。

[6]https://twitter.com/ItakGol/status/1668336193270865921。

以上がChatGPT大型アップデート！ OpenAI がプログラマーにギフト パッケージを提供: API にキラー機能が追加され、価格が引き下げられ、新しいモデルと 4 倍のコンテキストが登場しますの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。