首頁  >  文章  >  科技週邊  >  ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

WBOY
WBOY轉載
2023-06-15 09:08:55857瀏覽

ChatGPT一夜再次進化,OpenAI一口氣推出大量更新!

ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

最核心的是API新增函數呼叫(Function calling)能力,與網頁版的外掛類似,API也能使用外部工具了。

這個能力被交到開發者手上,ChatGPT API原本不具備的能力也都能靠各種第三方服務解決了。

有人認為,這是一個殺手級特性,也是自ChatGPT API發布以來最重要的更新。

ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

另外這次關於ChatGPT API的更新每一個都很重磅,不僅能力加量,價格還更低了:

  • 推出新版gpt-4-0613和gpt-3.5-turbo-0613模型
  • gpt-3.5-turbo上下文長度增加400%,從4k成長到16k
  • gpt-3.5-turbo輸入token降價25%
  • #最先進embeddings model降價75%
  • GPT-4 API大規模開放,直到清空排隊清單為止

消息到了國內,也有網友認為這是國內大模型面臨的重大挑戰。

ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

何時使用工具,API自己決定

根據OpenAI官方介紹,函數呼叫同時支援新版GPT-4和GPT-3.5。

開發者只需要模型描述需要用到的函數,何時呼叫哪個函數都是模型根據提示字自己決定的,與ChatGPT呼叫插件的機制一樣。

對於具體使用方法,官方給了三個例子:

第一,聊天機器人呼叫外部API執行或回答問題,如“給某人發郵件”或“今天的天氣如何?”。

ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

第二,將自然語言轉換為API呼叫或資料庫查詢,例如「上個月有多少訂單? 」會自動產生SQL查詢語句。

ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

第三,從文字中自動擷取結構化數據,如只需要定義好需要的「人名、生日、位置”,再給個網頁鏈接,就可以自動提取一篇維基百科文章中提到的所有人物資訊。

ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

這項新功能讓廣大網友、特別是開發者為之歡呼,表示有了它工作效率將大大提高。

以前,想要讓GPT呼叫函數需要使用LangChain的工具才能實現。
……
儘管LangChain理論上擁有更高的運作效率,但可靠性要遜於經過專門調教的新GPT。

ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

更新版本,更低價格

目前,新版本的模型已經逐步開始迭代。

最新版gpt-4-0613、gpt-3.5-turbo-0613與擴充上下文長度的gpt-4-32k-0613都支援函數呼叫。

gpt-3.5-turbo-16k不支援函數調用,提供4倍上下文長度,意味著一次請求可支援約20頁文字。

舊模型也開始逐步廢棄。

使用初始版本gpt-3.5-turbo、gpt-4的應用程式將於6月27日自動升級到新版本

需要更多時間過渡的開發者也可以手動指定繼續使用舊版本,但9月13日之後所有舊版本請求將徹底廢棄。

說完這個時間線,我們再來看看價格。

升級之後,OpenAI不僅沒有讓產品漲價,反而下調了價格。

首先是使用量最大的的gpt-3.5-turbo(4k token版)。

輸入token的價格降低了25%,現在0.0015美元每千token,也就是1美元66.6萬token。

而輸出token每千token的價格則為0.002美元,也就是1美元50萬token。

換算成英文文本的話,大致是1美元700頁。

嵌入模型(embeddings model)的價格更是大跳水,直接降低了75%。

每千token只要0.0001美金,也就是1美元一千萬token。

此外,新推出的16K token版GPT3.5-Turbo提供了4K版本四倍的處理能力,但價格只有兩倍。

輸入及輸出token的價格分別是0.003和0.004美元每千token。

另外還有少數網友反應,當月帳單直接從100到降到幾美分了,目前還不清楚具體什麼情況。

ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

最後,有需要的話也不要忘記去排隊GPT-4 API的測試資格。

OpenAI捕“Chain”,微軟在後

不少網友指出,OpenAI新出的“函數調用”基本上就是Langchain裡“Tools”的翻版。

也許接下來,OpenAI還會翻版Langchain的更多功能,如Chains和Indexes。

ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

Langchain是大模型領域最火的開源開發框架,能夠把各種大模型能力整合起來快速建立應用程式。

團隊最近也剛獲得1000萬美元種子輪融資。

雖然OpenAI的這次更新還不至於直接「殺死」Langchain這個創業計畫。

但是開發者們本來需要LangChain才能實現一些功能,現在確實不再需要了。

ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

再看Langchain一方的反應,求生欲也確實很強。

在OpenAI官推發布更新的10分鐘之內,Langchain立刻宣布「已經在做相容工作了」。

ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

並且不到一小時就發布了新版本,支援官方新功能之外,還可以把開發者已經寫好的tools轉換成OpenAI的functions。

ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

一眾網友除了排隊感嘆這快得離譜的開發速度,還思考起一個無法迴避的問題:

OpenAI把你的創業專案做了怎麼辦?

對此,OpenAI執行長Sam Altman最近剛好做過一次表態。

在5月底Humanloop舉辦的交流會上,Altman曾表示:

除了ChatGPT類型的消費級應用之外,盡量避免與客戶競爭。

現在看來,開發工具似乎不算在避免競爭的範圍之內。

而與OpenAI形成競爭關係的除了創業公司,還有一個不可忽視的存在:

微軟,OpenAI最大金主,透過Azure雲端也對外提供OpenAI API服務。

就在最近,有開發者回饋,從OpenAI官方API切換到微軟Azure版本後,效能顯著提升。

ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

具體來說:

  • median latency從15秒減少到3秒
  • 95th percentile latency從60秒減少到15秒
  • 平均每秒處理的token數量增加了三倍,從8個增加到24個。

再算上Azure給的一些折扣,甚至比原來還便宜了。

ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了

但微軟Azure的更新速度一般比OpenAI慢上好幾週。

開發階段快速迭代用OpenAI,大規模部署轉去微軟Azure,你學到了麼?

更新公告https://openai.com/blog/function-calling-and-other-api-updates。

GPT-4 API排隊https://openai.com/waitlist/gpt-4-api。

參考連結:
#[1]https://news .ycombinator.com/item?id=36313348。

[2]https://twitter.com/svpino/status/1668695130570903552。

[3]https://weibo.com/1727858283/N5cjr0jBq。

[4]https://twitter.com/LangChainAI/status/1668671302624747520。

[5]https://twitter.com/hwchase17/status/1668682373767020545。

[6]https://twitter.com/ItakGol/status/1668336193270865921。

#

以上是ChatGPT大更新! OpenAI奉上程式設計師大禮包:API新增殺手級能力還降價,新模型、四倍上下文都來了的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:51cto.com。如有侵權,請聯絡admin@php.cn刪除