有沒有可能Bing正在整合GPT-4？這是否屬實還是無根之論？

作者| 徐傑承

在微軟New Bing發布前，絕大部分人對其的預測都是－New Bing的整體表現將會與ChatGPT極為相似，即使二者在細節層面有某些差異，使用者也應無法從體驗角度發現這些差異。然而隨著New Bing的發布與更新，越來越多的人開始懷疑，微軟與O​​penAI此前那宗100億美元的交易，似乎不止關係到ChatGPT這一個「寶貝」。

1、微軟官宣：整合全新模型

雖然New Bing與ChatGPT都基於GPT 3.5系列模型微調而成，但在2月中旬，微軟宣稱已將一種全新的AI語言模型整合到了New Bing之中，使其能夠擁有比ChatGPT更優秀的表現。雖然時至今日微軟仍沒有明確表示新AI模型的來源及相關數據等信息，但部分業內人士猜測該模型很可能與OpenAI遲遲未公開的GPT-4有關。

其實早在去年年底，業內上便已流出了大量關於GPT-4模型的傳聞，部分消息稱GPT-4模型或將擁有超100萬億參數（GPT -3為1750億），也有專家預測GPT-4將更加重視成本控制，模型參數量相比於GPT-3不會有太大變化。根據當時部分外媒報道，GPT-4會於2023年2月左右發布，雖然透過近期OpenAI的種種表現及其CEO的發言來看，該資訊並不準確。但根據《紐約時報》最新消息指出：GPT-4模型將有可能在2023年上半年發布。

且相關測試數據也顯示，更新後的New Bing潛在模型比ChatGPT的延遲更低。此外，從實際的對話表現來看，目前的New Bing與ChatGPT也存在著一定區別，在與用戶對話過程中，New Bing表現出了比ChatGPT更自然、更本能的狀態。但當對話持續性增加時，New Bing也出現了像GPT系列模型一樣的重複回應趨勢。

2、唯一解決方案

在ChatGPT發布期間，OpenAI曾透過其官方部落格發文表示：公司已經「從他們的早期模型如GPT-3和Codex的部署中吸取了教訓”，選擇使用RLHF(利用人類反饋信號直接優化語言模型)和監督學習的混合模式來訓練ChatGPT。根據OpenAI介紹，使用RLHF方式可以一定程度上降低ChatGPT輸出惡意及錯誤訊息的機率。

但從New Bing的角度來看，彼時的微軟迫於與GoogleBard的競爭，不得不加快New Bing的訓練週期。微軟在啟動New Bing計畫到發布期間的不到3個月時間內，是不足以重建完整的RLHF訓練通道並進行整合的。因此微軟在進行New Bing的模型訓練時所採用的應當依然是傳統的監督學習模式。這也導致了New Bing自發布以來，一直受到由開發倉促、缺乏前期訓練所帶來的準確性問題的困擾。

而據相關消息顯示，微軟目前正在透過多種方式嘗試解決New Bing生成內容準確性的問題並已取得了一些成果，但優化方案中並沒有明確提及New Bing使用了RLHF模式重新訓練模型。對此，部分專家推測，微軟很有可能是透過整合其他AI語言模型產生濾鏡的方式對New Bing的生成內容進行了最佳化。

前Playment AI研究員Khamisi也在自己的個人部落格中分析了這個問題：「無論ChatGPT或目前公開的其他模型都無法很好的控制產生惡意資訊及虛假訊息，如果微軟希望解除對New Bing的問答次數限制，最好的方式就是等待OpenAI給出一些具備該能力的模型並在New Bing中使用它們，如今看來微軟似乎已經在某種程度上做到了這件事。」

3、如膠似漆的合作階段

此外，另一點值得注意的是，儘管OpenAI和微軟的合作關係一直十分密切，但在「關於ChatGPT的合作」之前，二者之間的關係還遠遠未達到「同穿一條褲子」的程度。在先前的種種合作及交易中，當涉及到資料集以及各自的基礎設施時，他們可以說從未對彼此敞開心扉。

然而就在今年年初，微軟宣布了與OpenAI長期合作夥伴關係的第三階段，除了數年中數十億美元的投資外，更重要的一點是：微軟在該階段中允許了OpenAI公司及其開發人員透過Azure存取微軟內部最好的AI基礎設施、模型和工具鏈。而在此之後，OpenAI也立即進一步加大了模型資料上的投入。

#

據外媒報導：從1月底開始，OpenAI已將其數據標記工作外包給了一家於舊金山的數據公司，試圖依靠更準確的數據為其部分AI模型建立更優質的內容過濾器。而OpenAI的這一舉動，基本可以看做是在得到支持後對微軟表示衷心。結合以上種種現象，我們有理由相信微軟目前很可能已經獲得了GPT-4模型的部分使用權限，並已開始嘗試將其整合進自家搜尋引擎及對話機器人之中。

4、寫在最後

總之無論如何，如今微軟與OpenAI的合作已經進入深水區，且GPT-4的公開發布也已指日可待。如果OpenAI希望在正式發布前對GPT-4進行更加完善的測試，那麼擁有大量數據及用戶的老大哥微軟無疑是他們最好的選擇，而從ChatGPT中獲利無數的微軟也大概率會欣然接受這位小老弟的請求，畢竟在現今的AI圈內，已經沒什麼能比GPT模型的吸金能力更強了。

但從先前多方對GPT-4模型的推測來看，即使目前New Bing已經在內部實現了對GPT-4模型的集成，其應當也只是依靠模型對New Bing的部分現有功能進行了優化，並未將GPT-4的創新性能力公之於眾，這一舉措也的確符合微軟一項保守的行事風格，更何況其競爭對手谷歌不久前剛通過Bard展示了一波什麼叫「心急吃不了熱豆腐」。雖然截止目前，無論是微軟還是OpenAI都仍未向外界透露更多有關New Bing與GPT-4的消息，但了解到他們當前的一些動態後，相信每個人對於未來的期待都又增加了一分。

參考連結：

https://blogs.microsoft.com/blog/microsoftandopenaiextendpartnership/

https://www.nytimes.com /technology/microsoft-ai-chatgpt-bing.html

https://time.com/6247678/openai-chatgpt-kenya-workers/

#https://analyticsindiamag.com/ 13-not-to-miss-research-papers-on-llms/

以上是有沒有可能Bing正在整合GPT-4？這是否屬實還是無根之論？的詳細內容。更多資訊請關注PHP中文網其他相關文章！