百度智慧雲端千帆大模型平台再升級：5款大模型、55個工具組件上新！

服務8萬企業用戶，累計幫助用戶精調1.3萬個大模型，幫助用戶開發出16萬個大模型應用，自2023年12月以來百度智能雲千帆大模型平台API日調用量環比增長97%...從一年前國內大模型平台的“開路先鋒”到如今的大模型“超級工廠”，百度智能雲千帆大模型平台在國內大模型市場牢牢佔據著領先身位，但奔跑的腳步卻未停歇。

3月21日，百度智慧雲在北京首鋼園區召開千帆產品發表會，百度智慧雲端在大會期間宣布：

1、攜手北京市石景山區，共建全國首個百度智能雲千帆大模型產業創新基地，助推區域產業起飛；

2.滿足企業「效價比」核心訴求，千帆ModelBuilder大模型服務全面升級，3個輕量級大模型、2個垂直場景大模型全新發布；

3 、大幅降低AI原生應用開發門檻，千帆AppBuilder組件能力全面升級。

（百度智慧雲端千帆大模式產業（北京）創新基地啟動建設）

##在活動中，石景山區政府黨組成員、副區長曹世輝與中關村石景山園管委會副主任崔明明、百度副總裁謝廣軍、百度副總裁石清華一同發起了全國首個百度智慧雲端幹帆大模型產業（北京）創新基地的啟動儀式。

創新基地致力於推動大模型技術與產業創新深度融合，雙方將圍繞提升算力供給、最佳化模型演算法、推動資料開放、打造示範場景、深化人才引育等方面深耕厚植，政企合力打造人工智慧產業新高地。曹世輝副區長表示，石景山區將與百度攜手共進，聚焦人工智慧和大模型技術研發和創新應用，建構完善AI 產業生態，為區域數位轉型和產業智慧升級提供支撐，為新質生產力的培育和發展注入澎湃動能。

（百度副總裁謝廣軍）

2023年，大模型在全球範圍呈現出爆發式增長，國內更是打起了“百模大戰”，無數科技大廠與科研院所聚焦大模型“本體”，瘋狂“內卷”。

#

百度副總裁謝廣軍表示，大模型技術在過去一年飛速發展，隨著逐步落地千行百業，2024年將成為國內大模型產業應用爆發的元年。針對企業最關心的大模型落地場景、使用成本、應用開發、應用效果四大挑戰，百度智能雲千帆在大模型、AI原生應用開發兩個方面給出了最新「解題思路」。

百度智慧雲端千帆大模型平台發表「3 2」新模型套件：提高企業應用大模式的「效價比”

大模型效果是「技術派」的不懈追求，而經濟效益則是「市場派」的終極目標。謝廣軍在與諸多產業客戶的交流中發現，除了極少的大客戶對大模型有極致的效果追求，更多的企業和機構往往要綜合考慮大模型的使用效果、性能以及成本，即「效價比」。本次，千帆平台的模型矩陣針對企業的「效價比」核心訴求進行了一系列升級。

（百度智能雲千帆大模型平台模型矩陣）

文心大模型ERNIE 3.5是目前百度智慧雲端千帆大模型平台上最受歡迎的基礎大模型之一。針對使用者的常見通用的對話場景，ERNIE 3.5 在指令遵循、情境學習和邏輯推理能力三方面分別進行了能力增強。升級後的ERNIE 3.5在企業應用場景如文案創作、資訊抽取和工具調用三大場景中，應用表現分別大幅提升24%、27%和22%。

其次，比較超大規模參數的大模型，輕量級大模型的參數量更小，更方便客戶針對特定使用場景進行模型精調，更容易達成使用效果預期，同時節省更多成本開銷。本次大會，百度智能雲發布了包括ERNIE Speed、ERNIE Lite、ERNIE Tiny在內，參數量由大到小的三款輕量級大模型，幫助客戶實現“減量不減效”，節約不必要投資。

具體來講，ERNIE Speed作為三款輕量級大模型中的“大個子”，推理場景下擁有最高128k的上下文長度，在處理知識問答等任務時，能夠更好的處理情境的依賴關係，產生更連貫和準確的預測或回答。同時，針對特定場景可將ERNIE Speed作為基座模型進行精調，模型效果可以追平甚至超過旗艦級大參數規模大模型，效價比大幅提升。

相比ERNIE Speed，ERNIE Lite的參數量則更小，也更適合搭載在低算力的AI加速卡上處理推理任務，在兼顧模型效果與推理表現的同時，大幅降低顧客落地應用成本。作為ERNIE-Bot-turbo模型的升級版，ERNIE Lite在情緒分析、多任務學習、自然推理等場景下的應用效果提升了20%。推理調用成本大幅下降了53%！

三款輕量級模型中參數量最小的ERNIE Tiny則為客戶提供了極致低成本、低延遲的最佳選擇。在檢索、推薦、意圖辨識等高並發、低延時等應用場景中，ERNIE Tiny的優異表現呈現了不俗表現。在某對話推薦業務場景中，精調後的ERNIE Tiny在搜尋引擎推薦字激發環節，相較於ERNIE 3.5，對話輪次成長了3.5%，成本下降了32%。

此外，企業在落地應用中，對大模型在人物扮演、外部工具呼叫均有較高的效果需求。本次千帆大模型平台ModelBuilder也基於對企業場景的深入洞察，結合百度自身業務最佳實踐沉澱，推出了ERNIE Character和ERNIE Functions兩款垂直場景大模型，分別適配客戶在角色扮演類應用場景（如遊戲NPC、客服對話等）和工具呼叫場景（對話中使用外部工具、呼叫業務函數等）中的使用需求。

在企業實務中，某智慧硬體廠商，基於ERNIE Character打造智慧助理，應用此模型後在人設一致性、激發並提升用戶聊天慾望等面向效果顯著提升。某旅遊出行類APP，使用ERNIE  Functions打造智慧客服助手，在執行訂票、查詢航班狀態等多種function呼叫上準確度達85%。

#千帆AppBuilder全面升級：大幅降低AI原生應用程式開發門檻

# #千帆AppBuilder作為產業級AI原生應用開發平台，是千帆的重要組成部分。 AppBuilder底層由基於百度多年技術和實踐經驗沉澱的大模型組件、AI能力組件的基礎組件和麵向典型應用場景深入調優建設的一系列高級組件構成。基礎元件與高階元件共同支撐Agent，一方面可以透過工作流程編排實現更為複雜的業務邏輯，另一方面Agent也具備強大的自主任務規劃能力，能夠理解使用者意圖自動規劃執行路徑，實現多工具的自動編排和執行。這些能力透過零代碼態、代碼態兩類開發方式提供服務，更好的匹配不同開發者的使用需求。

開發完成後，應用程式可多通路分發與集成，AppBuilder支援將應用程式一鍵分發到微信客服、微信公眾號、Web端/H5及百度靈境矩陣等主流管道。基於百度靈境矩陣，應用程式可在百度搜尋、百度資訊流等主流場景分發與掛載。真正實現應用程式開發出來後，就直接接觸用戶，打通從AI原生應用程式創建到開發再到分發的全流程。

（百階智慧雲端千帆AppBuilder）

升級後的AppBuilder開放的工具元件多達55個。包括基於百度多年技術累積和自有業務沉澱的大模型組件、AI能力組件，也包括搜尋等百度特色的業務組件、和多場景的第三方API工具，另外還提供了 RAG（知識檢索問答）、 GBI（生成式資料分析）等依據典型應用情境深入調優的高階能力元件。

開發AI原生應用程式離不開雲端基礎設施，本次發布的基礎元件還包含了百度智慧雲端全新推出的向量資料庫VDB 1.0。向量資料庫是企業不可或缺的知識庫核心元件，它針對傳統知識庫問答系統遇到的效能瓶頸、維護挑戰及規模限制等問題提供了有力解決方案。全新發布的百度向量資料庫VDB 1.0，不僅整合了全面的運維控制和安全防護能力，還兼容了千帆、LangChain等主流生態系統，能夠幫助企業輕鬆管理數以千萬計的文檔知識，最大支持百億向量儲存規模以及毫秒的向量檢索速度。同時，相較於同類型開源產品，VDB 1.0效能最高提升10倍。

在元件之上，千帆AppBuilder推出的Agent（智能體）應用框架，具備精準的任務自主規劃能力，對多種應用工具的自動編排準確率超過90%，這個數字還在不斷提升。 AppBuilder也支援開發者接取自訂工具，透過將自動編排與手動編排結合，實現更複雜場景應用程式的需求客製化。 Agent框架內的程式碼解釋器能力，也大幅提升了本次升級40%的效能、在複雜的資料分析場景的生成結果可接受度高達95%，輕鬆應對各類資料分析與資訊處理的場景。

此外，AppBuilder的程式碼態開發工具也再添利器。 AppBuilder SDK本次重磅發布了Agent API，支援開發者將Agent便捷整合到自己的業務系統中，同時AppBuilder SDK面向主流AI原生應用程式場景提供了豐富的應用範例，目前已在Github開源，支援各個元件自由呼叫的靈活編排，幫助開發者實現應用的二次開發和便捷整合。

大會現場，也示範如何在零程式碼開發模式中，只用1分鐘建立一個「英文作文小幫手」Agent（智能體）應用，只要在AppBuilder中輸入應用程式名稱或希望開發的應用程式功能，平台就可以自動產生應用，透過簡單的調整角色指令、新增所需工具元件，就可以快速產生一個英文作文批次改小助手。發布後就可直接使用，三步驟完成應用程式創建與分發。

（1分鐘建立英文作文批改小助手）

在百度智慧雲端看來，隨著大模型技術的不斷演進與突破，工程化實務與使用者需求適配正在變得愈發重要。只有深入場景，發掘、回應客戶的真實需求，才是釋放創新技術紅利的最佳路徑。

以上是百度智慧雲端千帆大模型平台再升級：5款大模型、55個工具組件上新！的詳細內容。更多資訊請關注PHP中文網其他相關文章！