首頁  >  文章  >  科技週邊  >  侯震宇宣布百度推出多款AI原生雲產品,正致力於重塑雲端運算中的大模型技術

侯震宇宣布百度推出多款AI原生雲產品,正致力於重塑雲端運算中的大模型技術

WBOY
WBOY轉載
2024-01-15 21:48:061143瀏覽

侯震宇宣布百度推出多款AI原生雲產品,正致力於重塑雲端運算中的大模型技術

在2023年的百度雲智大會·智算大會上,百度一次性發布了AI異構計算平台“百舸3.0”、智算網絡平台以及自研的雲原生數據庫GaiaDB 4.0等新產品

其中,百舸3.0已經對AI原生應用以及大型模型的訓練、推理等環節進行了全面的專項優化和升級。它支援萬卡級別的超大規模AI集群計算;相較於自建智算基礎設施,在模型訓練和推理方面,最高吞吐量分別提升了30%和60%;在資源利用方面,百舸3.0能夠達到高達98%的超高集群有效訓練時間佔比,以及95%的網路頻寬有效利用率,充分釋放集群的有效算力

為了解決AI原生時代智慧算力供需平衡的問題,智算網路平台支援將百度和第三方建置的智算中心、超算中心和邊緣節點等智算節點進行全域存取。透過連結分散和異質的算力資源,形成一個統一的算力網絡資源池。同時,利用百度自主研發的先進算力調度演算法,智慧分析各類算力資源的狀態、效能和利用率等指標,並進行統一調度。這樣能夠有效提升智算產業資源的使用率

GaiaDB 4.0是一款雲端原生資料庫,它透過增強平行查詢能力來解決單機運算瓶頸的問題。它實現了跨機多核心並行查詢,在混合負載和即時分析業務場景中的效能提升超過10倍

百度集團副總裁侯震宇強調,AI原生時代,面向大模型的基礎設施體系需要全面重構,為建構繁榮的AI原生生態築牢底座。

侯震宇表示:「大模型重建雲端運算主要體現在三個層面:AI原生雲將改變雲端運算的格局,模型即服務(MaaS)將成為新的基礎服務,AI原生應用催生新的研發範式。」

在運算能力方面,進行更聰明的運算

在雲端基礎設施層中,過去從網路應用到行動互聯網應用,底層都是基於CPU運算晶片。然而,隨著人工智慧應用對GPU或異質運算的需求大幅增加,雲端市場的底層算力開始往以GPU為主的方向遷移

2023年第三季度,英偉達的營收已經超過了英特爾,而英偉達的最新市值也超過了英特爾的1萬億美元。未來,GPU的成長將會遠超過CPU。在這種趨勢下,我們需要對面向大型模式的雲端運算基礎設施體系進行全面重建,以支援AI原生應用系統的實施

具體而言,雲端運算的全面重構將在三個領域中得到體現,即面向模型的智慧運算基礎設施、以資料為導向的資料基礎設施以及以應用為導向的雲端基礎架構的全面升級,從而使運算變得更加智能化

在模型層,大型模型正變得更通用,即模型即服務(MaaS)

#MaaS將大幅降低Al落地的門檻、實現真正的Al普惠,其依賴的新型IT基礎設施也將進一步在底層顛覆現有的雲端運算市場格局。

根據百度智慧雲端的實務經驗來看,在過去的4個月中,自從8月31日文心一言全面開放以來,百度智慧雲端千帆大模型平台(百度智慧雲端推出的MaaS平台)上的API日呼叫量成長了10倍。客戶主要來自網路、教育、電商、行銷、手機、汽車等各行業。可以清楚地看到,最近半年以來,已經有許多企業真正開始廣泛使用大模型

在應用層,應用程式開發的方式已經完全改變

#大規模模型理解、生成、邏輯、記憶的獨特能力將引領原生應用研發的新範式,整個應用技術堆疊、資料流和業務流將會發生變革

過去,基於CPU的應用開發主要是由業務邏輯驅動的,而傳統的人工智慧研發需要為每個獨立的場景獲取數據,並分別從頭開始訓練模型。而現在,人工智慧原生應用主要依賴強大的大模型能力,以數據驅動開發。企業可以直接在基礎大模型的基礎上,利用場景資料微調,產生專屬的大模型,並運用模型能力設計人工智慧原生應用,無需重新訓練大模型。隨著企業業務的擴大,累積了更多具有競爭力的場景數據,進而提升模型與應用的效果,形成了數據驅動的良性循環

具體來說,大型模式驅動的AI原生應用研發新範式展現出幾個新變化:

首先是「新場景」。 生成式大語言模型,在理解、生成、推理、記憶等多維度展現出超預期的能力,帶來了智能湧現,由此催生了很多新的可落地的業務場景應用,如個人助理、智慧文案創作、GBI(智慧商業分析)、編碼助理等。

第二是「新架構」。 大模型具體在這些新場景落地的過程中,也產生了許多新的系統架構,如檢索增強生成RAG,智能體Agent 等。

第三是「新開發生態」。 以大模型為核心,開發者工具層也出現了一些新工具,包括編排工具LangChain、AI應用開發工具PromptFlow、資料框架Llamalndex等。

數據和演算法的支撐。在大模型方面,我們需要建立強大的深度學習模型庫,提供各種各樣的A原生應用模型,以滿足不同場景的需求。在智慧算力方面,我們需要強化處理器和GPU的運算能力,提供高效率的運算資源,以支援A原生應用的複雜運算任務。在數據方面,我們需要收集大量的A原生應用數據,進行數據挖掘和分析,以提供精確的個人化服務。在演算法方面,我們需要研發先進的機器學習演算法,提升A原生應用的智慧化程度。只有透過這些支撐,我們才能夠建構一個真正繁榮的A原生應用生態系統

AI原生應用研發新典範的三個要素相互依存。大模型是AI原生應用的核心,智慧運算為其提供穩固的支持,而新的研發範式則有助於開發者有效率地基於大模型能力開發應用。資料飛輪是成功的AI原生應用的必要條件,可以使大模型能力快速迭代,從而持續改進產品體驗

侯震宇說:「我相信,在2024年,會誕生出真正非常閃耀的AI原生應用程式。」

以上是侯震宇宣布百度推出多款AI原生雲產品,正致力於重塑雲端運算中的大模型技術的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:sohu.com。如有侵權,請聯絡admin@php.cn刪除