8月30日,華為雲在北京召開了以"開放同飛,共贏行業AI新時代"為主題的盤古大模型主題論壇。華為雲EI服務產品部部長尤鵬在他的演講《盤古大模型,為產業而生》中深入探討了AI大模型的發展趨勢、技術創新實踐以及產業發展機會。尤鵬表示,大模型正在重塑各行業,華為雲將充分利用在大模型領域的技術積累和工程能力優勢,幫助客戶和合作夥伴快速構建盤古大模型的開發和應用能力,使之成為每個企業實現策略轉型與智慧升級的核心動力
華為雲端EI服務產品部部長尤鵬發表主題演講
盤古大模型採用了三層架構的分層解耦,具有天然的生態友好特性
隨著大模型逐漸加速行業智慧化的轉型,越來越多產業核心的業務系統也開始受到大模型能力的滲透。華為雲一直致力於為各行各業提供AI解決方案,透過打造盤古大模型,推動千行百業的智能化升級
尤鵬介紹,盤古大模型提供5個基礎大模型N個行業大模型X個場景模型的三層解耦架構,天然具備良好的生態開放性。基於分層解耦的架構,盤古大模型提供呼叫整合和客製化聯創兩種應用模式,可以快速適配,滿足多種場景業務訴求。在呼叫整合模式下,華為雲端L0盤古基礎大模型提供100多個能力集,各項能力集互解耦,可以透過API直接呼叫。企業用戶可以根據業務場景需要,選擇所需的能力集,使用盤古大模型工作流程,快速開發產業場景應用程式。在客製化聯創模式下,企業可以在L0或L1盤古大模型的基礎上,透過自有資料的二次訓練,就可以快速訓練出自己專屬的產業大模型。同時,根據客戶不同的資料安全與合規訴求,盤古大模型也提供了公有雲、大模型雲專區、混合雲多樣化的部署形態。
華為雲端昇騰AI雲端服務為大模型的訓練提供強大且即時可用的運算能力,為客戶和合作夥伴的大模型開發、部署和運行提供領先且可持續的AI運算基礎設施
此外,要重新寫的內容是:在原意不變的情況下,需要將語言改為中文。 華為雲將積極參與盤古大模型在產業中的實施,這離不開繁榮的生態環境。我們將與各行各業的客戶夥伴緊密合作,共同建立全面協同的生態體系,為使用者提供豐富的產業場景解決方案。這些解決方案將更加專注於特定的應用場景或業務需求,並為用戶提供即插即用的模型服務
盤古大模型工程套件,5倍速開發產業大模型
尤鵬表示,為了因應通用大模型落地產業存在的挑戰,華為雲端提供了大模型工程套件,其中包括資料工程、模型開發和應用開發三大套件。透過使用盤古大模型工程套件,現在可以在一個月內完成一個千億行業模型的端到端開發,相比過去需要五個月的時間,整體速度提升了五倍
在數據工程套件方面,盤古大模型的資料工程套件相較於傳統標註平台,在SFT訓練方面提供了基於模板的Prompt在線輔助撰寫功能,並為RLHF訓練提供了多人Rank在線標註和任務分撥功能。與離線對比,這兩種任務的實測效率可提升3倍。此外,資料工程套件還針對資料清洗問題,內建了50 資料清洗算子,能夠應對90%以上的清洗場景,大幅提升清洗效能
在模型開發套件方面,大模型開發套件提供了三種工作流程,包括自我監督訓練、監督微調和強化學習訓練。這些工作流程涵蓋了從超參數配置到模型訓練、評估、管理和部署的完整流程。大模型開發套件凝結了大模型專家的實務經驗,將複雜的大模型開發流程化、標準化和簡化,幫助行業用戶輕鬆啟動並一站式開發適用於本行業的大模型。同時,透過模型量化和多種推理加速技術,大幅提升了推理吞吐量,使吞吐量可提高10倍,從而大幅優化了模型的推理性能
在應用開發套件方面,盤古應用開發套件將傳統軟體工程與大模型相結合,提供靈活的基於SDK的開發方式,只需2行程式碼即可完成大模型接入,僅需5分鐘即可完成大模型應用開發,支撐企業分鐘建構大模型原生應用。作為業界首個同時提供Python、Java版本SDK的大模型應用開發套件,支援更廣泛、更全面的大模型應用開發能力。盤古應用開發套件很好地兼容開源生態,實現“一切皆可編排”,結合可視化的編排服務,幫助用戶在大模型上更好地使用各種工具和技能
共建盤古大模型全域協同生態,共享產業AI新機會
#大模型的創新不僅是模型自身的創新以及AI各項根技術的創新,在算力、演算法、平台、應用、服務等方面也需要全鏈條生態夥伴、客戶的參與。對於軟體夥伴、服務夥伴以及數位轉型與系統整合夥伴這三個主要夥伴,華為雲端開放了產業大模型、軟體解決方案、外掛程式整合、數位轉型顧問、資料生態等全方位的生態合作路徑
華為雲端為軟體夥伴提供了三個開放的生態合作路徑,分別是模型聯創、解決方案建構和插件整合。我們與具備資料累積和產業經驗的夥伴合作,共同建構產業模型和場景模型,打造智慧底座。與具備產業實務經驗、大模型整合和開發技術的夥伴合作,共同建構面向產業的細分場景模型,提供可複製的軟體解決方案。同時,我們與企業服務軟體和工具軟體夥伴協同合作,透過豐富的插件來完善盤古大模型的技能集,拓寬大模型的能力邊界
華為雲端開放專案為服務夥伴提供了機會,透過賦予各種權益,如認證、技術支援和激勵等,幫助夥伴快速建立業務模式,實現永續快速發展。我們致力於在盤古大模型落地的最後一公里提供優質服務,實現大模型商業閉環
為了實現數位化轉型,華為雲與具備系統資質的伙伴進行BP互鎖和Offering共建,以深耕客戶為目標,為客戶提供盤古大模型服務相關的諮詢與系統整合服務的合作夥伴
尤鵬最後表示,華為雲歡迎更多的行業客戶和夥伴加入盤古大模型,共同塑造千行百業的未來。我們希望能共創生態圈,共同創新,分享價值與機會
以上是華為雲尤鵬:盤古大模型,共享智慧,服務業的詳細內容。更多資訊請關注PHP中文網其他相關文章!