火山引擎總裁譚待
企業要做好大模型落地,面臨模型效果、推理成本、落地難度的三大關鍵挑戰:既要有好的基礎大模型做支撐,解決複雜難題,也要有低成本的推理服務讓大模型被廣泛應用,還要更多工具、平台和應用幫助企業做好場景落地。
—譚待 火山引擎總裁
模型效果是AI 落地最關鍵的挑戰。譚待指出,只有大的使用量,才能打磨出好模型。目前,豆包大模型日均處理1,200億 tokens 文字、生成3,000萬張圖片。
為助力企業做好大模型場景落地,位元組跳動自主研發的豆包大模型將透過火山引擎正式對外提供服務,企業可根據自身業務場景需求靈活選擇、快速落地:
*資料來源:QuestMobile
#位元組跳動產品與策略副總裁朱駿位元組跳動產品和策略副總裁朱駿介紹了位元組跳動基於豆包大模型打造AI 原生應用的產品概念。他表示,科技正在快速演化,但使用者核心的需求沒有改變,例如高效獲取資訊的需求、工作效率的需求、自我表達的需求、社交娛樂的需求等。位元組跳動做了很多學習和探索,希望找到適合的大模型應用形態,以自然的互動形式服務用戶,走入更多人的生活和工作。
豆包 APP 是位元組跳動重點投入的大模型應用,據朱駿透露,豆包平台月度活躍用戶達到2,600萬,已有超過800萬個智能體被創建。
豆包大模型在服務位元組內部的同時,也與火山引擎的眾多企業客戶合作共創。譚待認為,企業在不同業務場景中,需要不同特點的模型,以達到最佳效果和性價比。為此,豆包大模型提供的是一個多模態模型家族,企業可根據自身業務場景需求彈性選擇,實現模型使用及成本控制的正循環。
以豆包通用模型pro-32k 版為例,模型推理輸入價格僅0.0008元/千 tokens。而市面上同規格模型的定價一般為0.12元/千 tokens,是豆包模型價格的150倍。大模型價格,進入「厘時代」。
譚待表示,大模型「卷」價格,將助力企業以更低成本加速業務創新。 03.
方舟2.0升級推廣大型模式價值創造
聯網插件
,提供頭條抖音同款搜尋能力,即時連接海量優質數據,同時使用文字、圖像、語音等多模態交互方式,並透過業內領先的意圖識別能力,大幅提升模型的信息獲取能力;升級###內容插件###,提供頭條抖音同源海量內容,支持多模態交互,提供基於意圖的垂類內容資訊檢索,內容時效檢索更強,幫助大模型深入理解、檢索和生成內容;升級###知識庫插件###,提供毫秒級百億規模的高效能檢索,秒級流式知識庫索引更新,內嵌豆包向量化模型,提高搜尋的相關性和準確性。 ######除以上核心外掛升級之外,火山方舟2.0也全面升級了系統承載能力、安全防護能力和演算法服務能力。在系統承載力上,提供充沛的GPU 算力資源,分鐘級千卡擴縮容的超強彈性,保障業務穩定與成本可控;在安全防護上,透過安全沙箱建構可信的執行環境,多維度的安全架構,保障資料安全;此外,火山引擎提供專業的演算法團隊服務,協助客戶釋放獨特資料價值,讓企業大模型應用輕鬆落地。 ############釦子產品經理潘宇揚#########除了好的模型效果、便利的插件、強勁的系統性能,還需要提供簡單易用開發平台,才能讓所有人都能成為AI 應用的開發者。釦子產品經理潘宇揚介紹,釦子(coze)作為字節跳動推出的新一代AI 應用開發平台,具備低門檻、個性化、實時性、多模態等優勢,並集合海量的AI 資源、豐富的發布渠道、一鍵自訂API 服務,幫助填補大模型到使用者場景的最後一公里。 ######火山引擎正式發布了釦子專業版。釦子專業版在釦子視覺化靈活編排智能體的能力基礎上,進一步提供企業級 SLA 和多種高級特性,使 AI 應用更易落地,讓企業更專注於透過智能體創新,驅動業務成長。 ######譚待表示,火山引擎致力於成為 AI 時代最開放和領先的雲端服務平台。全新升級的火山方舟2.0將透過更強效能、更優插件、更好服務以及安全可信方案,助力大模型應用落地。 #########04.############ 廣泛落地實踐 ############ 多產業結出碩果 ######################## ##豆包大模型和火山方舟2.0目前已經在金融、汽車、智慧終端、電商零售、教育科研等多個產業實踐落地。招商銀行、海底撈火鍋、超級猩猩、攜程旅遊、飛常準、獵聘等企業也已經在釦子上搭建了智能體。復旦大學、浙江大學等名校也為課程和實驗搭建了 「AI 助教」。 ###招商銀行數位金融發展辦公室主任高旭磊
作為金融業AI 轉型的實踐者,招商銀行正在智能外呼、數位人、智慧數據助理等上百個AI 服務場景探索和投入。招商銀行數位金融發展辦公室主任高旭磊表示,大模型將為銀行全鏈條業務帶來改造與升級。攜手火山引擎,雙方將共建大模型應用場景及高效能基礎設施,改造現有系統和產品,催生大量以 AI 為核心的智能體應用。
蒙牛集團副總裁、首席數智官李琤潔
蒙牛集團副總裁、集團首席數智官李琤潔從生產工具進化、生產方式進化、組織方式進化的三個面向介紹了蒙牛集團的數智化歷程。蒙牛集團正與火山引擎合作夯實技術底座,並建構了AI 營養專家、AI 育嬰師、AI 數據分析師、產品創新助理、熱點創意助理等智能體矩陣,提升前端消費者體驗,助力後端運營人員決策。
智慧終端機大模型聯盟發行
會上,火山引擎與OPPO、vivo、榮耀、小米、三星、華碩宣布成立智慧終端大模型聯盟。 OPPO 小布助手、榮耀 MagicBook 的 YOYO 助理、小米「小愛同學」、華碩筆記型電腦的豆叮 AI 助手等應用,均已接入火山引擎的大模型服務。
汽車大模型生態聯盟發布
同時,火山引擎聯合中國電動汽車百人會與吉利汽車、長城汽車、捷途汽車、賽力斯、智己汽車等20餘家廠商,宣布成立汽車大模型生態聯盟,致力於探索新一代人車互動新形態,提升汽車全場景AI 新體驗。
兩大聯盟企業OPPO 和捷途汽車也分別就自身的大模型實踐進行了分享:
OPPO 智慧助理部部長、小布助理首席架構師萬玉龍
OPPO 智慧助理部部長,小布助理首席架構師萬玉龍分享了OPPO AI 手機的大模型應用實踐,他表示,目前小布助理已經覆蓋3.5億終端設備,每月活躍用戶數超1.5億。在火山方舟上,OPPO 透過意圖識別大模型、聯網總結大模型、個人化人物大模型和豆包大模型構建了通用問答、伶俐小妹、面試官等智能體,為終端用戶帶來了全新的AI體驗。
捷途汽車數位化負責人劉航
捷途汽車數位化負責人劉航表示,捷途汽車希望透過大模型擴大自身服務能力、洞察用戶真實需求,進而提升銷售效率與能力。攜手火山引擎,雙方圍繞客服場景進行了共創,所打造的智慧客服 AI 小捷,在節省人力的同時,還能幫助客服人員快速獲取信息,服務客戶。未來,捷途汽車也希望透過大模型進一步實現座艙、決策、行銷的智慧化升級。
除大模型服務平台以外,AI 應用也是火山引擎全端AI 服務的關鍵組成。
去年,火山引擎提出了企業數智化升級新模式-資料飛輪,該模式以資料消費為核心驅動力,使企業資料流充分融入業務流,實現資料資產和業務應用的飛輪效應。為了讓企業資料消費更普惠、更便捷,火山引擎智慧資料洞察DataWind 正式發表AI 助理ChatBI,使用者可透過自然語言互動產生指標,用於圖表製作、資料查詢,還可進行深度資料分析,且ChatBI支援IM 交互,可多端應用,隨時隨地自助分析,這將大幅降低資料消費門檻,提升讀數、用數效率,為資料飛輪加速運轉提供動力。
面向行銷場景,火山引擎進行了智慧創作雲2.0的升級,成為從內容創作、矩陣分發、廣告投放到資料洞察一站式的企業內容行銷成長方案;不僅提供多模態的理解與生成能力,協助影片創作效率提升25倍,更上線抖音話題、POI、小程式等行銷工具,讓門市頁面曝光提升600%。目前已經有3,000+企業在火山引擎開啟 AIGC 影片行銷成長。
面向銷售場景,火山引擎發布了銷售 AI 助理 Sales Copilot,能夠高效跟進客戶需求,隨時輔助銷售解答複雜的產品問題。此外,它還能透過角色扮演的方式模擬不同風格的對客演練,並提供優秀話術學習,提升銷售溝通品質。
火山引擎一直致力於建構開放共享的生態理念,自2021年發布萬有計畫以來,已經幫助100+家 SaaS 企業實現了業務成長,實現近萬單客戶簽約。豆包企服聯盟,是萬有計畫針對大模型落地的專案計畫。萬有計畫·豆包企服聯盟將提供一攬子支援規劃,協助 SaaS 企業實現 AI 升級,為業界客戶提供更多開箱即用的 AI 應用。
大模型時代,叢集管理複雜度、網路效能、穩定性是雲端基礎的關鍵挑戰。為因應上述挑戰,火山引擎基於內外共池的資源規模優勢和內部實踐,圍繞大集群建設、管理、性能優化、穩定性保障提供了一套業界領先的解決方案。
NVIDIA 解決方案和工程副總裁賴俊傑
會上,火山引擎正式發布veOmniverse,基於NVIDIA Omniverse 為企業、開發者提供全新的雲端上開發平台,協助企業與開發者在互聯的虛擬世界中,圍繞著工作流程展開高效的設計與協作,探索並打造智慧逼真的虛擬世界。
除為客戶提供高穩定性和高效能的雲端基礎設施外,面對本地部署需求,火山引擎也全新發布了混合雲veStack 智算版,具有萬卡集群組網,3.2 T 高效能無損網路的超大規模優勢;端對端工程化所支撐的極致性能,能夠實現97.78%訓練加速比和分鐘級故障發現和自愈;擁有多元異構能力,可適配十餘種GPU ,支持主流國產化GPU。
完整的 AI 應用除 GPU 負責的密集運算外,存量 CPU 負載也需要持續降本增效,保障業務輕裝上陣,加速創新。從運算、儲存、網路、維運4個層面,火山引擎全力支援客戶雲端上業務穩定營運。
End
從技術創新到商業落地,大模型已經為各行業的 AI 轉型提供了強大的動能。火山引擎基於位元組跳動在大模型領域的實踐沉澱,透過大使用量打磨出好模型,以技術驅動的極致性價比讓大模型人人用得起,透過各行業豐富的落地經驗與演算法服務陪伴客戶一起成長。未來,火山引擎全端 AI 服務將持續協助企業 AI 轉型落地,激發業務成長潛能。
以上是位元組跳動豆包大模型發布,火山引擎全端 AI 服務協助企業智慧轉型的詳細內容。更多資訊請關注PHP中文網其他相關文章!