首頁  >  文章  >  科技週邊  >  位元組跳動豆包大模型發布,火山引擎全端 AI 服務協助企業智慧轉型

位元組跳動豆包大模型發布,火山引擎全端 AI 服務協助企業智慧轉型

WBOY
WBOY原創
2024-06-05 19:59:21847瀏覽

字节跳动豆包大模型发布,火山引擎全栈 AI 服务助力企业智能化转型火山引擎總裁譚待

企業要做好大模型落地,面臨模型效果、推理成本、落地難度的三大關鍵挑戰:既要有好的基礎大模型做支撐,解決複雜難題,也要有低成本的推理服務讓大模型被廣泛應用,還要更多工具、平台和應用幫助企業做好場景落地。

—譚待  火山引擎總裁


#01.

 豆包款大模型首次亮相 

 大使用量打磨好模型 

模型效果是AI 落地最關鍵的挑戰。譚待指出,只有大的使用量,才能打磨出好模型。目前,豆包大模型日均處理1,200億 tokens 文字、生成3,000萬張圖片。

為助力企業做好大模型場景落地,位元組跳動自主研發的豆包大模型將透過火山引擎正式對外提供服務,企業可根據自身業務場景需求靈活選擇、快速落地:

  • 豆包通用模型pro:字節跳動自研LLM模型專業版,支援128k 長文本,全系列可精調,具備更強的理解、生成、邏輯等綜合能力,適合問答、總結、創作、分類等豐富場景;
  • #豆包通用模型lite:位元組跳動自研LLM模型輕量版,對比專業版提供更低token 成本、更低延遲,為企業提供靈活經濟的模型選擇;
  • ##豆包·角色扮演模型:個人化的角色創作能力,更強的上下文感知和劇情推動能力,滿足靈活的角色扮演需求;
  • 豆包·語音合成模型:提供自然生動的語音合成能力,善於表達多種情緒,演繹多種場景;
  • 豆包·聲音復刻模型:##5秒即可實現聲音1: 1克隆,對音色相似度和自然度進行高度還原,支持聲音的跨語種遷移;
  • 豆包·語音識別模型:更高的準確率及靈敏度,更低的語音辨識延遲,支持多語種的正確辨識;
  • #豆包·文生圖模型:更精準的文字理解能力,圖文匹配更準確,畫面效果更優美,擅長對中國文化元素的創作;
  • 豆包·Function call模型:提供更準確的功能辨識與參數抽取能力,適合複雜工具呼叫的場景;
  • 豆包·向量化模型:聚焦向量檢索的使用場景,為LLM 知識庫提供核心理解能力,支持多語言。
譚待介紹,早在去年,豆包大模型(原名:雲雀)就在字節跳動內部完成了上線,也是首批通過大模型服務安全備案的大模型之一。位元組跳動內部50多個業務已經大量使用豆包大模型進行 AI 創新,包括抖音、頭條等數億 DAU 產品。基於豆包大模型同名打造的豆包 APP,在蘋果 APP Store 和各大安卓應用市場,豆包 APP 的下載量在 AIGC 類應用中排名第一*。

*資料來源:QuestMobile

#位元組跳動產品與策略副總裁朱駿字节跳动豆包大模型发布,火山引擎全栈 AI 服务助力企业智能化转型位元組跳動產品和策略副總裁朱駿介紹了位元組跳動基於豆包大模型打造AI 原生應用的產品概念。他表示,科技正在快速演化,但使用者核心的需求沒有改變,例如高效獲取資訊的需求、工作效率的需求、自我表達的需求、社交娛樂的需求等。位元組跳動做了很多學習和探索,希望找到適合的大模型應用形態,以自然的互動形式服務用戶,走入更多人的生活和工作。

豆包 APP 是位元組跳動重點投入的大模型應用,據朱駿透露,豆包平台月度活躍用戶達到2,600萬,已有超過800萬個智能體被創建。

豆包大模型在服務位元組內部的同時,也與火山引擎的眾多企業客戶合作共創。譚待認為,企業在不同業務場景中,需要不同特點的模型,以達到最佳效果和性價比。為此,豆包大模型提供的是一個多模態模型家族,企業可根據自身業務場景需求彈性選擇,實現模型使用及成本控制的正循環。

02.

 人人用得起 

 才是好模式 

#譚待認為,降低成本是推動大模型快轉到「價值創造階段」的關鍵因素。豆包主力模型在企業市場的定價只有0.0008元/千 tokens,0.8厘就能處理1,500多個漢字,比行業便宜99.3%。

以豆包通用模型pro-32k 版為例,模型推理輸入價格僅0.0008元/千 tokens。而市面上同規格模型的定價一般為0.12元/千 tokens,是豆包模型價格的150倍。大模型價格,進入「厘時代」。

譚待表示,大模型「卷」價格,將助力企業以更低成本加速業務創新。 03.

 方舟2.0升級 

字节跳动豆包大模型发布,火山引擎全栈 AI 服务助力企业智能化转型 推廣大型模式價值創造 

##去年,火山引擎發布了一站式大模型服務平台火山方舟,希望透過模型即服務的概念,幫助企業在高效、安全的環境中應用各類模型。今年,火山引擎對方舟平台進行了全面升級,升級後的火山方舟2.0將大幅提升模型效果、核心插件、系統性能以及平台體驗,幫助企業推進大模型的價值創造。

在插件和工具鏈上,方舟2.0升級了

聯網插件

,提供頭條抖音同款搜尋能力,即時連接海量優質數據,同時使用文字、圖像、語音等多模態交互方式,並透過業內領先的意圖識別能力,大幅提升模型的信息獲取能力;升級###內容插件###,提供頭條抖音同源海量內容,支持多模態交互,提供基於意圖的垂類內容資訊檢索,內容時效檢索更強,幫助大模型深入理解、檢索和生成內容;升級###知識庫插件###,提供毫秒級百億規模的高效能檢索,秒級流式知識庫索引更新,內嵌豆包向量化模型,提高搜尋的相關性和準確性。 ######除以上核心外掛升級之外,火山方舟2.0也全面升級了系統承載能力、安全防護能力和演算法服務能力。在系統承載力上,提供充沛的GPU 算力資源,分鐘級千卡擴縮容的超強彈性,保障業務穩定與成本可控;在安全防護上,透過安全沙箱建構可信的執行環境,多維度的安全架構,保障資料安全;此外,火山引擎提供專業的演算法團隊服務,協助客戶釋放獨特資料價值,讓企業大模型應用輕鬆落地。 ############釦子產品經理潘宇揚#########除了好的模型效果、便利的插件、強勁的系統性能,還需要提供簡單易用開發平台,才能讓所有人都能成為AI 應用的開發者。釦子產品經理潘宇揚介紹,釦子(coze)作為字節跳動推出的新一代AI 應用開發平台,具備低門檻、個性化、實時性、多模態等優勢,並集合海量的AI 資源、豐富的發布渠道、一鍵自訂API 服務,幫助填補大模型到使用者場景的最後一公里。 ######火山引擎正式發布了釦子專業版。釦子專業版在釦子視覺化靈活編排智能體的能力基礎上,進一步提供企業級 SLA 和多種高級特性,使 AI 應用更易落地,讓企業更專注於透過智能體創新,驅動業務成長。 ######譚待表示,火山引擎致力於成為 AI 時代最開放和領先的雲端服務平台。全新升級的火山方舟2.0將透過更強效能、更優插件、更好服務以及安全可信方案,助力大模型應用落地。 #########04.############ 廣泛落地實踐 ############ 多產業結出碩果 ######################## ##豆包大模型和火山方舟2.0目前已經在金融、汽車、智慧終端、電商零售、教育科研等多個產業實踐落地。招商銀行、海底撈火鍋、超級猩猩、攜程旅遊、飛常準、獵聘等企業也已經在釦子上搭建了智能體。復旦大學、浙江大學等名校也為課程和實驗搭建了 「AI 助教」。 ###

字节跳动豆包大模型发布,火山引擎全栈 AI 服务助力企业智能化转型招商銀行數位金融發展辦公室主任高旭磊

作為金融業AI 轉型的實踐者,招商銀行正在智能外呼、數位人、智慧數據助理等上百個AI 服務場景探索和投入。招商銀行數位金融發展辦公室主任高旭磊表示,大模型將為銀行全鏈條業務帶來改造與升級。攜手火山引擎,雙方將共建大模型應用場景及高效能基礎設施,改造現有系統和產品,催生大量以 AI 為核心的智能體應用。

字节跳动豆包大模型发布,火山引擎全栈 AI 服务助力企业智能化转型蒙牛集團副總裁、首席數智官李琤潔

蒙牛集團副總裁、集團首席數智官李琤潔從生產工具進化、生產方式進化、組織方式進化的三個面向介紹了蒙牛集團的數智化歷程。蒙牛集團正與火山引擎合作夯實技術底座,並建構了AI 營養專家、AI 育嬰師、AI 數據分析師、產品創新助理、熱點創意助理等智能體矩陣,提升前端消費者體驗,助力後端運營人員決策。

字节跳动豆包大模型发布,火山引擎全栈 AI 服务助力企业智能化转型智慧終端機大模型聯盟發行

會上,火山引擎與OPPO、vivo、榮耀、小米、三星、華碩宣布成立智慧終端大模型聯盟。 OPPO 小布助手、榮耀 MagicBook 的 YOYO 助理、小米「小愛同學」、華碩筆記型電腦的豆叮 AI 助手等應用,均已接入火山引擎的大模型服務。

字节跳动豆包大模型发布,火山引擎全栈 AI 服务助力企业智能化转型汽車大模型生態聯盟發布

同時,火山引擎聯合中國電動汽車百人會與吉利汽車、長城汽車、捷途汽車、賽力斯、智己汽車等20餘家廠商,宣布成立汽車大模型生態聯盟,致力於探索新一代人車互動新形態,提升汽車全場景AI 新體驗。

兩大聯盟企業OPPO 和捷途汽車也分別就自身的大模型實踐進行了分享:

字节跳动豆包大模型发布,火山引擎全栈 AI 服务助力企业智能化转型OPPO 智慧助理部部長、小布助理首席架構師萬玉龍

OPPO 智慧助理部部長,小布助理首席架構師萬玉龍分享了OPPO AI 手機的大模型應用實踐,他表示,目前小布助理已經覆蓋3.5億終端設備,每月活躍用戶數超1.5億。在火山方舟上,OPPO 透過意圖識別大模型、聯網總結大模型、個人化人物大模型和豆包大模型構建了通用問答、伶俐小妹、面試官等智能體,為終端用戶帶來了全新的AI體驗。

字节跳动豆包大模型发布,火山引擎全栈 AI 服务助力企业智能化转型捷途汽車數位化負責人劉航

捷途汽車數位化負責人劉航表示,捷途汽車希望透過大模型擴大自身服務能力、洞察用戶真實需求,進而提升銷售效率與能力。攜手火山引擎,雙方圍繞客服場景進行了共創,所打造的智慧客服 AI 小捷,在節省人力的同時,還能幫助客服人員快速獲取信息,服務客戶。未來,捷途汽車也希望透過大模型進一步實現座艙、決策、行銷的智慧化升級。

05.

 多款AI 應用發布 

 快速落地開箱即用 

除大模型服務平台以外,AI 應用也是火山引擎全端AI 服務的關鍵組成。

去年,火山引擎提出了企業數智化升級新模式-資料飛輪,該模式以資料消費為核心驅動力,使企業資料流充分融入業務流,實現資料資產和業務應用的飛輪效應。為了讓企業資料消費更普惠、更便捷,火山引擎智慧資料洞察DataWind 正式發表AI 助理ChatBI,使用者可透過自然語言互動產生指標,用於圖表製作、資料查詢,還可進行深度資料分析,且ChatBI支援IM 交互,可多端應用,隨時隨地自助分析,這將大幅降低資料消費門檻,提升讀數、用數效率,為資料飛輪加速運轉提供動力。

面向行銷場景,火山引擎進行了智慧創作雲2.0的升級,成為從內容創作、矩陣分發、廣告投放到資料洞察一站式的企業內容行銷成長方案;不僅提供多模態的理解與生成能力,協助影片創作效率提升25倍,更上線抖音話題、POI、小程式等行銷工具,讓門市頁面曝光提升600%。目前已經有3,000+企業在火山引擎開啟 AIGC 影片行銷成長。

面向銷售場景,火山引擎發布了銷售 AI 助理 Sales Copilot,能夠高效跟進客戶需求,隨時輔助銷售解答複雜的產品問題。此外,它還能透過角色扮演的方式模擬不同風格的對客演練,並提供優秀話術學習,提升銷售溝通品質。

火山引擎一直致力於建構開放共享的生態理念,自2021年發布萬有計畫以來,已經幫助100+家 SaaS 企業實現了業務成長,實現近萬單客戶簽約。豆包企服聯盟,是萬有計畫針對大模型落地的專案計畫。萬有計畫·豆包企服聯盟將提供一攬子支援規劃,協助 SaaS 企業實現 AI 升級,為業界客戶提供更多開箱即用的 AI 應用。

06.

 AI 基礎設施再升維 

 雲端運算力可靠度保障 

大模型時代,叢集管理複雜度、網路效能、穩定性是雲端基礎的關鍵挑戰。為因應上述挑戰,火山引擎基於內外共池的資源規模優勢和內部實踐,圍繞大集群建設、管理、性能優化、穩定性保障提供了一套業界領先的解決方案。

字节跳动豆包大模型发布,火山引擎全栈 AI 服务助力企业智能化转型NVIDIA 解決方案和工程副總裁賴俊傑

會上,火山引擎正式發布veOmniverse,基於NVIDIA Omniverse 為企業、開發者提供全新的雲端上開發平台,協助企業與開發者在互聯的虛擬世界中,圍繞著工作流程展開高效的設計與協作,探索並打造智慧逼真的虛擬世界。

除為客戶提供高穩定性和高效能的雲端基礎設施外,面對本地部署需求,火山引擎也全新發布了混合雲veStack 智算版,具有萬卡集群組網,3.2 T 高效能無損網路的超大規模優勢;端對端工程化所支撐的極致性能,能夠實現97.78%訓練加速比和分鐘級故障發現和自愈;擁有多元異構能力,可適配十餘種GPU ,支持主流國產化GPU。

完整的 AI 應用除 GPU 負責的密集運算外,存量 CPU 負載也需要持續降本增效,保障業務輕裝上陣,加速創新。從運算、儲存、網路、維運4個層面,火山引擎全力支援客戶雲端上業務穩定營運。

End

從技術創新到商業落地,大模型已經為各行業的 AI 轉型提供了強大的動能。火山引擎基於位元組跳動在大模型領域的實踐沉澱,透過大使用量打磨出好模型,以技術驅動的極致性價比讓大模型人人用得起,透過各行業豐富的落地經驗與演算法服務陪伴客戶一起成長。未來,火山引擎全端 AI 服務將持續協助企業 AI 轉型落地,激發業務成長潛能。

#

以上是位元組跳動豆包大模型發布,火山引擎全端 AI 服務協助企業智慧轉型的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn