聯發科天璣9300首發搞定70億參數AI大模型:三個遙遙領先
這是一個AI風起雲湧的時代,從雲端到端側,從PC電腦到智慧型手機,都在深入擁抱生成式AI,變革使用者體驗。
10月18日上午,聯發科官方宣布了一則重磅消息:
聯發科與vivo在AI領域展開深度合作和聯合調校,率先實現了10億和70億參數AI大語言模型、10億參數AI視覺大模型在手機端側的落地,帶來業界領先的端側生成式AI(AIGC)應用創新體驗。
vivo的最新旗艦手機,也將率先搭載基於聯發科天璣晶片移動平台的端側AI大模型,憑藉天璣9300的APU AI單元、NeuroPilot AI開發平台,提供強大的AI算力,提升大模型在端側的運作效率。
根據產業權威訊息,在終端側部署AIGC,有利於保護使用者資訊和隱私安全、提升應用程式即時性、個人化使用者體驗等,優勢非常明顯。
事實上,聯發科在AI上的投入和佈局並非一日之功,此前就與多個生態合作夥伴強強聯合,已經與Meta、百度等大模型合作適配,又與OPPO等手機廠商合作推動AI大模型在終端機落地,大大加速了AIGC在手機上的落地與普及。
就在先前10月11日,聯發科宣布聯合OPPO,共建輕量化大模型端側部署方案,推動AndesGPT大語言模型和多模態大模型落地端側。
AndesGPT是OPPO自主訓練的生成式用戶專屬大模型,透過採用4位元量化技術,在精度不掉點效果下,將大模型在端側逐步落地,而且性能更優,曾在C-Eval全球中文榜單上並以79.9高分登頂。
聯發科天璣9300旗艦移動平台很快就會發布,從各方面爆料看,無論性能還是能效都非常值得期待。
天璣9300基於台積電4nm工藝,首次採用全大核架構設計,配備四顆X4超大核心,同時集成旗艦級的Immortalis-G720 GPU,此外還會首發支持SK海力士新一代LPDDR5T內存,速度達到創紀錄的9.6Gbps。
根據爆料,天璣9300安兔兔V10 CPU、GPU跑分已經領先同行。
加上如今在AI方面的搶先,天璣9300可以在CPU、GPU、APU三個方面在手機晶片行業中遙遙領先。
此外值得一提的是,對比上代平台,天璣9300在實現架構跨代的同時,全大核CPU功耗可降低50%以上,GPU功耗可降低最多25%。
以上是聯發科天璣9300首發搞定70億參數AI大模型:三個遙遙領先的詳細內容。更多資訊請關注PHP中文網其他相關文章!