大語言模型將塑造運算的未來,需要提升AI方面的工作負載。
作者:駱軼事
#編輯:
駱一帆 盧陶然圖源:
視覺中國行動端出現越來越多形態,並被寄予更大運算能力厚望,這對底層晶片端的技術能力提出了更多要求。
近日Arm宣布推出2023全面運算解決方案(TCS23),根據Arm高級副總裁兼終端事業部總經理Chris Bergey介紹,「TCS23包含了基於全新第五代GPU架構的全新Arm Immortalis GPU,協助Arm面向下一代人工智慧(AI)保持效能領先的全新Armv9 CPU集群,以及可為數百萬Arm開發者提供更易於存取軟體的全新增強技術。」
Arm中國區業務全球副總裁鄒挺在演講中表示, 目前可以看到行動裝置上出現越來越多包括生成式AI在內的智慧技術。同時,對更高效能、更智慧以及更多視覺和觸覺互動的需求仍在持續飆升。
這也帶來比以往更大、更複雜的運算需求。「行動數據使用量仍在持續攀升,全球每位用戶平均每月流量預計將達到19GB,柔性顯示器和AR光學等新形式和元素也開始以不同的方式進入大眾視野,生成式AI及行動端大語言模型的出現將帶來新功能。我們相信全世界對行動裝置的興趣和創新需求必將持續加速提升。」他續稱。
對於將調整授權收費模式的市場討論,Arm方面回應21世紀經濟報道記者:「由於Arm正處於靜默期,因此無法對此發表評論。同時,我們也不對謠言或猜測發表評論。」
效率再度提升
#鄒挺介紹道,Arm 2023全面運算解決方案在設計時充分考慮了智慧型手機的需求,涵蓋全新旗艦級Arm Immortalis GPU,全新Armv9 CPU集群。具體來說,Arm今年推出的GPU產品採用第五代GPU架構,其重新定義了部分圖形管道,以優化記憶體頻寬,從而在行動裝置上支援高幾何負載的下一代遊戲和即時3D應用,同時帶來更順暢、與PC端和遊戲主機媲美的遊戲體驗。
延遲頂點著色(Deferred Vertex Shading, DVS)是第五代GPU架構新引入的圖形功能,可重新定義資料流,有助於合作夥伴擴展核心數量,達到更高效能水準。
與上一代產品相比,Arm Immortalis-G720的效能和能源效率分別提高了15%,系統級效率提升了40%,面積僅增加2%。
Armv9 Cortex CPU計算叢集已經連續三年實現兩位數效能增強的同時,效率也顯著提升。
作為第四代內核,Arm Cortex-X4與上一代的Cortex-X3相比,效能提高15%,基於相同製程的全新高能效微架構可降低40%功耗,面積僅增加10%。大核心處理器Cortex-A720和小核心Cortex-A520,與其上一代相比,雙雙在能源效率方面提高20%。
鄒挺表示,前期Arm積極聽取合作夥伴回饋,在TCS23中引入多項創新技術,例如將互連產生的延遲降低25%,同時優化空閒電源,因此在不影響電池續航時間的前提下,依然可以實現良好的系統性能表現。
在具體應用場景方面,隨著今年蘋果將推出MR產品,混合實境產業的發展備受關注。 Arm終端事業部產品管理總監Andy Craigen回覆21世紀經濟報道記者,「MR產品的挑戰主要集中在產品的重量和功率方面,特別是以非常輕型的眼鏡為MR產品形態更是如此。新推出的Immortalis-G720將能帶來足夠的處理能力支援MR產品所需的圖形表現需求。」
生成式AI新趨勢
#伴隨這一輪AI浪潮而來,行動智慧終端的表現形態和應用訴求也將有所改變。對於後續行動終端的發展趨勢,Chris Bergey分享道,「我認為最明顯是對生成式AI的興趣。先前Google I/O大會重點強調考慮把生成式AI引入到安卓生態系統;微軟Build開發者大會談到把這些引入Windows 11,從而讓使用者體驗有進一步提升。所以很明顯,生成式AI和大型語言模型絕對是一個新興領域。」
對此,Arm也在積極應對,以確保AI可以很好在Arm架構上運作。 「我們相信未來將是一個比較混合(hybrid)的環境:雲端運算在創造大語言模型方面持續發揮巨大推動作用;但考慮到在智慧型手機或其他計算設備上,本地運行可以更好做到隱私保護、能源效率也更高等問題,用戶可以更願意在設備本機上運行較小的模型。」他續稱,大語言模型將塑造計算的未來,這意味著需要進一步提升AI方面的工作負載,
Arm在這方面有非常深厚的儲備,在Arm的平台上AI性能已經提高了兩倍。 ###「我們將繼續推進對Arm NN和Arm Compute Library的支持,以便開發者能夠繼續利用類似Chat GPT或大語言模型的應用程式來開發他們的應用。」Chris Bergey補充道。
目前,汽車電子終端正成為半導體下行情中的逆勢成長點。對於該領域市場,Arm方面對記者表示:「在現下的半導體產業中,汽車是最大的成長動力之一。我們看到這個市場正處於一個關鍵的拐點,從IP設計到車廠等整個供應鏈正在被重新審視和重新定義。新的參與者正在興起加入這個行列,而現有的參與者正在尋找新的方法和想法以保持競爭力。生態系統正在研究如何安全有效解決不同汽車工作負載所需的處理範圍,我們將看到在該領域的創新將持續快速發展。」
21Tech
南財集團特色專欄
往期推薦
#「百模」賽事正酣 路徑演進多端
06-01
FF開啟交付 賈躍亭走出人生至暗仍遙遠
05-31
生成式AI的花園裡 英偉達如何做「挖掘工」
05-31
從工業互聯網到AIGC:智慧製造如何躍遷?
05-30
以上是Arm推出2023全新運算解決方案 探索讓AI更好在終端機上運行的詳細內容。更多資訊請關注PHP中文網其他相關文章!

科學家已經廣泛研究了人類和更簡單的神經網絡(如秀麗隱桿線蟲中的神經網絡),以了解其功能。 但是,出現了一個關鍵問題:我們如何使自己的神經網絡與新穎的AI一起有效地工作

Google的雙子座高級:新的訂閱層即將到來 目前,訪問Gemini Advanced需要$ 19.99/月Google One AI高級計劃。 但是,Android Authority報告暗示了即將發生的變化。 最新的Google P中的代碼

儘管圍繞高級AI功能炒作,但企業AI部署中潛伏的巨大挑戰:數據處理瓶頸。首席執行官慶祝AI的進步時,工程師努力應對緩慢的查詢時間,管道超載,一個

處理文檔不再只是在您的AI項目中打開文件,而是將混亂變成清晰度。諸如PDF,PowerPoints和Word之類的文檔以各種形狀和大小淹沒了我們的工作流程。檢索結構化

利用Google的代理開發套件(ADK)的力量創建具有現實世界功能的智能代理!該教程通過使用ADK來構建對話代理,並支持Gemini和GPT等各種語言模型。 w

摘要: 小型語言模型 (SLM) 專為效率而設計。在資源匱乏、實時性和隱私敏感的環境中,它們比大型語言模型 (LLM) 更勝一籌。 最適合專注型任務,尤其是在領域特異性、控制性和可解釋性比通用知識或創造力更重要的情況下。 SLM 並非 LLMs 的替代品,但在精度、速度和成本效益至關重要時,它們是理想之選。 技術幫助我們用更少的資源取得更多成就。它一直是推動者,而非驅動者。從蒸汽機時代到互聯網泡沫時期,技術的威力在於它幫助我們解決問題的程度。人工智能 (AI) 以及最近的生成式 AI 也不例

利用Google雙子座的力量用於計算機視覺:綜合指南 領先的AI聊天機器人Google Gemini擴展了其功能,超越了對話,以涵蓋強大的計算機視覺功能。 本指南詳細說明瞭如何利用

2025年的AI景觀正在充滿活力,而Google的Gemini 2.0 Flash和Openai的O4-Mini的到來。 這些尖端的車型分開了幾週,具有可比的高級功能和令人印象深刻的基準分數。這個深入的比較


熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

DVWA
Damn Vulnerable Web App (DVWA) 是一個PHP/MySQL的Web應用程序,非常容易受到攻擊。它的主要目標是成為安全專業人員在合法環境中測試自己的技能和工具的輔助工具,幫助Web開發人員更好地理解保護網路應用程式的過程,並幫助教師/學生在課堂環境中教授/學習Web應用程式安全性。 DVWA的目標是透過簡單直接的介面練習一些最常見的Web漏洞,難度各不相同。請注意,該軟體中

EditPlus 中文破解版
體積小,語法高亮,不支援程式碼提示功能

MinGW - Minimalist GNU for Windows
這個專案正在遷移到osdn.net/projects/mingw的過程中,你可以繼續在那裡關注我們。 MinGW:GNU編譯器集合(GCC)的本機Windows移植版本,可自由分發的導入函式庫和用於建置本機Windows應用程式的頭檔;包括對MSVC執行時間的擴展,以支援C99功能。 MinGW的所有軟體都可以在64位元Windows平台上運作。

SecLists
SecLists是最終安全測試人員的伙伴。它是一個包含各種類型清單的集合,這些清單在安全評估過程中經常使用,而且都在一個地方。 SecLists透過方便地提供安全測試人員可能需要的所有列表,幫助提高安全測試的效率和生產力。清單類型包括使用者名稱、密碼、URL、模糊測試有效載荷、敏感資料模式、Web shell等等。測試人員只需將此儲存庫拉到新的測試機上,他就可以存取所需的每種類型的清單。

記事本++7.3.1
好用且免費的程式碼編輯器