「根據統計,GPU的平均使用率不超過30%,會產生巨大的算力資源浪費。我們用軟體定義的方式通常可以把用戶GPU的利用率提升3-8倍,甚至可以到10倍。」
這是算力池化軟體公司趨動科技援引產業報告數據並結合自身企業最佳實務經驗給出的最新數據。透過自研的獵戶座OrionX AI算力資源池化軟體,趨動科技可以幫助客戶建構資料中心級AI 算力資源池,客戶無需修改應用就能使用資料中心內任一台伺服器的AI 算力,並透過大幅優化應用部署,提升用戶的資源利用率,為AI產業帶來全新的算力供給模式。
重新定義AI算力資源
在第二屆光合組織AI解決方案比賽上,趨動科技基於與海光硬體產品底座的適配和優化,打造的「信創全端自主可控異構AI算力資源池」(以下簡稱「AI算力資源池」)方案,獲得了本屆大賽一等獎。
趨動科技生態營運總監文禹翔介紹,AI算力資源池方案主要針對當前異構算力使用方式粗放、跨廠商異構算力資源難以統一管理調度等問題。方案將實體異質算力資源進行池化管理,實現按需調度異構算力資源及跨廠商異質算力資源精進管理。
方案架構圖
方案中的基礎設施層,依託於海光伺服器的效能優勢,可實現兩大躍升;在作業系統層,AI算力資源池基於銀河麒麟伺服器作業系統,借助海光CPU、DCU平台優勢,對核心安全、RAS特性、I/O效能、虛擬化和國產硬體、驅動支援等方面進一步優化增強;在虛擬化層,趨動科技OrionX將AI算力資源抽象化為虛擬資源,最終實現AI算力資源的軟體定義。
「目前,應用部署中資源直連獨佔,造成算力資源浪費和使用不靈活等問題,讓算力用戶的成本負擔持續加重,已經在一定程度上阻礙了AI技術的進一步大發展。我們希望過去看起來'陽春白雪'的算力,能夠真正成為一種普惠大眾的資源,就像水電一樣按需隨用隨取、靈活便捷且便宜高效」文禹翔表示。
讓生態飛輪加速轉動
最近由人民銀行主管的期刊《金融電子化》中,刊登了一篇華夏銀行CIO署名文章題為《人工智慧GPU算力資源池化應用研究》的文章。文章詳細論述了異質算力資源池化軟體在信創領域的應用價值,進一步驗證了趨動科技OrionX異構算力池化軟體方案的可行性,同時也對海光加速卡等國產硬體效能給予了肯定。
「信創領域的算力資源池建設需要連結國產軟硬體廠商共同推動,海光在國產晶片產業處於領先梯隊,為我們提供了很大的支撐。」文禹翔表示,透過與海光合作,趨動科技實現了池化軟體異質算力多元化,進一步滿足了信創市場的應用需求。
事實上,自從加入光合組織以來,趨動科技與海光等產業鏈上下游夥伴進行了一系列生態合作。在趨動科技看來,使用者需要的是完整的解決方案,而單一廠商很難提供從底層架構到前端應用的一整套產品,在此背景下,生態力量的整合非常關鍵。
「光合組織為AI產業的生態對接提供了一個很好的平台。」文禹翔指出,基於光合組織大賽,趨動科技不僅與夥伴深化了產品技術合作、展示了方案成果,同時也廣泛連結更多產業力量,逐漸形成生態的“飛輪”,在市場賦能、專案引進等領域逐漸跑出了加速度。
「我相信,隨著飛輪的轉速不斷加快,未來,算力池化方案將觸達更多業務應用場景,AI算力會釋放出更大的價值。」文禹翔表示。
以上是趨動科技:資源池化釋放AI算力價值的詳細內容。更多資訊請關注PHP中文網其他相關文章!