「根據統計,GPU的平均使用率不超過30%,會產生巨大的算力資源浪費。我們用軟體定義的方式通常可以把用戶GPU的利用率提升3-8倍,甚至可以到10倍。」
這是算力池化軟體公司趨動科技援引產業報告數據並結合自身企業最佳實務經驗給出的最新數據。透過自研的獵戶座OrionX AI算力資源池化軟體,趨動科技可以幫助客戶建構資料中心級AI 算力資源池,客戶無需修改應用就能使用資料中心內任一台伺服器的AI 算力,並透過大幅優化應用部署,提升用戶的資源利用率,為AI產業帶來全新的算力供給模式。
重新定義AI算力資源
在第二屆光合組織AI解決方案比賽上,趨動科技基於與海光硬體產品底座的適配和優化,打造的「信創全端自主可控異構AI算力資源池」(以下簡稱「AI算力資源池」)方案,獲得了本屆大賽一等獎。
趨動科技生態營運總監文禹翔介紹,AI算力資源池方案主要針對當前異構算力使用方式粗放、跨廠商異構算力資源難以統一管理調度等問題。方案將實體異質算力資源進行池化管理,實現按需調度異構算力資源及跨廠商異質算力資源精進管理。
方案架構圖
方案中的基礎設施層,依託於海光伺服器的效能優勢,可實現兩大躍升;在作業系統層,AI算力資源池基於銀河麒麟伺服器作業系統,借助海光CPU、DCU平台優勢,對核心安全、RAS特性、I/O效能、虛擬化和國產硬體、驅動支援等方面進一步優化增強;在虛擬化層,趨動科技OrionX將AI算力資源抽象化為虛擬資源,最終實現AI算力資源的軟體定義。
「目前,應用部署中資源直連獨佔,造成算力資源浪費和使用不靈活等問題,讓算力用戶的成本負擔持續加重,已經在一定程度上阻礙了AI技術的進一步大發展。我們希望過去看起來'陽春白雪'的算力,能夠真正成為一種普惠大眾的資源,就像水電一樣按需隨用隨取、靈活便捷且便宜高效」文禹翔表示。
讓生態飛輪加速轉動
最近由人民銀行主管的期刊《金融電子化》中,刊登了一篇華夏銀行CIO署名文章題為《人工智慧GPU算力資源池化應用研究》的文章。文章詳細論述了異質算力資源池化軟體在信創領域的應用價值,進一步驗證了趨動科技OrionX異構算力池化軟體方案的可行性,同時也對海光加速卡等國產硬體效能給予了肯定。
「信創領域的算力資源池建設需要連結國產軟硬體廠商共同推動,海光在國產晶片產業處於領先梯隊,為我們提供了很大的支撐。」文禹翔表示,透過與海光合作,趨動科技實現了池化軟體異質算力多元化,進一步滿足了信創市場的應用需求。
事實上,自從加入光合組織以來,趨動科技與海光等產業鏈上下游夥伴進行了一系列生態合作。在趨動科技看來,使用者需要的是完整的解決方案,而單一廠商很難提供從底層架構到前端應用的一整套產品,在此背景下,生態力量的整合非常關鍵。
「光合組織為AI產業的生態對接提供了一個很好的平台。」文禹翔指出,基於光合組織大賽,趨動科技不僅與夥伴深化了產品技術合作、展示了方案成果,同時也廣泛連結更多產業力量,逐漸形成生態的“飛輪”,在市場賦能、專案引進等領域逐漸跑出了加速度。
「我相信,隨著飛輪的轉速不斷加快,未來,算力池化方案將觸達更多業務應用場景,AI算力會釋放出更大的價值。」文禹翔表示。
以上是趨動科技:資源池化釋放AI算力價值的詳細內容。更多資訊請關注PHP中文網其他相關文章!

隱藏者的開創性研究暴露了領先的大語言模型(LLM)的關鍵脆弱性。 他們的發現揭示了一種普遍的旁路技術,稱為“政策木偶”,能夠規避幾乎所有主要LLMS

對環境責任和減少廢物的推動正在從根本上改變企業的運作方式。 這種轉變會影響產品開發,製造過程,客戶關係,合作夥伴選擇以及採用新的

最近對先進AI硬件的限制突出了AI優勢的地緣政治競爭不斷升級,從而揭示了中國對外國半導體技術的依賴。 2024年,中國進口了價值3850億美元的半導體

從Google的Chrome剝奪了潛在的剝離,引發了科技行業中的激烈辯論。 OpenAI收購領先的瀏覽器,擁有65%的全球市場份額的前景提出了有關TH的未來的重大疑問

儘管總體廣告增長超過了零售媒體的增長,但仍在放緩。 這個成熟階段提出了挑戰,包括生態系統破碎,成本上升,測量問題和整合複雜性。 但是,人工智能

在一系列閃爍和惰性屏幕中,一個古老的無線電裂縫帶有靜態的裂紋。這堆易於破壞穩定的電子產品構成了“電子廢物之地”的核心,這是沉浸式展覽中的六個裝置之一,&qu&qu

Google Cloud的下一個2025:關注基礎架構,連通性和AI Google Cloud的下一個2025會議展示了許多進步,太多了,無法在此處詳細介紹。 有關特定公告的深入分析,請參閱我的文章

本週在AI和XR中:一波AI驅動的創造力正在通過從音樂發電到電影製作的媒體和娛樂中席捲。 讓我們潛入頭條新聞。 AI生成的內容的增長影響:技術顧問Shelly Palme


熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

SublimeText3漢化版
中文版,非常好用

SAP NetWeaver Server Adapter for Eclipse
將Eclipse與SAP NetWeaver應用伺服器整合。

WebStorm Mac版
好用的JavaScript開發工具

SublimeText3 Linux新版
SublimeText3 Linux最新版

MinGW - Minimalist GNU for Windows
這個專案正在遷移到osdn.net/projects/mingw的過程中,你可以繼續在那裡關注我們。 MinGW:GNU編譯器集合(GCC)的本機Windows移植版本,可自由分發的導入函式庫和用於建置本機Windows應用程式的頭檔;包括對MSVC執行時間的擴展,以支援C99功能。 MinGW的所有軟體都可以在64位元Windows平台上運作。