首頁 >科技週邊 >人工智慧 >滿足AI時代的複雜運算需求 億萬克Adam Server G952N6評測

滿足AI時代的複雜運算需求 億萬克Adam Server G952N6評測

WBOY
WBOY轉載
2023-09-22 23:37:01941瀏覽

生成式AI、LLM的爆發發展推進了智慧技術在千行百業的深入應用,加速運算成為了IT基礎設施的成長動力,尤其是AI伺服器、CXL、HBM等產品或技術的持續迭代提供的優異性能,讓人們看到了其更為廣闊的市場機會。需要進行改寫的內容是:EVOC Adam伺服器G952N6是億萬克設計的一款搭載英特爾第三代至強可擴充系列處理器的4U10GPU卡雙路異質運算伺服器,適用於網際網路、IDC(網際網路資料中心)雲端運算、大數據、大學、人工智慧以及高效能運算等業務,可以滿足資料規模大、應用算力高、靈活彈性等場景需求。

從外觀來看,億萬克Adam Server G952N6採用了簡潔素雅的設計風格,易於安裝、拆卸、維護,這款為4U 19吋機架式伺服器,機身淨重60.35KG,尺寸為840mm(長)*460mm(寬)*175mm(高),前面板辨識度的logo標誌與億萬克橙色線條彰顯大廠氣質。

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

需要進行改寫的內容是:EVOC Adam伺服器 G952N6

#前面板右上角則提供了2個USB 3.2和1個VGA介面、左上角則是1個UID按鈕/指示燈、1個RST按鈕,以及1個電源開關按鈕/指示燈、1個健康狀態燈、1個硬碟指示燈和2個LAN指示燈,可以讓使用者一目了然。

同時,億萬克G952N6具備12個3.5吋熱插拔硬碟的盤位,可以支援4個U.2NVMe硬碟,能充分滿足生成式AI、HPC、大數據分析等應用資料的儲存需求。

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

需要進行改寫的內容是:EVOC Adam伺服器 G952N6

#億萬克G952N6主機板配備2個M.2介面用於系統碟,最多提供13個PCIe擴充槽,可滿足客戶各種擴充需求,最大支援10個全高全長雙寬300W GPU加速卡,適用於深度學習,大數據分析等應用。板載提供了1個IPMI專用GbE,以及一個OCP 3.0接口,靈活選配。

在維運中,可以透過BMC Web管理介面、故障診斷LED等方式查看設備的運作狀態,透過掛耳的UID指示燈標記故障的機器,快速定位故障設備,及時解決問題,簡化維護工作,提高系統的可用性。此外,億萬克G952N6伺服器也整合了智慧散熱管理系統,可根據整機的運作狀態智慧調節散熱模式,提高設備的能源效率比,為客戶節省電力成本

億萬克G952N6伺服器具體參數配置如下: - 處理器:2.5GHz八核心Intel Xeon處理器 - 記憶體:32GB DDR4 RAM - 儲存:1TB固態硬碟 - 網路:千兆乙太網路介面 - 作業系統:Windows Server 2019 - 擴充插槽:4個PCIe x16插槽 - 電源:雙冗餘熱插拔電源 - 尺寸:2U機架式設計 以上是億萬克G952N6伺服器的具體參數配置

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

億萬克G952N6伺服器參數配置

#根據以上相關配置,這款伺服器的單一CPU最多擁有40個核心和80個線程,最大TDP為270W,最高主頻為3.6GHz,有3組11.2 GT/s UPI互連鏈路,可搭配英特爾C621A伺服器晶片組和32根DDR4 3200 MTS記憶體。同時,它也支援16個BPA PMEM類型的內存,有效提升了內存容量

在測試環節,我們對億萬克G952N6伺服器的外觀結構進行了初步檢測,分別檢測板載絲網印刷、OCP槽絲印、串口絲網印刷、硬碟燈絲網、PCIE槽位、電源燈/開關絲印等細節,做工精緻,絲網印刷清晰,不愧是大廠品質。

接著我們對伺服器面板、OS安裝、CPU功能、記憶體功能、PCH SATA磁碟、RAID/HBA卡SATA/SAS磁碟/NVME磁碟、PCIE U.2 NVMe磁碟或板載M.2 NVMe磁碟、GPU功能、PCIE插槽、板載網口、VGA介面、串列埠、USB介面、電源介面、風扇介面、OCP槽等多項進行了基本功能測試,所有測試項目都表現出色全部通過。

例如測試PCIE插槽時,跑PCIE卡的壓力測試10分鐘,dmesg和bmc sel沒有錯誤訊息,PCIE卡無異常,開關機和重啟機器15次,均能正常辨識PCIE卡,表現優異。

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

測試設定表

#

進入效能測試環節,我們分別對CPU效能、記憶體效能、硬碟效能、顯示卡效能進行了全面測試。

首先我們對CPU進行效能測試,借助Linpack測試程序,透過計算雙精度線性方程組的求解來測試CPU的運算能力。測試結果顯示,實測數值優於理論數值,較好的浮點運算效能讓該伺服器在工程應用或程式環境中有優異的表現,如物理學的實驗模擬或電腦程式設計中的數值計算等應用場景。

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

需要重新寫的內容是:中央處理器(CPU)效能測試

在G952N6伺服器記憶體測試中,我們選擇了STREAM(v5.10版本)和MLC(v3.9版本)兩個工具進行測試。其中,STREAM是一款主流的記憶體頻寬測試程序,對CPU的運算能力要求較低,但對CPU記憶體頻寬的壓力較大。透過測試,我們可以得到記憶體頻寬的可持續運行最大值,而不是理論值。程式主要使用了四個數組運算,包括數組的複製(Copy)、數組的尺度變換(Scale)、數組的向量求和(Add)以及數組的複合適量求和(Triad)。測試中使用的陣列值採用雙精度

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

為了測試記憶體效能

#一般來說,當應用程式從處理器快取或記憶體子系統取得資料時,會遇到各種延遲問題。加上記憶體頻寬的限制,這些延遲會對應用的效能產生影響。 MLC可以用來測試這些延遲。例如,可以查詢記憶體存取延遲指令的結果,以ns為單位表示節點之間或內部的空閒記憶體存取延遲矩陣

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

為了測試記憶體效能

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

#為了測試記憶體效能

#從記憶體測試結果來看,普遍高於官網理論值的表現,不僅可以應對資料查詢、應用、呼叫等常見的任務,還可以在現流行的高效能運算等應用中發揮更大的作用。在機型配置中可以看到,ECC記憶體可以實現錯誤檢查和修正,這很大程度上保障了系統整體的安全性和穩定性,能最大限度的降低缺陷率,而RDIMM記憶體則可以降低時延,適用於大容量、高速率、即時性的應用場景,另外在LRDIMM的幫助下,由於在資料匯流排上使用了緩衝器,可以減少系統記憶體控制器的電負載,讓伺服器記憶體匯流排能夠達到更高的工作頻率,大幅提升記憶體所支援的容量。

在硬碟效能測試中,我們對SAS碟、NVMe碟以及SATA碟進行了測試,使用的是FIO(v3.15版本)軟體,FIO(Flexible I/O Tester)是一款專業用於測試磁碟、檔案系統、區塊設備和網路設備效能的工具,可以模擬不同類型的I/O負載,包括隨機或順序讀寫、混合讀寫、隨機或順序存取等,並且可以對測試進行高度客製化配置,使得整機對硬碟性能的支撐得到全面的展示。

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

SAS碟順序讀寫測試

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

SAS碟RAID測試的內容需要進行重寫

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

#SAS碟隨機讀寫測試

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

需要重寫的內容是:NVMe磁碟順序讀寫測試

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

對NVMe碟進行隨機讀寫測試

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

SATA磁碟機順序讀寫測試

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

SATA碟的隨機讀寫測試

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

SATA碟RAID測試

億萬克G952N6伺服器提供了SAS、SATA、NVMe三種硬碟選擇,以滿足各種複雜的資料儲存需求和備份。我們經過測試發現,硬碟的實際表現優於官網理論值。例如,NVMe碟具有高效能和低延遲的特點,可充分利用PCIe的高頻寬能力,提供更高的資料傳輸速率和IOPS,適用於大數據處理和高效能運算等場景。而SAS硬碟在RAID方面表現出色,提供了較高的資料保護和故障應對能力

我們使用CUDA工具針對GPU進行測試,CUDA是一個高效能並行運算平台,允許開發者使用C/C 、Fortran等程式語言在英偉達GPU上進行平行運算,提供了強大的運算能力和高效的資料傳輸方式,使得GPU在科學計算、機器學習、深度學習等領域中得到了廣泛應用。 CUDA-Z是一款用於查詢顯示卡訊息,測試顯示卡效能的工具,可以對英偉達GPU進行專業測試,也是我們這次選用的測試軟體(CUDA-Z 10.251)。

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

CUDA-Z FP32測試的內容需要進行改寫

满足AI时代的复杂计算需求 亿万克Adam Server G952N6评测

CUDA-Z FP64測試是用來測試GPU雙精度浮點效能的工具。它可以幫助使用者評估他們的顯示卡在處理雙精確度浮點運算時的表現。透過執行CUDA-Z FP64測試,使用者可以了解他們的顯示卡在處理高精度運算任務時的效能等級。這對於需要進行科學計算、數據分析和其他需要高精度計算的應用程式非常重要。透過使用CUDA-Z FP64測試,使用者可以選擇合適的顯示卡來滿足他們的特定需求,並優化他們的運算任務

根據測試資料顯示,顯示卡效能的實際測試數值優於官方理論值。以FP32和FP64為例,前者是大多數深度學習框架預設採用的精度,它可以在確保一定計算精度的同時提供較快的計算速度。單精度浮點性能較高,可以更好地滿足3D圖形處理需求,例如工程建模設計等任務。雙精度浮點數FP64的高數值可以滿足精確的科學計算需求,例如分子建模、流體動力學等場景

此外,我們也對機器功耗進行了測試,結果所示,億萬克G952N6伺服器開機最大功耗為3224 W,系統下空載功耗為823 W,系統下50%負載功耗(系統下運作PTU FIO gpu_burn讓CPU、記憶體、NVMe碟/硬碟跑到50%,10分鐘)為3365 W,系統下最大功耗(系統下運作YES DD讓CPU、記憶體、NVMe碟/硬碟跑到100 %,10分鐘)為3652 W,這款伺服器擁有較好的效能表現同時,功耗控制和節能表現也非常值得稱讚。

總結:

透過上述測試,億萬克Adam Server G952N6伺服器在處理器與記憶體效能方便的表現十分不俗,處理高並發、大規模資料時的多核心多執行緒能力應對業務高峰游刃有餘。 PCIe的擴展能力可以在任意場景中滿足當前火熱的AI需求,能夠將GPU的潛力充分發揮,為深度學習、大數據分析等應用帶來澎拜效能,並配合NVMe等多種硬碟形態的支持,可以更好的滿足互聯網、AI、雲端運算等業務場景下的各種複雜需求,例如大規模的複雜資料儲存、資源彈性擴展、高效能運算等,從綜合表現來看,億萬克Adam Server G952N6是一款面向雲端和AI時代的頗具競爭力的產品。

以上是滿足AI時代的複雜運算需求 億萬克Adam Server G952N6評測的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:sohu.com。如有侵權,請聯絡admin@php.cn刪除