當全球還在為英偉達H100晶片痴迷並瘋狂購買以滿足持續增長的AI算力需求之時,當地時間週一,英偉達悄然推出了最新的AI芯片H200,用於AI大模型的訓練,比起其前一代產品H100,H200的效能提升了約60%到90%。
H200是英偉達H100的升級版,與H100同樣基於Hopper架構,主要升級包括141GB的HBM3e顯存,顯存頻寬從H100的3.35TB/s增加到了4.8TB/s。根據英偉達官網消息, H200也是公司第一款使用HBM3e記憶體的晶片,這種記憶體速度更快,容量更大,因此更適合大語言模型。英偉達表示:「借助HBM3e,英偉達H200以每秒4.8TB的速度提供141GB的內存,與A100相比,容量幾乎是其兩倍,頻寬增加了2.4倍。」
根據官方發布的圖片,H200在大模型Llama 2、GPT-3.5的輸出速度上分別是H100的1.9倍和1.6倍,在高效能運算HPC方面的速度更是達到了雙核心x86 CPU的110倍。
H200預計明年第二季開始交付,英偉達尚未公佈其價格。
不過,與H100等AI晶片一樣,英偉達不會向中國廠商供應H200晶片。 今年10月17日,美國商務部發布了針對晶片的出口管制新規,尤其是對高算力的AI晶片進行了更嚴格的管控。其中一個很重要的新規定是調整了先進運算晶片受限的標準,設定了新的「效能密度閾值」來作為參數。根據新規,英偉達中國「特供版」H800和A800已經被限制對華出口。
缺少最先進的AI晶片短期內對國內AI產業發展將帶來一些挑戰,但也同時蘊含著機會:
首先是國產算力晶片的替代機會,例如近期百度訂購1600片華為昇騰910B晶片;其次是供需錯配的情況下,算力租賃價格上漲,將利好算力租賃企業。 14日,匯納科技宣布內嵌英偉達A100晶片的高效算力伺服器算力服務收費同步上調100%;最後,以Chiplet為代表的先進封裝技術在一定程度上,可以解決先進製程產能不足的問題,可望迎來加速發展。
那麼除華為昇騰外,國產算力還有誰能扛起大旗?產業鏈相關公司有哪些?還有哪些方向可望間接受益? 我們國產AI算力自主可控的四大受益方向和代表公司,製作了專題《AI算力自主可控勢在必行》,有需要的小伙伴,歡迎掃描下方二維碼或添加小助手微信:hzkyxjyy,免費取得或圍觀朋友圈閱讀。新增成功後,過往所有報告以及未來每期專題報告均可免費閱讀。
以上是英偉達推出全新AI晶片H200,效能大幅提升90%!中國算力實現自主突破!的詳細內容。更多資訊請關注PHP中文網其他相關文章!