搜尋
首頁科技週邊人工智慧英偉達推出全新AI晶片H200,效能大幅提升90%!中國算力實現自主突破!

當全球還在為英偉達H100晶片痴迷並瘋狂購買以滿足持續增長的AI算力需求之時,當地時間週一,英偉達悄然推出了最新的AI芯片H200,用於AI大模型的訓練,比起其前一代產品H100,H200的效能提升了約60%到90%

H200是英偉達H100的升級版,與H100同樣基於Hopper架構,主要升級包括141GB的HBM3e顯存,顯存頻寬從H100的3.35TB/s增加到了4.8TB/s。根據英偉達官網消息, H200也是公司第一款使用HBM3e記憶體的晶片,這種記憶體速度更快,容量更大,因此更適合大語言模型。英偉達表示:「借助HBM3e,英偉達H200以每秒4.8TB的速度提供141GB的內存,與A100相比,容量幾乎是其兩倍,頻寬增加了2.4倍。」

根據官方發布的圖片,H200在大模型Llama 2、GPT-3.5的輸出速度上分別是H100的1.9倍和1.6倍,在高效能運算HPC方面的速度更是達到了雙核心x86 CPU的110倍。

H200預計明年第二季開始交付,英偉達尚未公佈其價格。

不過,與H100等AI晶片一樣,英偉達不會向中國廠商供應H200晶片。 今年10月17日,美國商務部發布了針對晶片的出口管制新規,尤其是對高算力的AI晶片進行了更嚴格的管控。其中一個很重要的新規定是調整了先進運算晶片受限的標準,設定了新的「效能密度閾值」來作為參數。根據新規,英偉達中國「特供版」H800和A800已經被限制對華出口。

缺少最先進的AI晶片短期內對國內AI產業發展將帶來一些挑戰,但也同時蘊含著機會:

首先是國產算力晶片的替代機會,例如近期百度訂購1600片華為昇騰910B晶片;其次是供需錯配的情況下,算力租賃價格上漲,將利好算力租賃企業。 14日,匯納科技宣布內嵌英偉達A100晶片的高效算力伺服器算力服務收費同步上調100%;最後,以Chiplet為代表的先進封裝技術在一定程度上,可以解決先進製程產能不足的問題,可望迎來加速發展。

那麼除華為昇騰外,國產算力還有誰能扛起大旗?產業鏈相關公司有哪些?還有哪些方向可望間接受益? 我們國產AI算力自主可控的四大受益方向和代表公司,製作了專題《AI算力自主可控勢在必行》,有需要的小伙伴,歡迎掃描下方二維碼或添加小助手微信:hzkyxjyy,免費取得或圍觀朋友圈閱讀。新增成功後,過往所有報告以及未來每期專題報告均可免費閱讀。

英偉達推出全新AI晶片H200,效能大幅提升90%!中國算力實現自主突破!

以上是英偉達推出全新AI晶片H200,效能大幅提升90%!中國算力實現自主突破!的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述
本文轉載於:搜狐。如有侵權,請聯絡admin@php.cn刪除
如何使用Monsterapi微調大語言模型如何使用Monsterapi微調大語言模型Apr 19, 2025 am 10:49 AM

利用微調LLM的功能與Monsterapi:綜合指南 想像一個虛擬助手完美理解並預測您的需求。 由於大型語言模型(LLMS)的進步,這已成為現實。 但是,

5統計測試每個數據科學家都應該知道-Analytics Vidhya5統計測試每個數據科學家都應該知道-Analytics VidhyaApr 19, 2025 am 10:27 AM

數據科學的基本統計測試:綜合指南 從數據中解鎖有價值的見解至關重要。 掌握統計測試對於實現這一目標至關重要。這些測試使數據科學家能夠嚴格瓦爾

如何使用Florence -2 -Analytics Vidhya執行計算機視覺任務如何使用Florence -2 -Analytics Vidhya執行計算機視覺任務Apr 19, 2025 am 10:21 AM

介紹 原始變壓器的引入為當前的大語言模型鋪平了道路。同樣,在引入變壓器模型之後,引入了視覺變壓器(VIT)。喜歡

使用Langchain Text Splitters -Analytics Vidhya拆分數據的7種方法使用Langchain Text Splitters -Analytics Vidhya拆分數據的7種方法Apr 19, 2025 am 10:11 AM

Langchain文本拆分器:優化LLM輸入以提高效率和準確性 我們上一篇文章介紹了Langchain的文檔加載程序。 但是,LLM具有上下文窗口大小的限制(以代幣測量)。 超過此限制會截斷數據,comp

免費生成的AI課程:開創創新的未來免費生成的AI課程:開創創新的未來Apr 19, 2025 am 10:01 AM

生成的AI:革命性的創造力和創新 生成的AI通過按下按鈕來創建文本,圖像,音樂和虛擬世界來改變行業。 它的影響跨越視頻編輯,音樂製作,藝術,娛樂,HEA

使用通用句子編碼器和Wikiqa創建QA模型使用通用句子編碼器和Wikiqa創建QA模型Apr 19, 2025 am 10:00 AM

利用嵌入模型的力量來回答高級問題 在當今信息豐富的世界中,立即獲得精確答案的能力至關重要。 本文展示了使用強大的提問(QA)模型

前十名必須閱讀機器學習研究論文前十名必須閱讀機器學習研究論文Apr 19, 2025 am 09:53 AM

本文探討了十個徹底改變人工智能(AI)和機器學習(ML)的開創性出版物。 我們將研究神經網絡和算法的最新突破,並解釋驅動現代AI的核心概念。 Th

替換SEO機構的11個AI工具 - 分析Vidhya替換SEO機構的11個AI工具 - 分析VidhyaApr 19, 2025 am 09:49 AM

AI在SEO中的崛起:超過SEO代理商的前11個工具 AI的快速發展已深刻地重塑了SEO景觀。 旨在提高頂級搜索引擎排名的企業正在利用AI優化其在線策略的能力。 來自AU

See all articles

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

AI Hentai Generator

AI Hentai Generator

免費產生 AI 無盡。

熱工具

Dreamweaver Mac版

Dreamweaver Mac版

視覺化網頁開發工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

mPDF

mPDF

mPDF是一個PHP庫,可以從UTF-8編碼的HTML產生PDF檔案。原作者Ian Back編寫mPDF以從他的網站上「即時」輸出PDF文件,並處理不同的語言。與原始腳本如HTML2FPDF相比,它的速度較慢,並且在使用Unicode字體時產生的檔案較大,但支援CSS樣式等,並進行了大量增強。支援幾乎所有語言,包括RTL(阿拉伯語和希伯來語)和CJK(中日韓)。支援嵌套的區塊級元素(如P、DIV),

Safe Exam Browser

Safe Exam Browser

Safe Exam Browser是一個安全的瀏覽器環境,安全地進行線上考試。該軟體將任何電腦變成一個安全的工作站。它控制對任何實用工具的訪問,並防止學生使用未經授權的資源。

SAP NetWeaver Server Adapter for Eclipse

SAP NetWeaver Server Adapter for Eclipse

將Eclipse與SAP NetWeaver應用伺服器整合。