当全球还在为英伟达H100芯片痴迷并疯狂购买以满足持续增长的AI算力需求之时,当地时间周一,英伟达悄然推出了最新的AI芯片H200,用于AI大模型的训练,相比于其前一代产品H100,H200的性能提升了约60%到90%。
H200是英伟达H100的升级版,与H100同样基于Hopper架构,主要升级包括141GB的HBM3e显存,显存带宽从H100的3.35TB/s增加到了4.8TB/s。据英伟达官网消息, H200也是公司第一款使用HBM3e内存的芯片,这种内存速度更快,容量更大,因此更适合大语言模型。英伟达称:“借助HBM3e,英伟达H200以每秒4.8TB的速度提供141GB的内存,与A100相比,容量几乎是其两倍,带宽增加了2.4倍。”
根据官方发布的图片,H200在大模型Llama 2、GPT-3.5的输出速度上分别是H100的1.9倍和1.6倍,在高性能计算HPC方面的速度更是达到了双核x86 CPU的110倍。
H200预计将于明年二季度开始交付,英伟达尚未公布其价格。
不过,与H100等AI芯片一样,英伟达并不会向中国厂商供应H200芯片。今年10月17日,美国商务部发布了针对芯片的出口管制新规,尤其是对高算力的AI芯片进行了更严格的管控。其中一个很重要的新规定就是调整了先进计算芯片受限的标准,设置了新的“性能密度阈值”来作为参数。根据新规,英伟达中国“特供版”H800和A800已经被限制对华出口。
缺少最先进的AI芯片短期内对国内AI产业发展将带来一些挑战,但也同时蕴含着机遇:
首先是国产算力芯片的替代机遇,比如近期百度订购1600片华为昇腾910B芯片;其次是供需错配的情况下,算力租赁价格上涨,将利好算力租赁企业。14日,汇纳科技宣布内嵌英伟达A100芯片的高性能算力服务器算力服务收费同步上调100%;最后,以Chiplet为代表的先进封装技术在一定程度上,可以解决先进制程产能不足的问题,有望迎来加速发展。
那么除华为昇腾外,国产算力还有谁能扛起大旗?产业链相关公司有哪些?还有哪些方向有望间接受益?我们国产AI算力自主可控的四大受益方向和代表公司,制作了专题《AI算力自主可控势在必行》,有需要的小伙伴,欢迎扫描下方二维码或添加小助手微信:hzkyxjyy,免费获取或围观朋友圈阅读。添加成功后,过往所有报告以及未来每期专题报告均可免费阅读。
以上是英伟达推出全新AI芯片H200,性能大幅提升90%!中国算力实现自主突破!的详细内容。更多信息请关注PHP中文网其他相关文章!