首页  >  文章  >  科技周边  >  亚马逊发力捍卫云地位,升级自研AI芯片,发布聊天机器人Q,抢先用英伟达新一代超级芯片

亚马逊发力捍卫云地位,升级自研AI芯片,发布聊天机器人Q,抢先用英伟达新一代超级芯片

王林
王林转载
2023-11-29 08:37:481220浏览

亚马逊正全力捍卫其在云计算领域的领先地位。他们一方面升级自家的云芯片,并推出了亚马逊版的GPT——人工智能聊天机器人;另一方面,他们还加深了与英伟达的合作,推出了基于英伟达芯片的新服务,并与英伟达共同研发超级计算机

AWS的副总裁Dave Brown表示,通过将自研芯片的设计重点放在对客户重要的实际工作负载上,AWS能为他们提供最先进的云基础设施。此次推出的Graviton4是五年内的第四代芯片产品,随着人们对生成式 AI 兴趣的高涨,第二代AI芯片Trainium2 将帮助客户以更低的成本和更高的能效更快地训练自己的机器学习模型。

Graviton4计算性能较前代提高多达30%

美东时间11月28日周二,亚马逊旗下云计算业务AWS宣布,推出新一代的AWS自研芯片。其中,通用芯片Graviton4的计算性能较前代Graviton3提高多达30%,内核增加50%,内存带宽提升75%,从而在亚马逊云服务器托管服务Amazon Elastic Compute Cloud(EC2)上提供最高性价比和能源利用效果。

Graviton4 通过对所有高速物理硬件接口进行全面加密来提高安全性。AWS 表示,Graviton4 将应用于内存优化的 Amazon EC2 R8g 实例,以帮助客户改进高性能数据库、内存缓存和大数据分析工作负载的执行。R8g 实例提供更大的实例规格,其 vCPU 数量最多比前代 R7g 实例高三倍,内存容量高三倍

未来数月内,计划推出搭载Graitons4的电脑。AWS表示,自启动Garviton项目以来的五年内,已经生产了超过200万个Garviton处理器,并且AWS EC2的前100位用户都选择了使用Graviton

亚马逊发力捍卫云地位,升级自研AI芯片,发布聊天机器人Q,抢先用英伟达新一代超级芯片

Trainium2速度提高了四倍,可以训练万亿参数级别的模型

AWS推出了一款名为Trainium2的新一代AI芯片,其速度比前代Trainium1快四倍。Trainium2可以在EC2 UltraCluster中部署多达10万个芯片,使用户能够在短时间内训练具有万亿参数的基础模型(PM)和大语言模型(LLM)。与前代相比,Trainium2的能源利用率提高了两倍

Trainium2将用于Amazon EC2 Trn2实例,每个实例包含16个Trainium芯片。Trn2实例旨在帮助客户在下一代EC2 UltraCluster中扩展芯片应用数量,最多可达到10万个Trainium2芯片,并通过AWS弹性布线适配器(EFA)的PB级网络连接,提供高达65艾克赫的计算能力

根据AWS的说法,Trainium2将于明年开始用于支持新的服务

亚马逊发力捍卫云地位,升级自研AI芯片,发布聊天机器人Q,抢先用英伟达新一代超级芯片

首家大客户DGX云采用了升级版的Grace Hopper GH200 NVL32,这款GPU驱动AI超级计算机速度最快

在年度大会re:Invent期间,AWS周二与英伟达宣布扩大战略合作,提供最先进的基础设施、软件和服务,以促进客户的生成式AI创新。这项合作不仅仅涉及自研芯片,而且还包括其他领域的合作

AWS将成为第一家在云端采用全新多节点NVLink技术英伟达H200 Grace Hopper超级芯片的云服务提供商,也就是说,AWS将成为升级版Grace Hopper的首个重要客户

英伟达的H200 NVL32 多节点平台将 32 个 Grace Hopper芯片与 NVLink 和 NVSwitch 技术共同用于一个实例。该平台将用于与亚马逊网络EFA连接的Amazon EC2实例,并由高级虚拟化 (AWS Nitro System) 和超大规模集群 (Amazon EC2 UltraClusters) 提供支持,使亚马逊和英伟达共同的客户能够扩展部署数以千计的H200芯片

英伟达和AWS将合作在AWS上托管英伟达的AI训练即服务DGX Cloud。这将是第一个采用GH200 NVL32的DGX云,为开发人员提供具有最大共享内存的单个实例。AWS的DGX云将提升尖端生成式AI和超过1万亿参数的大型语言模型的训练能力

英伟达和AWS正在合作研发一个名为Ceiba的项目,旨在设计世界上速度最快的GPU驱动AI超级计算机。该计算机采用GH200 NVL32和Amazon EFA的互连技术,是一个规模庞大的系统。它搭载了1.6384万块GH200超级芯片,具有65 exaflops的AI处理能力。英伟达计划利用它推动下一波生成式AI创新

亚马逊发力捍卫云地位,升级自研AI芯片,发布聊天机器人Q,抢先用英伟达新一代超级芯片

企业客户机器人亚马逊Q预览版已经上线,能够帮助开发人员在AWS上开发应用程序

AWS除了提供芯片和云服务,还发布了一款名为亚马逊Q的AI聊天机器人预览版。亚马逊Q是一种新型的数字助手,采用生成式AI技术,可以根据企业客户的业务需求工作。它能够帮助企业客户搜索信息、编写代码和审查业务指标

Q接受了AWS内部有关代码和文档的部分培训,可供AWS云的开发者使用。

开发者可以利用Q在AWS上创建应用程序、研究最佳实践、纠正错误,并获得为应用程序编写新功能的帮助。用户可以通过对话式的问答功能与Q进行交互,学习新知识、研究最佳实践以及了解如何在AWS上构建应用程序,无需离开AWS控制台

亚马逊将在企业智能软件、呼叫中心工作人员和物流管理的程序中加入Q。AWS表示,客户可以根据公司的数据或个人资料对Q进行定制

对话式问答功能目前在AWS提供的所有企业地区都有预览版可用

以上是亚马逊发力捍卫云地位,升级自研AI芯片,发布聊天机器人Q,抢先用英伟达新一代超级芯片的详细内容。更多信息请关注PHP中文网其他相关文章!

声明:
本文转载于:sohu.com。如有侵权,请联系admin@php.cn删除