随着人工智能在企业中的大规模应用,其后果之一是其消耗了数据中心更大比例的工作负载。
人工智能不仅将加速对数据中心的需求,为投资创造新的动力,而且还将对数据中心的可持续性战略和要部署的基础设施的性质产生影响。
例如,Tirias Research预测,按照目前的情况,到2028年,生成式人工智能数据中心服务器基础设施加上运营成本将超过7600万美元,是Amazon AWS目前估计年度运营成本的两倍多,占全球云服务市场的三分之一。
硬件计算性能预计将提高400%,与Tirias估计的处理工作负载增加50倍相比,显得相形见绌
更高的密度
根据Schneider Electric的一份新白皮书,大型训练集群和小型边缘推理服务器的爆炸式增长,也将意味着向更高机架功率密度的转变。
白皮书称:“人工智能初创企业、企业、主机托管提供商和互联网巨头现在必须考虑这些密度对数据中心物理基础设施的设计和管理的影响。”
施耐德能源管理研究中心对人工智能对能源需求的影响进行了预测。根据估计,目前人工智能代表着4.3GW的电力需求,预计到2028年将以26%至36%的复合年增长率增长
这将导致总需求达到13.5GW至20GW,是数据中心整体电力需求增长的两到三倍。到2028年,人工智能工作负载将占数据中心总能源的20%
Schneider指出,虽然预计会比训练集群消耗更多的电量,但推理工作负载可以在各种机架密度下运行。
“另一方面,人工智能训练工作负载一直以非常高的密度运行,每个机架的功率在20-100 kW或更高。”
网络需求和成本是促使这些培训机架聚集在一起的原因。这些高功率密度的集群给数据中心的电源、冷却、机架和软件管理设计带来了根本性的挑战
动力系统的挑战
Schneider概述了四个可能产生影响的关键领域:电源、冷却、机架和软件管理
在电力方面,人工智能工作负载对开关设备和配电系统的动力系统提出了挑战。
目前使用的一些电压将被证明部署起来不切实际,而较小的配电块尺寸可能会浪费IT空间。较高的机架温度也会增加发生故障和危险的机会。 重写后的内容:目前使用的某些电压可能被证明在部署时不切实际,而较小的配电块尺寸可能会浪费IT空间。同时,较高的机架温度还会增加故障和危险发生的可能性
随着数据中心过渡到液体冷却,冷却将是至关重要的,也是需要进行重大改变的领域之一,半个多世纪以来,液体冷却一直用于专业高性能计算。
Schneider表示:“尽管在不久的将来,空气冷却仍将存在,但预测,从空气冷却到液体冷却的转变将成为具有人工智能集群的数据中心的首选或必要解决方案。” 改写为:据Schneider所说,尽管在不久的将来仍会有空气冷却,但预测表明,将从空气冷却转变为液体冷却将成为具备人工智能集群的数据中心的首选或必要解决方案
与空气冷却相比,液体冷却具有许多优点。首先,液体冷却可以提高处理器的可靠性和性能。其次,液体冷却可以节省空间并增加机架密度。此外,液体冷却中的水具有更大的热惯性,并且可以减少用水量
对于人工智能集群,服务器需要更深入,电力需求更大,冷却也更复杂。
为了满足需求,机架必须具备更高的密度和承重能力
数字孪生
最终,DCIM、BMS和电气设计工具等软件工具将成为管理人工智能集群的关键
通过适当配置和实施软件,可以实现数据中心的数字孪生,以便识别功率限制和冷却资源的性能,并为优化布局决策提供相关信息
在日益动态的环境中,容错空间越小,操作风险就会越高。因此,Schneider建议创建整个IT空间的数字孪生,包括机架中的设备和虚拟机。
通过数字化添加或移动IT负载,可以验证是否有足够的电力、冷却和地板承重能力来支持。这为决策提供了信息,以避免资源搁浅,并最大限度地减少可能导致停机的人为错误
以上是人工智能迫使数据中心重新思考设计的详细内容。更多信息请关注PHP中文网其他相关文章!

介绍 恭喜!您经营一家成功的业务。通过您的网页,社交媒体活动,网络研讨会,会议,免费资源和其他来源,您每天收集5000个电子邮件ID。下一个明显的步骤是

介绍 在当今快节奏的软件开发环境中,确保最佳应用程序性能至关重要。监视实时指标,例如响应时间,错误率和资源利用率可以帮助MAIN

“您有几个用户?”他扮演。 阿尔特曼回答说:“我认为我们上次说的是每周5亿个活跃者,而且它正在迅速增长。” “你告诉我,就像在短短几周内翻了一番,”安德森继续说道。 “我说那个私人

介绍 Mistral发布了其第一个多模式模型,即Pixtral-12b-2409。该模型建立在Mistral的120亿参数Nemo 12B之上。是什么设置了该模型?现在可以拍摄图像和Tex

想象一下,拥有一个由AI驱动的助手,不仅可以响应您的查询,还可以自主收集信息,执行任务甚至处理多种类型的数据(TEXT,图像和代码)。听起来有未来派?在这个a


热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

AI Hentai Generator
免费生成ai无尽的。

热门文章

热工具

mPDF
mPDF是一个PHP库,可以从UTF-8编码的HTML生成PDF文件。原作者Ian Back编写mPDF以从他的网站上“即时”输出PDF文件,并处理不同的语言。与原始脚本如HTML2FPDF相比,它的速度较慢,并且在使用Unicode字体时生成的文件较大,但支持CSS样式等,并进行了大量增强。支持几乎所有语言,包括RTL(阿拉伯语和希伯来语)和CJK(中日韩)。支持嵌套的块级元素(如P、DIV),

WebStorm Mac版
好用的JavaScript开发工具

VSCode Windows 64位 下载
微软推出的免费、功能强大的一款IDE编辑器

EditPlus 中文破解版
体积小,语法高亮,不支持代码提示功能

螳螂BT
Mantis是一个易于部署的基于Web的缺陷跟踪工具,用于帮助产品缺陷跟踪。它需要PHP、MySQL和一个Web服务器。请查看我们的演示和托管服务。