尽管围绕高级AI功能炒作,但企业AI部署中潜伏的巨大挑战:数据处理瓶颈。在CEO庆祝AI的进步时,工程师会努力应对缓慢的查询时间,过载管道和停滞的模型。
生成的AI繁荣为大型模型提供了需求,但是这种激增忽略了一个关键问题:效率低下的数据准备。组织难以管理大量复杂的数据集。 GPU加速了模型培训,但是数据准备,即准备输入数据的关键步骤,仍被CPU结合的架构不适合目前的规模而受到阻碍。数据量增长超过了我们的处理能力。
正如Neuroblade的首席执行官兼联合创始人Elad Sity指出,CPU传统上用于数据准备,已成为主要的瓶颈,消耗了AI管道的30%以上。这导致工作流缓慢,成本不断上升以及AI潜力和实际收益之间的差距扩大。这一挑战引发了向创新解决方案的转变。该行业正在从人类驱动的见解过渡到AI模型处理越来越多的数据集,从而创造了加速数据收集和处理的周期。
以色列半导体创业公司Neuroblade提出了一种解决方案:专门的硬件,旨在加速数据分析。他们的分析加速器为现代数据库工作负载提供了根本不同的体系结构,超出了更快的CPU的功能。但是,这真的会重塑企业AI的经济学吗?
数据准备放缓
企业意识到AI瓶颈通常不是源于模型本身,而是源于上游数据挑战。务实的研究所报告强调,数据专业人员将其80%的时间用于数据发现,清洁和组织。尽管估计有所不同,但共识很明显:大量时间用于数据制备,遮盖分析和建模。
数据制备涉及提取,转换和连接大量结构化和半结构化数据,通常位于复杂的湖泊环境中。问题在于对这些任务的通用CPU的依赖。
AMD估计目前约有200万个CPU插座支持分析工作负载,预计到2027年将增加到4-500万。这种通用硬件硬件斗争与PB级查询进行了大规模部署。
传统的CPU规模正在达到其限制,迫使公司扩大集群大小,从而增加了高标准和云提供商的成本。但是,扩展群集成倍增加节点之间的通信开销,创造性能,功率和成本障碍。除了一定的一点,这些成本超过了性能的增长,在AI中尤其重要,在AI中,延迟和数据新鲜度直接影响模型的准确性。
专业分析处理器:一种新方法
Neuroblade的加速器通过大大减少查询时间来显着增强数据分析平台性能。通过将从CPU到专门硬件(下降)的操作卸载,它可以提高每个服务器的计算能力,从而更快地使用较小的群集对大型数据集进行处理。
与通用CPU的局限性不同,专门构建的硬件增加了每个服务器的处理能力,减少了对大量群集的需求,并减轻了瓶颈,例如网络开销,功耗和操作复杂性。
TPC-H基准测试表明,神经薄膜的促进剂大约是领先的矢量化CPU实现(如Presto-Velox)的性能的四倍。通过将分析从CPU转移到专用的硅,Neuroblade旨在提高性能,同时大大减少基础设施需求,降低成本,能源消耗和复杂性。
云采用和行业竞争
Neuroblade与Amazon Web Services(AWS)EC2 F2实例的集成将可访问性扩展到基于云的客户,尤其是在财务分析和AI模型更新等领域。这种趋势反映了AI中的GPU革命,高分标准领先,随后采用了更广泛的市场。
主要的半导体公司也进入了这个空间。 NVIDIA在AI加速器中的主导地位正在推动Intel和AMD等竞争对手探索相邻的计算区域,从而使专业的分析硬件成为潜在的主要战场。
AI和分析的收敛性
数据湖区现在可以为仪表板和机器学习模型提供单个数据源,从而提高了效率,但也引入了新的风险。不一致或过时的数据可以减慢商业智能和AI的性能。
传统的BI工具设计用于预定的人类使用,而AI系统则需要规模恒定的实时数据。有效的数据准备和处理对于维持模型的准确性,洞察力相关性和快速决策至关重要。更快的数据准备可以实现更频繁的模型更新,较短的反馈循环以及改进各个行业的实时决策。
重新构想分析基础架构
虽然分析加速度市场是偏生的,但预计采用将增长。企业基础架构的变化是逐渐的,但是关键指标 - 云集成,基准结果以及对数据效率重要性的认识的越来越多 - 正在进行转变。 AI的未来不仅取决于模型大小,还取决于有效的数据处理。
与GPU转换AI的方式相似,分析处理器解决了特定的查询执行瓶颈,并在一个专业计算的新时代迎来了。对于寻求有形AI ROI的公司,解决数据处理瓶颈是至关重要的。 AI的未来取决于有效地将正确的数据传递给模型。
以上是数据分析加速度如何求解AI的隐藏瓶颈的详细内容。更多信息请关注PHP中文网其他相关文章!

科学家已经广泛研究了人类和更简单的神经网络(如秀丽隐杆线虫中的神经网络),以了解其功能。 但是,出现了一个关键问题:我们如何使自己的神经网络与新颖的AI一起有效地工作

Google的双子座高级:新的订阅层即将到来 目前,访问Gemini Advanced需要$ 19.99/月Google One AI高级计划。 但是,Android Authority报告暗示了即将发生的变化。 最新的Google P中的代码

尽管围绕高级AI功能炒作,但企业AI部署中潜伏的巨大挑战:数据处理瓶颈。首席执行官庆祝AI的进步时,工程师努力应对缓慢的查询时间,管道超载,一个

处理文档不再只是在您的AI项目中打开文件,而是将混乱变成清晰度。诸如PDF,PowerPoints和Word之类的文档以各种形状和大小淹没了我们的工作流程。检索结构化

利用Google的代理开发套件(ADK)的力量创建具有现实世界功能的智能代理!该教程通过使用ADK来构建对话代理,并支持Gemini和GPT等各种语言模型。 w

摘要: 小型语言模型 (SLM) 专为效率而设计。在资源匮乏、实时性和隐私敏感的环境中,它们比大型语言模型 (LLM) 更胜一筹。 最适合专注型任务,尤其是在领域特异性、控制性和可解释性比通用知识或创造力更重要的情况下。 SLM 并非 LLMs 的替代品,但在精度、速度和成本效益至关重要时,它们是理想之选。 技术帮助我们用更少的资源取得更多成就。它一直是推动者,而非驱动者。从蒸汽机时代到互联网泡沫时期,技术的威力在于它帮助我们解决问题的程度。人工智能 (AI) 以及最近的生成式 AI 也不例

利用Google双子座的力量用于计算机视觉:综合指南 领先的AI聊天机器人Google Gemini扩展了其功能,超越了对话,以涵盖强大的计算机视觉功能。 本指南详细说明了如何利用

2025年的AI景观正在充满活力,而Google的Gemini 2.0 Flash和Openai的O4-Mini的到来。 这些尖端的车型分开了几周,具有可比的高级功能和令人印象深刻的基准分数。这个深入的比较


热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

Video Face Swap
使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热门文章

热工具

记事本++7.3.1
好用且免费的代码编辑器

安全考试浏览器
Safe Exam Browser是一个安全的浏览器环境,用于安全地进行在线考试。该软件将任何计算机变成一个安全的工作站。它控制对任何实用工具的访问,并防止学生使用未经授权的资源。

VSCode Windows 64位 下载
微软推出的免费、功能强大的一款IDE编辑器

WebStorm Mac版
好用的JavaScript开发工具

PhpStorm Mac 版本
最新(2018.2.1 )专业的PHP集成开发工具