当前的人工智能世界耗电且计算有限。模型开发的轨迹很快,但随着这种进步,需要大幅增加计算能力。现有的基于晶体管的计算正在接近其物理极限,并且已经难以满足这些不断增长的计算需求。
大型企业已经尝试通过开发自己的定制芯片解决方案来解决这个问题。然而,硬件瓶颈可能过于严重,无法用传统的电子处理器来克服。那么,技术如何才能充分满足对计算能力呈指数级增长的需求呢?
矩阵乘法
在大型语言模型中,超过90%的计算任务都使用矩阵乘法。通过以结构化的方式执行乘法和加法的基本运算,矩阵乘法能够支持人工智能的各种功能模块。这不仅仅适用于语言模型,而且还是几乎所有神经网络的基础:它可以实现大规模神经元之间的连接,进行图像分类和物体检测的卷积运算,处理顺序数据等。虽然这是一个简单的概念,但对于有效地操作和转换支持人工智能和其他无数应用的数据来说至关重要,因此矩阵乘法的重要性无法高估
随着人工智能模型变得越来越庞大,我们必须进行更多的矩阵运算,这就意味着我们需要更强大的计算能力。为了满足这种需求,即便是目前,电子产品也已经达到了极限。还有其他解决方案吗?
光学矩阵乘法
光学已经以多种方式用于改变我们的生活,最引人注目的是光纤网络中的光通信。光学计算自然是下一步。数字电子学需要大量晶体管来执行最简单的算术运算,而光学计算则利用物理定律进行计算。输入信息被编码为光束,并利用光学的自然特性(例如干涉和衍射)执行矩阵乘法。信息可以以多种波长、偏振和空间模式进行编码,从而允许无限量的并行处理,并且计算实际上以光速进行。
通过3D光学添加新维度
随着登纳德缩放定律和摩尔定律的结束,是时候重新审视计算的基础知识了。数字电子产品本质上局限于“2D”布局——晶体管栅极和电路制造在晶圆上,计算是通过2D平面上不同单元之间的信息流动进行的。这种2D计算架构需要不断增加的晶体管密度,导致严重的互连问题,并遭受臭名昭著的内存瓶颈。随着3D堆叠存储器的发展,2D设计的变革现已开始,但整个行业的适应还有很长的路要走。
现在,光学可以通过在3D空间中自然地执行计算来彻底改变游戏规则。添加新维度可以放松传统计算中的许多限制。互连组件更容易,能源效率更高,并且它允许不断增加的吞吐量(在给定时间内可以执行多少计算),而不影响延迟(每次计算执行的速度)。这对于3D光学来说是完全独特的:无论是将10个数字相乘还是10,000个数字相乘,这一切都会以光速同时发生。这对光学处理器的可扩展性产生了巨大的影响,使其能够达到当前数字处理器速度的1000倍。
除了3D光学固有的可扩展性之外,光学器件的时钟速度可以提供比传统电子器件快100倍的速度,并且波长复用的能力为进一步提高100倍打开了大门。将这一切结合在一起,能够以指数方式扩展计算速度,并具有更高的吞吐量、更低的延迟和更高的可靠性,而这些只有3D光学矩阵乘法才能提供
这对人工智能意味着什么?
无论应用如何,矩阵乘法构成了所有人工智能计算的支柱。值得注意的是,3D光学带来的高吞吐量和低延迟对于数据中心的人工智能推理任务特别有价值,这是一种由实时响应能力和效率推动的应用程序。
3D光学计算相较于传统的电子或集成光子学,在带宽、延迟、速度和可扩展性方面有了显著的提升。此外,它还与现有机器学习算法兼容,因此有望彻底改变所有人工智能应用
以上是人工智能的未来:光学矩阵乘法的革命性影响的详细内容。更多信息请关注PHP中文网其他相关文章!

法律技术革命正在获得动力,促使法律专业人员积极采用AI解决方案。 对于那些旨在保持竞争力的人来说,被动抵抗不再是可行的选择。 为什么技术采用至关重要? 法律专业人员

许多人认为与AI的互动是匿名的,与人类交流形成了鲜明的对比。 但是,AI在每次聊天期间都会积极介绍用户。 每个单词的每个提示都经过分析和分类。让我们探索AI Revo的这一关键方面

成功的人工智能战略,离不开强大的企业文化支撑。正如彼得·德鲁克所言,企业运作依赖于人,人工智能的成功也同样如此。 对于积极拥抱人工智能的组织而言,构建适应AI的企业文化至关重要,它甚至决定着AI战略的成败。 西蒙诺咨询公司(West Monroe)近期发布了构建蓬勃发展的AI友好型企业文化的实用指南,以下是一些关键要点: 1. 明确AI的成功模式: 首先,要对AI如何赋能业务有清晰的愿景。理想的AI运作文化,能够实现人与AI系统之间工作流程的自然融合。AI擅长某些任务,而人类则擅长创造力、判

Meta升级AI助手应用,可穿戴式AI时代来临!这款旨在与ChatGPT竞争的应用,提供文本、语音交互、图像生成和网络搜索等标准AI功能,但现在首次增加了地理位置功能。这意味着Meta AI在回答你的问题时,知道你的位置和正在查看的内容。它利用你的兴趣、位置、个人资料和活动信息,提供最新的情境信息,这在以前是无法实现的。该应用还支持实时翻译,这彻底改变了Ray-Ban眼镜上的AI体验,使其实用性大大提升。 对外国电影征收关税是对媒体和文化的赤裸裸的权力行使。如果实施,这将加速向AI和虚拟制作的

人工智能正在彻底改变网络犯罪领域,这迫使我们必须学习新的防御技巧。网络罪犯日益利用深度伪造和智能网络攻击等强大的人工智能技术进行欺诈和破坏,其规模前所未有。据报道,87%的全球企业在过去一年中都成为人工智能网络犯罪的目标。 那么,我们该如何避免成为这波智能犯罪的受害者呢?让我们探讨如何在个人和组织层面识别风险并采取防护措施。 网络罪犯如何利用人工智能 随着技术的进步,犯罪分子不断寻找新的方法来攻击个人、企业和政府。人工智能的广泛应用可能是最新的一个方面,但其潜在危害是前所未有的。 特别是,人工智

最好将人工智能(AI)与人类智力(NI)之间的复杂关系理解为反馈循环。 人类创建AI,对人类活动产生的数据进行培训,以增强或复制人类能力。 这个AI

Anthropic最近的声明强调了关于尖端AI模型缺乏了解,引发了专家之间的激烈辩论。 这是一个真正的技术危机,还是仅仅是通往更秘密的道路上的临时障碍

印度是一个多元化的国家,具有丰富的语言,使整个地区的无缝沟通成为持续的挑战。但是,Sarvam的Bulbul-V2正在帮助弥合其高级文本到语音(TTS)T


热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

Video Face Swap
使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热门文章

热工具

mPDF
mPDF是一个PHP库,可以从UTF-8编码的HTML生成PDF文件。原作者Ian Back编写mPDF以从他的网站上“即时”输出PDF文件,并处理不同的语言。与原始脚本如HTML2FPDF相比,它的速度较慢,并且在使用Unicode字体时生成的文件较大,但支持CSS样式等,并进行了大量增强。支持几乎所有语言,包括RTL(阿拉伯语和希伯来语)和CJK(中日韩)。支持嵌套的块级元素(如P、DIV),

VSCode Windows 64位 下载
微软推出的免费、功能强大的一款IDE编辑器

记事本++7.3.1
好用且免费的代码编辑器

螳螂BT
Mantis是一个易于部署的基于Web的缺陷跟踪工具,用于帮助产品缺陷跟踪。它需要PHP、MySQL和一个Web服务器。请查看我们的演示和托管服务。

禅工作室 13.0.1
功能强大的PHP集成开发环境