扩散模型攻克算法难题,AGI不远了!谷歌大脑找到迷宫最短路径

风丽君_1858

风丽君_1858

2024-04-02

1168人浏览

转载

「扩散模型」也能攻克算法难题?

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

扩散模型攻克算法难题,AGI不远了!谷歌大脑找到迷宫最短路径图片

一位博士研究人员做了一个有趣的实验,用「离散扩散」寻找用图像表示的迷宫中的最短路径。

扩散模型攻克算法难题,AGI不远了!谷歌大脑找到迷宫最短路径图片

作者介绍,每个迷宫都是通过反复添加水平和垂直墙生成的。

其中,起始点和目标点随机选取。

从起点到目标点的最短路径中,随机采样一条作为解决方案的路径。最短路径是通过精确算法算出来的。

扩散模型攻克算法难题,AGI不远了!谷歌大脑找到迷宫最短路径图片

然后使用离散扩散模型和U-Net。

将起点和目标的迷宫被编码在一个通道中,而模型在另一个通道中用解来消除迷宫的噪声。

扩散模型攻克算法难题,AGI不远了!谷歌大脑找到迷宫最短路径图片

再难一点的迷宫,也能做的很好。

扩散模型攻克算法难题,AGI不远了!谷歌大脑找到迷宫最短路径图片

为了估算去噪步骤 p(x_{t-1} | x_t),算法会估算 p(x_0 | x_t)。在这个过程中可视化这一估计值(底行),显示「当前假设」,最终聚焦在结果上。

扩散模型攻克算法难题,AGI不远了!谷歌大脑找到迷宫最短路径图片

英伟达高级科学家Jim Fan表示,这是一个有趣的实验,扩散模型可以「渲染」算法。它可以仅从像素实现迷宫遍历,甚至使用了比Transforme弱得多的U-Net。

我一直认为扩散模型是渲染器,而Transformer是推理引擎。看起来,渲染器本身也可以编码非常复杂的顺序算法。

扩散模型攻克算法难题,AGI不远了!谷歌大脑找到迷宫最短路径图片

这个实验简直惊呆了网友,「扩散模型还能做什么?!」

扩散模型攻克算法难题,AGI不远了!谷歌大脑找到迷宫最短路径图片

还有人表示,一旦有人在足够好的数据集上训练扩散Transformer,AGI就解决了。

扩散模型攻克算法难题,AGI不远了!谷歌大脑找到迷宫最短路径图片

不过这项研究还未正式发布,作者表示稍后更新在arxiv上。

值得一提的是,这个实验中,他们采用了谷歌大脑团队曾在2021年提出的离散扩散模型。

扩散模型攻克算法难题,AGI不远了!谷歌大脑找到迷宫最短路径图片

就在最近,这项研究重新更新了一版。

离散扩散模型

「生成模型」是机器学习中的核心问题。

它既可用于衡量我们捕获自然数据集统计数据的能力,也可用于需要生成图像、文本和语音等高维数据的下游应用程序。

GAN、VAE、大型自回归神经网络模型、归一化流等方法,在样本质量、采样速度、对数似然,以及训练稳定性方面都各有千秋。

最近,「扩散模型」已成为图像、音频生成,最受欢迎的替代方案。

它可以用更少的推理步骤,实现了与GAN相当的样本质量,以及与自回归模型相当的对数似然。

扩散模型攻克算法难题,AGI不远了!谷歌大脑找到迷宫最短路径图片

论文地址:https://www.php.cn/link/46994a3cd8d943d03b44b8fc9792d435

虽然已有人提出了离散和连续状态空间的扩散模型,但最近的研究主要集中在,连续状态空间中运行的高斯扩散过程(如实值图像和波形数据)。

离散状态空间的扩散模型,已在文本和图像分割领域进行了探索,但是还没有在文本和图像的大规模生成任务中,证明是一个有竞争力的模型。

谷歌研究团队提出了一种全新的离散去噪扩散概率模型(D3PM)。

研究中,作者证明了过度矩阵的选择是一个重要的设计决策,它能改善图像和文本领域的结果。

此外,他们还提出了一种新的损失函数,它结合了变分下界和辅助的交叉熵损失。

在文本方面,这个模型在字符级文本生成方面取得了很好的效果,同时可以扩展到大词汇量的LM1B数据集上。

在CIFAR-10图像数据集上,最新模型接近了连续空间DDPM模型的样本质量,并超过了连续空间 DDPM 模型的对数似然。

扩散模型攻克算法难题,AGI不远了!谷歌大脑找到迷宫最短路径图片

项目作者

Arnaud Pannatier

扩散模型攻克算法难题,AGI不远了!谷歌大脑找到迷宫最短路径

Arnaud Pannatier从2020年3月在导师François Fleuret的机器学习小组开始攻读博士学位。

他最近开发了HyperMixer,使用超级网络让MLPMixer能够处理各种长度输入。这使得模型能够以一种排列不变的方式处理输入,并证明了它给了模型一种随着输入长度线性扩展的注意力行为。

在EPFL,他先后获得了物理学学士学位和计算机科学与工程硕士学位(CSE-MASH)。

参考资料:

https://www.php.cn/link/46994a3cd8d943d03b44b8fc9792d435

https://www.php.cn/link/1879d84e181b6262704e95372dc9f4dc

相关文章

谷歌浏览器
谷歌浏览器

谷歌浏览器Google Chrome是一款可让您更快速、轻松且安全地使用网络的浏览器。Google Chrome的设计超级简洁,使用起来得心应手。这里提供了谷歌浏览器纯净安装包,有需要的小伙伴快来保存下载体验吧!

下载

相关标签:

排列

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
页面置换算法
页面置换算法

页面置换算法是操作系统中用来决定在内存中哪些页面应该被换出以便为新的页面提供空间的算法。本专题为大家提供页面置换算法的相关文章,大家可以免费体验。

2023.08.14

7356

4

http与https有哪些区别
http与https有哪些区别

http与https的区别:1、协议安全性;2、连接方式;3、证书管理;4、连接状态;5、端口号;6、资源消耗;7、兼容性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.08.16

5650

6

GoFrame框架Web开发与路由中间件
GoFrame框架Web开发与路由中间件

本专题聚焦GoFrame框架的Web开发,拆解路由注册与匹配规则、请求参数获取、参数校验与中间件执行顺序,说明统一响应、JWT鉴权、文件上传与接口文档生成的落地方式,并补充优雅重启与测试实践。

2026.11.17

20

15

GoFrame框架安装与gf命令行工具
GoFrame框架安装与gf命令行工具

本专题围绕GoFrame框架的安装与工具链配置展开,讲清Go版本要求、gf命令行的安装方式、代理镜像与依赖准备,说明项目初始化、热编译、交叉编译打包的做法,并整理安装阶段的常见报错与验证步骤。

2026.11.17

20

15

GoFrame框架零基础入门
GoFrame框架零基础入门

本专题整理GoFrame框架的入门知识,从模块化设计理念、环境准备到跑通第一个Web服务,讲清目录分层、配置加载、日志与中间件的用法,并对比Gin、Go-Zero的差异,帮助Go开发者建立整体认知。

2026.11.17

20

15

SQLAlchemy 一对多关系怎么建立
SQLAlchemy 一对多关系怎么建立

SQLAlchemy 一对多关系怎么建立?本专题整理父子表外键、relationship 双向映射、关联查询、级联删除和加载优化等相关文章,帮助你理解并实现常见的 ORM 关系建模。

2026.11.17

20

10

SQLAlchemy 如何增删改查
SQLAlchemy 如何增删改查

SQLAlchemy 如何增删改查?本专题整理 ORM 新增记录、条件查询、更新和删除、Session 事务提交与批量处理等实用文章,帮助你掌握 Python 数据库操作流程。

2026.11.17

20

11

SQLAlchemy ORM 模型怎么写
SQLAlchemy ORM 模型怎么写

SQLAlchemy ORM 模型怎么写?本专题整理模型类定义、Mapped 字段映射、主键与约束、表结构创建和常见报错的相关文章,帮助你从基础配置到实际建模逐步掌握 SQLAlchemy。

2026.11.17

20

16

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

2026.11.12

180

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程