首页  >  文章  >  科技周边  >  ICCV'23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

ICCV'23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

王林
王林转载
2023-10-04 20:37:011295浏览

在法国巴黎举行的计算机视觉顶峰大会ICCV 2023刚刚结束!

今年的最佳论文奖,简直是“神仙打架”。

例如,获得最佳论文奖的两篇论文中,就包括颠覆文生图AI领域的著作——ControlNet

自从开源以来,ControlNet在GitHub上已经获得了24k个星。无论是对于扩散模型还是整个计算机视觉领域来说,这篇论文的获奖都是实至名归的

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

而最佳论文奖荣誉提名,则颁给了另一篇同样出名的论文,Meta的「分割一切」模型SAM。

自推出以来,「分割一切」已经成为了各种图像分割AI模型的“标杆”,包括后来居上的不少FastSAM、LISA、SegGPT,全部都是以它为参考基准进行效果测试。

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

论文提名都如此重量级,这届ICCV 2023竞争有多激烈?

ICCV 2023共提交了8068篇论文,但只有约四分之一,即2160篇论文被录用

其中近10%的论文来自中国,除了高校以外也有不少产业机构的身影,像商汤科技及联合实验室有49篇论文入选ICCV 2023,旷视有14篇论文入选。

一起来看看哪些论文获得了ICCV 2023的奖项

ControlNet获ICCV最佳论文

让我们先来看看今年获得最佳论文奖(马尔奖)的两篇论文

ICCV最佳论文又名马尔奖(Marr Prize),每两年评选一次,被誉为计算机视觉领域的最高荣誉之一。

这个奖项以计算机视觉领域的先驱、计算神经科学的创始人大卫·马尔命名

第一篇最佳论文奖得主是来自斯坦福的《为文本到图像扩散模型添加条件控制》

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

这篇论文提出了一种名叫ControlNet的模型,只需给预训练扩散模型增加一个额外的输入,就能控制它生成的细节。

这里的输入可以是各种类型,包括草图、边缘图像、语义分割图像、人体关键点特征、霍夫变换检测直线、深度图、人体骨骼等,所谓的“AI会画手”了,核心技术正是来自于这篇文章。

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

它的思路和架构如下:

控制网络首先复制扩散模型的权重,以获得一个“可训练副本”

相比之下,原扩散模型经过几十亿张图片的预训练,因此参数是被“锁定”的。而这个“可训练副本”只需要在特定任务的小数据集上训练,就能学会条件控制。

即使数据量很少(不超过5万张图片),模型经过训练后条件控制生成的效果也很好。

通过一个1×1的卷积层连接,"锁定模型"和"可训练副本"形成了一个名为"0卷积层"的结构。这个0卷积层的权重和偏置被初始化为0,这样在训练过程中可以获得非常快的速度,接近于微调扩散模型的速度,甚至可以在个人设备上进行训练

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

比如说,如果用20万张图像数据来训练一块英伟达RTX 3090TI,只需要不到一个星期的时间

张旅民是ControlNet论文的第一作者,目前是斯坦福大学的博士生。除了ControlNet,他还创作了著名作品如Style2Paints和Fooocus

论文地址:https://arxiv.org/abs/2302.05543

第二篇论文「Passive Ultra-Wideband Single-Photon lmaging」,来自多伦多大学。

这篇论文被评选委员会称之为“在主题(topic)上最令人惊讶的论文”,以至于其中一位评委表示“他几乎不可能想到去尝试这样的事情”。

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

论文的摘要如下:

这篇文章讨论了如何同时在极端时间尺度范围内(从秒到皮秒)对动态场景进行成像,同时要求成像passively(无需主动发送大量光信号)并在光线非常稀少的情况下进行,而且不依赖于来自光源的任何定时信号。

由于现有的单光子相机的光流估计技术在这个范围内失效,因此,这篇论文开发了一种光流探测理论,借鉴了随机微积分的思想,以从单调递增的光子检测时间戳流中重建像素的时间变化光流。

基于这一理论,论文主要做了三件事:
(1)表明在低光流条件下,被动自由运行的单光子波长探测器相机具有可达到的频率带宽,跨越从直流到31 GHz范围的整个频谱;
(2)推导出一种新颖的傅立叶域光流重建算法,用于扫描时间戳数据中具有统计学显着支持的频率;
(3)确保算法的噪声模型即使在非常低的光子计数或非可忽略的死区时间(dead times)情况下仍然有效。

作者通过实验证明了这种异步成像方式的潜力,包括一些前所未见的能力:
(1)在没有同步(如灯泡、投影仪、多脉冲激光器)的情况下,对以不同速度运行的光源同时照明的场景进行成像;
(2)被动的非视域(non-line-of-sight)视频采集;
(3)记录超宽带视频,可以在30 Hz的频率下回放,展示日常运动,但也可以以每秒十亿分之一的速度播放,以展示光的传播过程。

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

论文一作Mian Wei,多伦多大学博士生,研究方向是计算摄影,目前的研究兴趣在于基于主动照明成像技术改进计算机视觉算法。

请点击以下链接查看论文:https://openaccess.thecvf.com/content/ICCV2023/papers/Wei_Passive_Ultra-Wideband_Single-Photon_Imaging_ICCV_2023_paper.pdf

「分割一切」获荣誉提名

在这次大会上,除了备受关注的ControNet之外,Meta的「分割一切」模型也获得了最佳论文奖的荣誉提名,成为了当时备受瞩目的话题

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

这篇论文不仅提出了一个当前最大的图像分割数据集,在11M图像上拥有超过10亿个遮罩(mask),而且为此训练出了一个SAM模型,可以快速分割没见过的图像。

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

相比于之前比较零散的图像分割模型,SAM可以说是对这一系列模型功能进行了“大一统”,而且在各项任务中都表现出了不错的性能。

这个开源模型目前在GitHub上已经获得了38.8k颗星,可以说是语义分割领域的"标杆"了

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

论文地址:https://arxiv.org/abs/2304.02643
项目主页:https://segment-anything.com/

在学生作品中,Google的「追踪一切」模型脱颖而出

就像文章的标题一样,这个模型可以在任何地点同时对图像中的任意(多个)物体进行像素级追踪。

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

该项目的第一作者是康奈尔大学的华人博士Qianqian Wang,目前正在UCB进行博士后研究。

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

论文地址:https://arxiv.org/abs/2306.05422
项目主页:https://omnimotion.github.io/

在开幕式上,还宣布了由PAMITC委员会成员捐赠的特别奖项,该委员会还同时捐赠了CVPR和WACV两个计算机视觉领域会议的奖项

以下四个奖项被包括在内:

  • 亥姆赫兹奖:十年前对计算机视觉研究产生重大影响的ICCV论文
  • Everingham奖:计算机视觉领域的进步
  • 杰出研究者:对计算机视觉的进步做出重大贡献的研究人员
  • Rosenfeld终身成就奖:在长期职业生涯中对计算机视觉领域做出重大贡献的研究人员

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

获得亥姆赫兹奖的科学家是华裔科学家Heng Wang和Google的Cordelia Schmid,他们是Meta AI的成员

他们凭借2013年发表的一篇有关动作识别的论文获得了这一奖项。

当时两人都在法国国立计算机及自动化研究院(法语缩写:INRIA)下属的Lear实验室工作,Schmid是当时该实验室的领导者。

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

请点击以下链接查看论文:https://ieeexplore.ieee.org/document/6751553

Everingham奖被授予了两个团队

第一组的获奖者是来自Google的Samer Agarwal、Keir Mierle以及他们的团队

两位获奖者分别毕业于华盛顿大学和多伦多大学,他们的成就是开发了一款在计算机视觉领域广泛应用的开源C++库Ceres Solver

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

项目主页链接:http://ceres-solver.org/

另一项获奖成果是COCO数据集,它包含了大量的图像和注释,有丰富的内容和任务,是测试计算机视觉模型的重要数据集。

该数据集由微软提出,相关论文第一作者是华裔科学家Tsung-Yi Lin,博士毕业于康奈尔大学,现在英伟达实验室担任研究人员。

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶
ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

论文地址:https://arxiv.org/abs/1405.0312
项目主页:https://cocodataset.org/

获得杰出研究者荣誉的则是德国马普所的Michael Black和约翰森霍普金斯大学的Rama Chellappa两位教授。

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

麻省理工学院的Ted Adelson教授荣获终身成就奖

ICCV23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶

请问你的论文被ICCV 2023录用了吗?你觉得今年的奖项评选怎么样?

以上是ICCV'23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶的详细内容。更多信息请关注PHP中文网其他相关文章!

声明:
本文转载于:51cto.com。如有侵权,请联系admin@php.cn删除