LingBot-Map— 蚂蚁灵波开源的流式 3D 重建模型

雨静同学_2243

雨静同学_2243

2026-04-26

468人浏览

原创

lingbot-map 是蚂蚁灵波科技于2026年4月16日正式开源的流式三维重建模型,具备仅依赖单颗普通 rgb 摄像头即可在视频采集过程中实时完成相机位姿估计与场景三维结构重建的能力。该模型采用纯自回归建模范式,基于几何上下文 transformer(gct)架构,其核心机制——几何上下文注意力(gca)受人类选择性记忆启发,通过锚点(anchor)、位姿参考窗口(pose-reference window)和轨迹记忆(trajectory memory)三层结构高效组织跨帧几何信息,在保障重建精度的同时显著降低冗余计算。在 oxford spires 数据集上,其绝对轨迹误差(ate)达 6.42 米,较此前最优流式方法提升约 2.8 倍,优于主流离线方案 da3(12.87 米)与 vipe(10.52 米);eth3d 基准重建 f1 分数为 85.70,领先第二名超 8%。模型推理速度稳定在约 20 fps,支持超 10,000 帧长序列连续处理且精度几乎无衰减,显存占用仅约 13.28 gb,可在消费级 gpu 上部署,真正实现了高精度、强一致性、低门槛的实时空间感知能力。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

LingBot-Map— 蚂蚁灵波开源的流式 3D 重建模型

OpenJobs AI
OpenJobs AI

一款AI驱动的职位搜索与推荐平台,可根据求职方向辅助发现相关工作机会,并帮助用户提高职位筛选效率。

下载

LingBot-Map的主要功能

  • 实时流式重建:无需等待完整视频输入,逐帧接收并即时输出相机六自由度位姿与稠密深度图,实现“边看边建”的在线建图。
  • 长时序鲁棒运行:依托分页 KV 缓存与局部窗口优化机制,支持万帧级视频持续推理,长期运行下定位漂移极小。
  • 纯视觉轻量化建图:摆脱对激光雷达、IMU 或深度相机的依赖,仅需标准 USB 摄像头即可启动三维理解流程。
  • 端到端轨迹生成:直接输出带尺度一致性的相机运动轨迹,兼容下游 SLAM、导航与空间锚定任务。

如何使用LingBot-Map

  • 环境准备:需配备 NVIDIA GPU(推荐显存 ≥ 12GB),系统支持 Linux 或 Windows WSL2,安装 Python 3.8+、PyTorch 2.0+ 及对应 CUDA 工具链。
  • 安装部署:克隆 GitHub 仓库 https://www.php.cn/link/4f2663dcc42d6c7746733d2c9bcb669d,执行 pip install -r requirements.txt 自动安装 DINO backbone、GCT 核心模块及 Open3D 等可视化依赖。
  • 模型获取:从 HuggingFace(robbyant/lingbot-map)或 ModelScope 下载预训练权重,置于项目 checkpoints/ 目录;模型包含 GCA 主干网络与 Camera/Depth 双预测头。
  • 运行推理:
    • 离线视频模式:输入任意单目 RGB 视频,模型自动提取帧级 DINO 特征,经 Frame Attention 与 GCA 层融合处理,输出轨迹文件与逐帧深度图,并合成带尺度的稠密三维点云地图。
    • 实时摄像头模式:接入普通 USB 摄像头(分辨率建议 640×480 或 1280×720),模型以 ~20 FPS 实时响应,动态更新当前位姿并增量式扩展三维场景结构。
  • 结果输出:生成标准格式相机轨迹(如 TUM、KITTI 坐标系)与 PLY 格式点云,可通过内置 visualize.py 脚本交互式查看重建效果;长序列下 GCA 内存管理机制自动释放过期帧缓存,确保资源恒定。
  • 高级配置:通过修改 config.yaml 中 anchor_context(起点记忆长度)与 trajectory_memory(历史路径保留量)等参数,可灵活调节精度-效率权衡;大场景任务中启用 local_pose_reference_window 可增强长轨迹稳定性。详细 API 说明与调用示例见 GitHub README.md 与 demo.py。

LingBot-Map的关键信息和使用要求

  • 研发主体:蚂蚁灵波科技(Robbyant)
  • 开源状态:全栈开源——含技术报告、训练/推理代码、预训练权重及完整文档,已同步上线 GitHub、HuggingFace 与 ModelScope 平台
  • 硬件依赖:GPU 加速为必需(CUDA 支持),CPU 推理暂未优化
  • 性能指标:实测推理速度约 20 FPS,显存占用约 13.28 GB(64 帧窗口配置下),较全历史缓存方案提速逾 6 倍、显存压缩超 63%

LingBot-Map的核心优势

  • 精度突破:Oxford Spires ATE 仅 6.42 米,ETH3D F1 达 85.70,多项指标刷新流式重建 SOTA;在 7-Scenes、Tanks and Temples 等多基准中位姿与重建质量双优。
  • 实时可靠:20 FPS 稳定吞吐适配机器人实时决策节拍,长序列精度衰减趋近于零,满足工业级连续作业需求。
  • 部署友好:不依赖特殊传感器,普通摄像头 + 消费级显卡即可开箱即用,大幅降低具身智能系统硬件成本与集成复杂度。
  • 范式革新:摒弃传统 SLAM 的手工特征匹配与非线性优化流程,以端到端可学习方式统一建模几何、运动与语义关联,为世界模型演进提供坚实空间底座。

LingBot-Map的项目地址

LingBot-Map的同类竞品对比

对比维度 LingBot-Map TTT3R / WinT3R 传统离线方法(DA3/VIPE)
**技术路线** 自回归式 GCA Transformer 流式重建方法 先采集后处理
**推理模式** 实时流式(边看边建) 流式重建 离线处理
**Oxford Spires ATE** 6.42 米(领先) 约 18 米 10-13 米
**ETH3D F1 分数** 85.70%(领先) 约 77% –
**硬件需求** 普通 RGB 摄像头 通常需深度传感器 多传感器融合
**序列长度支持** 10,000+ 帧稳定运行 较短序列易漂移 受内存限制
**开源情况** 完全开源(代码+权重+论文) 部分开源/闭源 部分开源

LingBot-Map的应用场景

  • 机器人导航与避障:为轮式/足式机器人提供毫秒级更新的在线三维环境地图,支撑动态路径规划与实时障碍响应。
  • 自动驾驶感知增强:作为轻量级视觉建图模块嵌入车端系统,辅助构建高精局部地图,弥补激光雷达盲区与恶劣天气感知短板。
  • 具身智能空间基座:作为 LingBot 系列模型(涵盖深度估计、VLA、世界模型、视觉动作等)的空间理解中枢,统一支撑机器人操作、交互与任务推理。
  • AR/VR 空间锚定:在 AR 眼镜或移动设备上实现物理场景毫秒级三维重建,保障虚拟内容与真实空间的厘米级对齐与持久化锚定。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
Golangci-lint安装与入门教程
Golangci-lint安装与入门教程

本专题讲解Golangci-lint的安装、初始化、基础命令和首次代码检查,覆盖本地环境、Docker及多平台用法,帮助Go开发者快速上手。

2026.10.22

0

15

PHP2Shell高危漏洞修复教程
PHP2Shell高危漏洞修复教程

PHP2Shell漏洞是什么,哪些PHP版本和运行环境会受到影响,服务器应该如何检测与修复?本专题提供版本自查脚本、Linux与Docker升级命令、PHP-FPM和Apache排查步骤,以及修复验证、临时缓解和应急响应方案。

2026.10.22

0

12

剧云人物设定与关系管理教程
剧云人物设定与关系管理教程

本专题介绍剧云人物设定与关系管理,讲解角色小传、性格职业、人物目标、背景资料和关系网络的创建及维护方法。

2026.10.22

0

16

剧云故事大纲与分场规划教程
剧云故事大纲与分场规划教程

本专题讲解剧云梗概与多级大纲功能,覆盖全局、分集、分场结构生成,以及主线冲突、剧情节点和场次顺序调整。

2026.10.22

0

15

VibeKnow PPT讲解视频教程汇总
VibeKnow PPT讲解视频教程汇总

本专题介绍VibeKnow PPT讲解模式的素材准备、旁白生成、页面节奏、画面呈现与导出设置,适合课程和培训场景。

2026.10.22

0

16

VibeKnow PDF转视频教程合集
VibeKnow PDF转视频教程合集

本专题围绕VibeKnow的PDF转视频功能,讲解文件准备、内容解析、脚本生成、重点可视化及配音字幕检查方法。

2026.10.22

0

12

二狗PPT模板与视觉设计
二狗PPT模板与视觉设计

本专题介绍二狗PPT的职场模板、主题风格与页面版式,覆盖模板切换、色彩选择、内容匹配和正式汇报场景下的视觉优化方法。

2026.10.22

0

13

php漏洞修复方法
php漏洞修复方法

PHP漏洞聚合专题,持续整理PHP最新高危漏洞、CVE安全预警、受影响版本、自查命令及修复方案,覆盖PHP-FPM、Docker、Ubuntu与Linux服务器环境,帮助开发者快速完成漏洞排查、版本升级和安全加固。

2026.10.22

20

31

二狗PPT入门与基础操作
二狗PPT入门与基础操作

本专题整理二狗PPT从官网进入、输入主题、生成大纲到制作成稿的基础操作,帮助新手掌握AI一键生成职场PPT的完整流程。

2026.10.22

0

14

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.9万人学习