阶跃ai桌面伙伴v2.3.0实现跨应用多模态自动化:支持快捷键截图触发gui理解、语音+视觉双流会议纪要双向索引、自然语言指令驱动飞书/钉钉/notion等多平台数据联动。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

你需要用阶跃AI桌面伙伴处理大量跨应用文档、截图、会议录音和本地表格,但旧版本只能手动复制粘贴再分步操作,现在想直接用一句话指令让AI自动完成整套流程——这正是2026年7月1日发布的阶跃AI桌面伙伴v2.3.0核心升级所解决的问题。
新版多模态感知能力落地:一次截图,全链路响应
打开阶跃AI桌面伙伴,确保右下角状态栏显示“已启用全局视觉感知”(若未启用,点击齿轮图标→【隐私与权限】→勾选“允许访问屏幕内容”)。
按下Ctrl+Shift+P(Windows)或Cmd+Shift+P(Mac),屏幕会自动框选并截取当前活动窗口区域,AI立即开始解析图像中的文字、表格结构、按钮位置及UI层级关系。
这一步必须用快捷键触发,不能靠右键菜单或截图工具另存后上传——【只有原生截屏路径才能激活实时GUI理解引擎】,否则后续所有多模态联动都会降级为普通OCR模式。
对着刚截的图说:“把这张销售看板里的Q2数据导出成Excel,按区域分表,再发给华东组邮箱”,AI会在3秒内完成识别→结构化提取→生成.xlsx→调用QQ邮箱客户端发送,全程无需切换任何窗口。
语音+视觉双流协同:会议纪要自动生成不再依赖转录稿
方法一:会议中直接点击阶跃AI悬浮窗上的麦克风图标,同时保持摄像头开启。AI同步捕获语音流与发言人面部微表情、PPT翻页动作、白板书写轨迹。
方法二:会后导入MP4录像文件,AI自动定位关键帧(如PPT切换瞬间、手势强调区域),将语音转写文本与画面元素对齐打标。
两种方式生成的纪要都带时间戳锚点,点击某段文字,画面自动跳转到对应视频帧;点击画面中某张图表,光标立刻定位到描述该图表的原文段落——这种双向索引依赖v2.3.0新增的跨模态对齐缓存,旧版本仅支持单向跳转。
本地文件智能调度:三步打通飞书/钉钉/Notion数据孤岛
第一步:在阶跃AI桌面伙伴主界面点击【连接工作区】→选择飞书空间→授权读取“项目周报”文件夹。
第二步:右键任意本地Excel文件→选择“用阶跃AI分析”→模型自动识别字段语义(如“成交额”被判定为数值型,“客户标签”被识别为分类变量)→生成可执行的清洗与透视规则。
第三步:输入自然语言指令:“把飞书中上周更新的客户名单,和我桌面上这份销售漏斗表按‘客户ID’合并,筛选出转化率低于15%的线索,同步更新到钉钉‘线索跟进’群公告,并在Notion数据库中标记为‘需复盘’。”
AI调用MCP协议依次执行:飞书API拉取最新名单→本地Excel匹配合并→计算转化率→生成Markdown格式公告→钉钉机器人推送→Notion API写入状态字段。整个过程调用6个不同应用的SDK,全部在后台静默完成。











