☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
OpenAI 首席科学家雅库布·帕乔基（Jakub Pachocki）于9月2日在X平台发布推文，就外界对AI模型Astra“难以监控、推理过程不可见”的质疑作出回应。
争议起源：深度循环机制或削弱思维链可追溯性
该讨论最初由The Information的一篇深度调查报道引发。报道指出，OpenAI正在内部测试一种名为“深度循环”（recurrent depth）的技术，这项技术可能显著增加模型“思维链”（Chain-of-Thought）推理路径的解析难度。
当前主流大模型——如ChatGPT、Claude与Gemini——普遍采用Transformer架构，其信息处理方式呈线性展开，在部分场景下可借助自然语言生成中间推理步骤；但这类输出未必真实还原模型内部计算逻辑。而“深度循环”则允许模型反复调用相同网络层，持续迭代更新隐状态。相较于传统前馈结构，这种机制更易将关键推理过程封装于不可直接观测的内部表征中，从而加大外部通过思维链追踪决策依据的难度。报道一经发布即在AI社区引发广泛关注，不少声音担忧该技术若投入实际应用，或将削弱第三方审计与安全评估的有效性，进一步加剧模型黑箱问题。
帕乔基：当前模型计算图深度不足GPT-4的两倍
帕乔基在推文中明确表示，发布此声明旨在防止“因失实或过度解读的媒体报道，诱发行业盲目竞相追求不可控、不可察模型”的风险。他指出，包括Astra在内的OpenAI最新模型，其计算图深度与GPT-4相比增幅尚不足两倍，整体架构复杂度并未发生外界所猜测的那种突变式跃升。
他还补充道，自早期推理模型诞生以来，OpenAI始终将思维链监控视为对齐研究的关键支撑手段，并持续投入资源优化其实用性——因其有助于团队判断模型对齐能力是否能有效泛化至训练分布之外的新场景。不过他也坦承，当前思维链监控机制仍较为脆弱，且正受到若干非架构因素的负面影响，相关改进工作已被列为当前重点研发方向之一。OpenAI计划为Astra部署增强版思维链监控系统。
计算图深度是评估神经网络结构复杂性的核心参数，定义为从输入到输出所需经过的连续计算层级数量，数值越高，通常意味着模型结构越深、潜在行为越难解析。
