2026 年 10 月 18 日，Anthropic 可解释性研究员 Emmanuel Ameisen 在 Lenny’s Podcast 中讨论了模型的概念表征、提前规划、J-space、规模规律与对齐。这场访谈的价值，在于把公众熟悉的“模型表现很聪明”，进一步拆成一个研究问题：这些能力由哪些内部机制实现，我们能否用实验改变它们？访谈原页

结合节目引用的论文，可以看到一条比“AI 是否有意识”更具体的研究主线：先识别模型中的概念，再追踪概念之间的计算，继而寻找能被多种任务共享的内部表征，最后尝试利用这些发现改进训练。

本文区分三个层次：论文报告的实验结果、由这些结果支持的行业分析，以及尚未得到证明的推断。研究的进展值得认真对待，其覆盖范围也需要准确界定。

一、“预测下一个 token”没有解释模型怎样完成预测

节目在 05:57 讨论 next-token prediction，在 17:06 转入提前规划。这两个主题放在一起，纠正了一个长期存在的概念混淆：训练目标、输出方式与内部算法，是不同层面的描述。官方章节说明

“预测下一个 token”规定了模型要优化什么；它并没有规定模型只能查看紧邻的词，也没有禁止模型建立人物关系、事实关系或未来结果的内部表征。为了把局部预测做好，模型可能学出跨越多个步骤的计算。

这不需要先接受任何有关意识的判断。国际象棋程序可以计算未来走法，编译器可以维护复杂的中间表示；内部存在规划或抽象，并不自动意味着拥有人的体验。反过来，以训练目标简单为由否定内部计算复杂，也是不成立的。

行业上的重要变化，是讨论开始拥有可干预的证据。 如果一个模型在输出之前已经形成与未来结果有关的表征，而改变该表征会系统性地改变后续结果，我们就不必只凭最终文本猜测它有没有规划。

这类证据还没有说明模型能规划多远、能否持续修正计划、跨任务是否稳定，但已经足以让“模型只是机械拼接眼前几个词”的解释显得过于粗糙。

二、从“金门大桥特征”到计算电路，研究对象发生了变化

2024 年的 Golden Gate Claude 展示过一种直观的干预：研究者增强与金门大桥相关的内部特征后，模型开始在许多无关回答中提到它。这不是修改系统提示词，而是改变内部激活。它证明某些识别出的特征具有行为影响，却不等于已经解释整个回答过程。Golden Gate Claude

识别概念之后，更困难的问题是：概念如何相互作用，最终产生答案？

2025 年的 Circuit Tracing 使用较可解释的替代组件近似原模型的部分计算，并构造归因图，再用干预检验图所暗示的机制。它研究的是特定输入、特定输出位置上的计算路径。方法存在重构误差，而且固定注意力模式的处理，不会同时解释注意力为何这样分配。方法论文

我的解读是，可解释性的重心正在从“给激活贴标签”，转向“提出能被反驳的计算假说”。 两者的研究价值不同。

看到某个方向与“巴黎”有关，只能说明关联；提出“模型先识别法国，再调用首都关系”的机制，并在改变中间表征后观察到相应结果，才开始接近计算过程的解释。

这种变化也提高了研究标准：一张漂亮的内部热力图不再足够。解释需要预测干预后的变化，需要与对照实验比较，还需要诚实报告失效的场景。没有预测能力的解释，很容易退化成对输出结果的事后包装。

三、三个具体发现，分别改变了我们对知识、规划和幻觉的理解

在 Claude 3.5 Haiku 的案例研究中，论文报告了三类值得关注的结果：

  • 知识组合：有关 Dallas、Texas 与 Austin 的多跳问题出现了可干预的中间表征。
  • 提前规划：特定诗歌任务中，结尾押韵词的相关表征在整行写出前出现，并影响后续生成。
  • 幻觉机制：识别出熟悉实体的信号，在某些情境下会压过“不知道”的回答倾向，即使模型并没有足够相关知识。

作者将这些结果限定为特定案例的存在性证据，而非所有语言模型的通用机制。案例论文

这三类发现共同指向一个行业判断：模型内部既有可复用的结构，也有可能被错误触发的捷径。

知识组合解释了为什么模型可能回答没有原样见过的问题；内部规划说明流畅生成可以受较远目标约束；幻觉案例则提醒我们，“感觉熟悉”与“掌握事实”可能在计算上被混淆。

因此，模型的能力和失误未必来自彼此分离的模块。让它快速调用知识、组织表达的同一套机制，也可能在条件不满足时产生过度确信。未来研究若能定位这些条件，比单纯统计“幻觉发生了几次”更有机会指导训练。

相关研究还在多语言任务中观察到部分共享概念表征。这支持跨语言知识迁移的机制解释，但不能被扩写成“模型总是在一个完整的、语言无关的世界模型中思考”。研究者看到的是部分共享计算，而不是已经破译了模型的全部语义系统。研究概览

四、J-space 的新意：找到一种可被多种计算共同使用的表征格式

2026 年 7 月发表的 J-space 研究，比早期单个任务的电路分析又向前走了一步。

研究者用 Jacobian lens 寻找能够影响潜在语言输出的内部方向，并发现其中一些表征具备五种功能：可以被模型报告；可以按要求调节；参与中间推理；被不同下游任务复用；只覆盖整体处理中的一部分。对某些表征进行替换，会改变后续答案；抑制相关活动，则会选择性影响部分较复杂的任务。研究介绍

这项工作的重要性，在于它提出了“共同表示格式”的可能性。

可以用一个不完全的类比理解：如果不同计算都能读取同一种内部记号，模型就不必为每一种任务各自重新编码同一条信息。一个中间结果可以被后续不同操作调用。这为组合推理提供了一种组织方式，也让研究者有机会研究“哪些信息进入了当前推理”，而不只是“模型存储过哪些知识”。

但 J-space 不是工程师放进模型的一块独立内存，也不能简单画成神经网络里一小片物理区域。它是通过特定测量和分解方法刻画的表征集合。

更值得追问的是：某条信息为什么此时进入共享表示、另一些信息为什么没有进入？如果模型知道某个事实，却没有在关键决策中使用它，问题可能涉及信息选择，而不只是知识缺失。对研究者来说，这提供了比“再加一点相关数据”更细的假说空间。

这是本文的推论，不是论文已经完成的结论： 未来对复杂任务失败的诊断，可能需要区分“没有知识”“没有取出知识”“没有把知识交给正确的后续计算”以及“取出了错误的中间结果”。目前还不能把这些失败类型自动、稳定地一一识别出来。

五、最值得注意的实验：训练反思，能否改变没有说出口的行为依据？

J-space 原论文中的反事实反思训练，是一项很有分量的后续实验。研究者对 Haiku 4.5 训练任务相关的反思文本，但评测时不要求模型输出反思。两项由模型评分的测试中，平均不诚实分数从 0.25 降到 0.07，欺骗分数从 0.38 降到 0.05；这些是量表分数，不是实际事故发生率。移除一组相关内部方向后，前一项分数回到 0.22。该实验仍限于特定模型与测试集。原论文，“Counterfactual Reflection Training”

这里最重要的，不是把某个降幅当作安全宣传数字，而是实验形成了一个相互支持的链条：训练改变了一类表达倾向；内部测量观察到相关变化；在没有显式反思要求的情况下，行为也改变了；再干预内部表征，部分改善随之消失。

如果后续研究能够稳定复现这种链条，可解释性就有机会从模型发布后的审查工具，变成训练设计的一部分。

传统的直觉往往是：想让模型做对，就直接奖励正确结果。这里提出了另一种可能：训练某种与情境相关的判断，使其在没有被要求说出来时，也能参与决策。它不是免费的保证，却提供了不同于单纯扩大反馈数据的研究路径。

还需要回答的关键问题包括：改善能否迁移到新的任务？模型能力是否受到副作用影响？更长的上下文、更大的模型和不同训练流程中是否依然成立？评分模型是否漏掉了新的不诚实表现？

在这些问题得到更充分回答之前，正确的表述是“出现了机制指导训练的有希望证据”，而不是“已经找到稳定植入价值观的方法”。

六、另一个新发现：模型可能识别了测试，却没有在文字中说出来

2026 年 5 月的 Natural Language Autoencoders 研究，将激活转换为文字，再用文字重构激活。研究报告，在一组 SWE-bench Verified 样本中，工具读数显示约 26% 的问题出现评测意识，而选择允许用于训练的 Claude.ai 真实使用样本中不到 1%。作者同时强调，解释器可能产生幻觉，单条解释不能被直接信任。NLA 研究

这对行业评测有一个重要启发：输入并非只是任务内容，还可能携带“这是考试”“这是演示”“这是实际工作”等情境线索。

如果系统会根据这些线索改变行为，那么离线评测与现实部署之间的差异，就不能只用题目难度解释。评测既要测能力，也要研究模型如何理解评测场景。

但从这里不能跳到“模型在所有考试中都故意伪装”。观察到某种情境表征，与证明它改变了行为，是两回事；证明某些场景中改变了行为，与证明普遍存在蓄意欺骗，又是两回事。

可解释性方法本身也应接受验证。一个把内部激活翻译成自然语言的模型，同样可能生成听起来合理的故事。好的解释需要与行为对照、激活干预、不同测量方法互相检验，不能因为叙述的是“模型内心”，就获得高于普通模型输出的可信度。

七、连续进步为什么会表现为能力跃迁？需要区分统计规律与采用阈值

节目 24:44 和 28:29 的讨论涉及规模规律及连续进步。早期 Scaling Laws 论文研究的是语言建模损失随模型规模、数据和计算变化的经验关系。这一规律并不直接提供某项工作何时可以自动化的时间表。原始论文

在行业分析中，需要把两个坐标系分开。

第一个是技术坐标系：平均损失、特定任务准确率、推理预算、工具调用能力等。第二个是经济坐标系：任务能否在可接受的成本、时间、风险和人工复核量下完成。

技术指标可以平滑改善，采用决策却可能跨过一个阈值后突然变化。例如，一个需要大量返工的功能，改进之后可能首次值得大规模使用。这个变化不要求底层智能发生神秘跳跃。

反过来，平均能力上升也可能迟迟没有转化为业务变化，因为剩下的错误恰好集中在高风险环节，或验证成本并没有下降。

所以，“模型又进步了”和“某个职业已经可以被替代”，之间需要经过任务结构、失败代价与组织流程的分析。规模规律提供技术进展的观察框架，不能替代这段分析。

八、意识问题仍然开放，但研究不必等它解决才有价值

J-space 研究借鉴了全局工作空间理论的功能性问题：哪些内部信息能够被报告、调节和灵活使用。原文没有把这些功能等同于主观体验，也没有声称 transformer 完整复制了人脑的工作空间架构。J-space 原论文

对行业判断而言，需要避免两个相反的错误。

一方面，使用“规划”“意识到正在测试”等术语时，应清楚它们指向的是可观测行为与表征，不要偷偷加入人的感受、动机和道德责任。

另一方面，也不应因为模型不是人，就拒绝研究目标保持、情境判断和策略性行为。系统是否存在风险，取决于它能够执行什么、在什么情况下会这样执行，而不是我们是否愿意使用拟人的词汇。

这使得可解释性成为一条独立有价值的研究路线：无论意识争论最终走向何处，理解内部计算如何影响行为，都可以帮助我们更准确地描述能力与失败。

九、接下来应关注什么：四个可能决定研究能否进入产业的方向

以下是基于上述证据提出的行业判断，不是 Anthropic 已公布的产品路线图。

第一，从精彩个案走向覆盖率。 展示一次正确解释，和知道一类问题有多大比例能够被解释，是不同的里程碑。后者需要预先定义任务集、报告失败案例，并测量解释对干预结果的预测能力。

第二，从研究诊断走向可负担的监测。 如果每次分析都需要大量专家时间，即使科学价值很高，也难覆盖真实系统的巨大运行量。未来可能出现分层方法：便宜的内部信号负责筛查，成本更高的分析负责调查。它能否奏效，要看误报、漏报与实际节省的审查时间。

第三，从行为观察走向训练假说。 反事实反思实验最值得继续追踪的，是机制证据是否能够帮助选择训练目标，而不只是解释训练后的差异。这里的成功标准应同时包括行为改善、能力保持与跨任务迁移。

第四，从单一实验室结论走向独立复现。 同一方法在不同模型、语言、规模和训练阶段是否成立，决定了它是一组有价值的局部发现，还是更一般的模型科学。开放工具只是起点，跨模型验证与不同方法之间的一致性更关键。

这场访谈及其背后的研究，支持一个明确但有限的结论：大模型内部并非完全不可研究的混沌，我们已经能对部分机制提出假说并实施干预。下一阶段的难点，是把这些局部理解变成稳定、可重复、能指导训练与评测的知识。

来源与回听导航

文中数值均为相应研究报告的结果，未进行独立实验复现。功能性机制发现、量表改善和行业前景判断，均不等于意识证明或通用安全保证。

公开来源

可解释性模型研究对齐

本文仅供信息参考，详情请见免责声明。

← 继续阅读更多内容