信息截止:2026 年 11 月 6 日 05:40(北京时间)。 本文依据 METR 于 11 月 5 日公开的两份报告,以及 Epoch AI 的公开方法文档。METR 页面正文标注了发布日期,未列出精确时分;评估对象主要是截至 2026 年 10 月的研发进展,不是 11 月 5 日当天发生的实验。本文没有接触未公开报告或内部数据,也没有独立复算 AECI。
这次最值得关注的发现
METR 报告称,Anthropic 的 AECI 基准能力增长速度,自 2025 年 10 月以来约为此前的 1.9 倍,95% 置信区间为 1.5—2.8 倍;对 2026 年 10 月当时的加速来源,团队主观判断大部分、可能约 80%,归因于 AI;这不是此前一年的累计贡献比例。两者的证据性质不同。报告同时明确:关键证据大量被删节,外界无法充分独立审查;仅更换链接函数,点估计就分布在 1.1—2.9 倍;这一敏感性范围不是前述置信区间。原始评估
它值得认真读,因为我们需要测量 AI 是否改变了下一代 AI 的研发速度。读者也需要保留一个基本区分:观察到进步变快、解释为何变快,以及预测未来继续加速,是三次不同的推理。 下文的公式、例子与团队建议是本文分析,不是 METR 的额外实验结论。
两倍说的是哪一个量
设某个能力指数过去每年增加 10 分,现在每年增加 20 分,增长斜率之比就是 2。这个例子只说明达到同样指数增量所需的时间减半,不能直接推出:
- 一个研究项目只需要原来一半的人;
- 每位员工的有效产出翻倍;
- 训练一轮模型的 GPU 成本减半;
- 模型整体智能、商业价值或研究质量翻倍。
指数的零点与单位通常是人为约定。把 100 分提高到 120 分,不等于“智能提高 20%”;只有在同一尺度、同一口径上比较变化,才有解释空间。
还有一种容易混淆的情况。若某项产出本来每年变成 3 倍,“两年进步压缩到一年”对应的是一年变成 9 倍,而非 6 倍。对于指数增长,应比较对数增长率;对于按时间近似线性变化的能力指数,才直接比较斜率。讨论“研发加速”前,必须先说明纵轴是什么。
这也解释了为什么“AI 很好用”不足以单独证明研发速度正在持续加速。工具把一个任务从 10 小时缩短到 2 小时,说明该任务的生产率水平提高了;后续研发增速能否持续提高,还取决于实验吞吐、研究判断、算力供给和成果转化有没有跟上。
AECI 与公开 ECI 不能混为一个榜单
理解 AECI,可以先看它借鉴的 ECI 思路。Epoch AI 把不同基准连接到一个能力尺度上:同一个模型参加多个测试,提供了测试难度之间的相对信息。统计模型同时估计模型能力、测试难度,以及测试对能力差异的敏感程度。一个简单的直觉是:在更难的考试中取得相近成绩,通常意味着更强的能力。ECI 方法说明
这种方法解决了“旧测试接近满分后,如何继续比较新模型”的一部分问题,却不会自动解决测量之外的问题。如果测试主要奖励明确答案,综合指数就更容易反映可判分任务,而非需求含糊、跨团队协作或长期维护的能力。把更多考试合成一个分数,也不会凭空产生没有被测试的能力证据。
AECI 是 Anthropic 使用的相关能力指数。本文所讨论的是 METR 报告中的特定数据与拟合结果,不能拿公开 ECI 榜单上的某个分数直接替换。完整复核至少需要相同的模型快照、测试集合、评分预算、时间标记和拟合方法。
这一点在本周尤其重要:Epoch AI 于 11 月 4 日发布了 ECI 的贝叶斯方法更新,讨论了小样本情况下 bootstrap 不确定性估计的问题,并让不同基准具有各自的噪声参数。作者 Emilia Álvarez 与 Alexander Barry 的公开说明及代码提供了可检查的统计背景;这次公开 ECI 更新不等于 METR 已用同一新方法重做了 Anthropic 的内部数据。Epoch 方法更新
80% 的分母是加速来源,不是全部研发工作
“约 80%”最容易被转述成“AI 已完成 80% 的研发”,甚至“AI 已自主完成 80% 的创新”。这些说法都换掉了分母。
要讨论 AI 导致的加速,需要比较两条路径:实际使用 AI 的进步路径,以及同一时期没有 AI 时可能出现的路径。后一条是反事实,不能像已公布的测试成绩一样直接观察。招聘、组织调整、数据改进与工具采用往往同时发生,简单比较使用前后会把它们混在一起。
可以用一个虚构例子看清差别。假设一个团队原来每月完成 10 个合格实验,现在完成 20 个;若在没有 AI 的情况下,团队扩招后也能做到 14 个,那么 AI 关联的额外增量与全部 20 个实验显然不是一回事。而“合格实验数”又不等于“被下一代模型采用的有效发现数”。本例只解释因果量的不同,没有用来反算 Anthropic 的真实数值。
因此,严谨的转述应保留“METR 的判断”和“不确定性”,不应把主观归因伪装成随机对照实验的精确比例。若要评估自己的团队,至少应该同时记录人员、算力、任务难度和验收质量,而不只询问“你觉得快了几倍”。
一个置信区间无法覆盖所有不确定性
METR 的这项区间只计入各模型 AECI 估计的不确定性,没有包含拟合中选择哪些模型的抽样不确定性。一般而言,95% 置信区间主要回答:在指定的模型、数据和重采样方法下,估计有多不稳定。它不自动涵盖所有可能错的地方,例如:
- 测试集合偏向容易验证的任务;
- 新旧模型使用的推理预算不同;
- 用公开发布日期还是内部可用日期排列时间;
- 用哪个历史时期作为参照;
- 指数增长与真实研究成果之间关系发生变化。
这些属于测量选择、外推或因果识别问题。一个区间即使很窄,模型设定仍可能有偏;改变合理假设后的敏感性检查,与单一设定下的置信区间各有用途。读报告时应寻找二者,而不是只记住中心值。
对普通读者来说,最实用的检查不是争论 1.9 和 2.0 的小数差别,而是问:如果换测试、换日期定义、换历史参照,方向是否还在?如果要把结果用于真实业务,还需要跨过哪些证据缺口?
评估独立性与公开可复核性是两条轴
独立评估者可能确实见过足够的数据,并作出诚实判断;公众也可能由于数据未公开而无法复核。两个事实可以同时成立。反过来,披露了大量图表也不意味着因果归因已被证明。
公开删节本身,既不能证明结论错误,也不能成为补全未知细节的许可。对外部读者,合理做法是把判断分成两层:可以直接检查的公开测量,以及依赖评估者信誉的综合判断。后者可以进入风险讨论,但应该以相应的不确定性进入,而非被悄悄升级为确定事实。
另一个必要边界是“触发预警”与“已经发生灾难”。METR 同日发布的另一份审阅针对 8 月风险报告、主要讨论截至 7 月 15 日的模型;它同意截至 7 月 15 日的模型在自动化研发方面的直接灾难风险为低,同时认为是否跨过早期预警线仍有合理争议。这个结论不能被压缩成“没有风险”,也不能改写成“已经失控”。风险报告审阅
给研发团队的可执行测量方法
以下是由上述问题引出的建议,不是对任何实验室内部实践的描述。
先测交付,再测活动。 提交数、代码行数、生成的实验方案都很容易增长。更接近目标的是:通过预先约定验收的成果数量、从提出问题到可信结论的时间,以及后续复现和维护成本。应把失败实验和返工时间保留在账上。
把任务层与组织层拆开。 可将较独立、风险低的工作随机分配到有无 AI 的条件下,记录真实耗时与盲评质量;同时在更长时间上追踪团队的成果。局部实验回答某类任务是否提速,长期追踪回答收益是否穿过了协作与算力瓶颈。不能把前者直接相加成整个公司的倍数。
保留“感觉”和“测量”的差异。 METR 在 2025 年的一项研究中,对 16 位熟悉自己开源仓库的开发者、246 个任务进行了随机化比较;特定早期 AI 工具使完成时间增加约 19%,但参与者对工具收益的感受更乐观。这是特定时期、工具与任务的结果,不能代表今天的全部研发;它仍说明自我报告需要与实际耗时交叉验证。原始研究说明
让失误成本进入指标。 如果实验数量翻倍,但错误结论进入训练流程、审查积压或回滚增加,成果增长可能小得多。速度指标应与正确率、审阅时间、恢复成本一起报告。
预先约定何时改变判断。 在工具上线前确定验收标准、对照方法和统计时间窗,减少事后只挑最好看的时期。若是风险预警,应事先说明跨线后要增加哪些测试和审查,而不是等数字出现后再调整解释。
接下来真正需要补上的证据
最有价值的后续材料包括:能独立审查的汇总数据与方法;更一致的推理预算和模型时间口径;AI 采用变化与研发产出之间更强的因果识别;以及从基准分数通向可复现研究成果的验证。
这份报告提高了认真测量 AI 研发反馈效应的必要性。它没有免除统计口径和因果证据的要求。当前更稳妥的认识是:研发加速已成为值得用组织级数据检验的问题;“两倍”“80%”和“完全自主研究”仍必须分别讨论。
公开来源
- METR:Independent Assessment of AI R&D Acceleration at Anthropic in October 2026 ↗
- METR:Review of the Risks from automated R&D section in Anthropic's Risk Report ↗
- Epoch AI:ECI methodology ↗
- Epoch AI:Updating the Epoch Capabilities Index methodology to use a Bayesian model ↗
- METR:Early-2025 AI tools and experienced open-source developer productivity ↗
本文仅供信息参考,详情请见免责声明。
← 继续阅读更多内容