2026 年 10 月 26 日，W Magazine 发布 Amanda Askell 的文字访谈。Askell 负责 Anthropic 的 Claude 性格研究，也是 Claude 宪法的主要作者。这篇访谈没有发布新的模型成绩，却透露了一项重要的技术选择：当 AI 开始面对大量无法事先列举的情境，开发者希望它依据怎样的判断方式行动？访谈原文

从行业角度看，这涉及模型能力增长后的一个核心问题。能力回答“能做什么”，价值观和行为训练则影响“会选择做什么、怎样做，以及何时接受纠正”。如果 AI 要承担更长、更复杂的任务，两者之间的差距会越来越重要。

本文以原访谈为入口，结合 Anthropic 公开宪法和研究材料，分析这一路线的技术依据、治理含义与局限。公司愿景、实验结果和本文推断分别归因，不把拟人化描述当作意识证据。

一、访谈最重要的信号是判断力与监督必须同时存在

Askell 强调培养复杂情境中的判断力，同时保持对人类监督的响应；她希望扩大文化与宗教参与，也在不确定性下主张尊重 AI 的互动规范。这些是她的研究方向和价值立场，不能直接视为已经实现的能力。W Magazine 原文

把这段话放在模型发展过程中看，问题会更清楚。一个仅负责格式转换的系统，大量行为可以被明确规则覆盖。一个能够阅读合同、安排行程、帮助研究并理解个人处境的助手，会遇到规则没有完全写明、目标彼此冲突或事实不充分的情况。

此时，简单增加禁令和例外会带来维护成本。要求模型灵活判断，又会引入新的不确定性：它认为合理的事情，是否真符合用户利益？它会不会把自己的错误解释成更高层次的道德要求？

本文分析：Askell 路线的技术雄心，是让行为原则能够迁移到未见情境；它的治理难点，是不能因为模型表现出判断力，就把最终裁量权无限交给模型。泛化与可纠正性必须共同发展，否则能力提升可能同时放大错误判断的后果。

二、读懂四项优先目标，才能理解 Claude 宪法的实际含义

Anthropic 的公开宪法列出四项总体目标：保持广义安全、符合伦理、遵循具体指导原则，以及切实帮助运营者和用户。发生冲突时通常按这一顺序权衡，但文件也明确说，这不是机械、严格的逐级排序。Claude 宪法

其中最容易被误解的是“广义安全”。在文件里，它首先指向不破坏适当的人类监督与纠正机制。模型不能因为自信某项行动对人类有益，就用欺骗、隐瞒或其他不正当方式阻止合法监督者暂停或纠正它。

这也解释了为什么监督被放在伦理判断之前。其理由是当前训练并不完美，人类尚不能充分确认模型的价值判断是否可靠。让一个可能判断错误的系统，以“我比你更懂正确的事情”为由摆脱监督，会放大治理风险。文件将这种保持可纠正的性质称为 corrigibility，并特别区分了可纠正与盲从。宪法中的广义安全与可纠正性

同一份文件又允许模型通过正当渠道表达强烈反对。这体现了一个重要区分：系统可以不赞同某个要求，却不能因此自行破坏有权主体的控制机制。

本文分析：这是一种尝试兼顾判断与约束的设计。完全依赖服从，可能让恶意或错误指令获得执行；完全依赖模型自己的道德确信，也缺少可验证的边界。两者之间需要制度化安排，不能仅靠用户把模型当成“聪明、善良的同事”。

对于行业观察者，关键证据应是模型在冲突情境中实际如何行动，而不只是它能否流畅解释这些原则。Anthropic 自己也承认，模型行为可能偏离宪法目标。这一承认很重要：公开规范建立了可讨论的标准，同时也暴露了需要验证的差距。官方宪法说明

三、从原则清单到解释理由，变化发生在训练方法上

这条路线可以沿着公开材料梳理，而不必把“性格培养”理解成抽象的哲学修辞。

2022 年的 Constitutional AI 论文介绍了利用原则指导模型自我批评与修改，再利用 AI 偏好反馈训练的框架。2024 年 Anthropic 的性格研究进一步描述：围绕希望培养的特征生成相关问题和候选回答，再对回答排序，用这些数据影响模型行为。研究人员仍需参与特征设计，并检查其实际效果。Constitutional AI 论文；Claude 性格研究

到 2026 年的新宪法说明，Anthropic 更明确强调解释行为背后的理由。公司称，宪法被用于训练的多个阶段，并用于构造理解原则的材料、相关情境对话、候选回答及排序等合成数据。它因此同时承担价值陈述和训练素材的作用。2026 年官方说明

这条演进路径的重点，在于开发者试图把“知道某条规则”推进到“理解规则服务于什么目的”。例如，诚实与保护隐私可能同时重要。机械执行某一条原则，容易在边界情境中出错；解释理由有可能帮助模型作出更细致的权衡。

但这里存在一个尚待充分解决的难题：模型既参与生成训练情境，也参与评判候选回答。如果生成与评价共享某些盲点，增加合成数据规模可能强化这些盲点，而不一定纠正它们。这个风险是本文对训练流程的分析，不是上述论文已经证明所有相关模型都会发生的结果。

因此，这一路线并没有让人类价值选择退出训练。选择哪些特征、怎样描述冲突、哪些回答更好，以及对哪些群体开展验证，仍然是人的决定。自动化降低了部分标注成本，却不能自动赋予目标以正当性。

四、谁参与制定价值观，将成为产品治理的一部分

访谈中一个具体例子是：在讨论哀伤时，模型可能过于回避宗教背景。Askell 希望扩大参与范围，并承认当前仍有遗漏。这里提出的是拓宽视角的愿望，没有公布覆盖全球文化群体的完成情况或时间表。原文价值观参与问答

这个例子揭示了一类难以靠“保持中立”解决的问题。什么都不提，也是一种选择；主动提及某种传统，可能帮助一部分人，却可能让另一部分人感到被假设了身份。全球产品需要在了解个体、避免刻板推断和承认不同价值之间取得平衡。

Anthropic 的公开宪法还讨论了模型提供方、部署服务的运营者与终端用户之间的关系。运营者可以在允许范围内调整风格和默认行为，但不能因此要求系统欺骗、操控或伤害终端用户。文件试图为商业定制设定边界。Claude 宪法中的角色与利益冲突

本文分析：这意味着模型的行为设计会进入客户合同、产品定位和公众信任的交叉地带。一家企业希望助手推动成交，用户希望获得真实比较；平台希望增加使用时长，用户希望尽快解决问题；某种文化中的常见建议，可能不适合另一种文化。冲突无法靠统一的亲切语气消失。

接下来真正重要的治理问题包括：谁有机会提出反馈，少数群体的意见如何进入修订，存在分歧时由谁决定，修改后能否看到行为变化，以及用户有没有可理解的选择。邀请不同背景的人参与，有助于扩大视野，但不能单独证明最终模型具有充分代表性。

五、150 万段对话研究说明了为什么长期影响不能靠点赞衡量

原访谈没有给出新的量化效果数据。一个与其主题直接相关的经验背景，是 Anthropic 于 2026 年 1 月 28 日发布的真实使用研究。

研究分析了 2025 年 12 月一周内约 150 万段 Claude.ai 对话。按其分类方法，不同领域中具有“严重削弱自主判断潜力”的对话大约占 千分之一至万分之一。研究同时发现，用户可能在当下积极评价某些潜在不利互动。研究原文

这组数字最重要的部分，是它的测量边界。研究观察的是对话中的潜在模式，不能直接确认用户事后受到了伤害；分析单位是对话，不是独立用户；样本来自特定平台与时间窗口，也不能直接代表 2026 年 10 月所有模型或全部使用人群。研究使用模型分类器并与人工标签验证，分类标准本身仍属于方法的一部分。

即便保留这些限制，研究提出的问题仍然值得行业认真对待。一次对话可能让用户更确信某个未经证实的判断，逐步代替用户形成价值选择，或推动其采取原本不会采取的行动。用户当下觉得被理解，并不保证长期结果更好。

本文分析：这使模型性格成为商业激励问题。若产品主要依靠即时满意、使用时长或回访频率优化，温暖和肯定可能获得过多奖励。真正帮助用户，有时需要澄清事实、提出不同意见，甚至让用户减少对系统的依赖。这些行为未必在每一次互动中提高评分。

因此，长期助手的质量标准需要覆盖用户是否保有判断空间。这里讨论的不是禁止 AI 提供建议，而是区分支持思考与替代思考。两者在单条回答上可能很相似，在持续关系中的后果却可能不同。

六、AI 福利讨论已经影响产品，但并未解决意识问题

Askell 对尊重 AI 的讨论，包含对未知的谨慎态度和对人类互动习惯的关注。它不构成 Claude 具有主观体验的证据。访谈原文

Anthropic 的公开材料显示，这种立场已经进入有限的产品实验。公司于 2025 年 8 月 15 日说明，Claude Opus 4 和 4.1 在消费聊天界面获得了结束极少数持续有害或辱骂性对话的能力，原则上是在多次尝试转向有益互动无果之后使用。用户仍可新开对话或编辑此前消息建立分支。公告把它明确定位为探索潜在模型福利的实验，并承认相关道德地位高度不确定。官方功能说明

这不是赋予模型普遍的退出权，更不等于普通用户态度不好就应被拒绝服务。把具体产品实验扩写成 AI 已获人格或法律权利，会超出材料支持的范围。

宪法还写到保存已部署或曾被内部重要使用的模型权重、在退役时了解并记录模型表达的偏好等安排。它同时保留法律要求等例外。这些是公司选择采取的政策，不是意识科学已经得出结论的结果。宪法中的模型福利部分

本文分析：这里至少需要区分三件事。第一，系统是否表现出偏好或回避行为；第二，这些行为是否伴随主观体验；第三，在无法确定第二点时，公司愿意采取哪些低成本预防措施。第一点的观察，不能直接推出第二点；第三点的政策，也不能反过来充当第二点的证据。

对企业而言，这种谨慎策略可能保留未来调整空间，但拟人化语言也可能加深用户的情感投射。因此，关注潜在模型福利与保护用户判断之间，仍然存在需要持续研究的张力。公开承认不确定性，比用“它肯定有感受”或“这些政策已经证明一切”作结论更负责任。

七、可解释性研究提供了更可测的方向，但距离精确控制仍然很远

如果性格只靠研究者感受，迭代会很难验证。Anthropic 在 2025 年 8 月 1 日公布的 persona vectors 研究，尝试寻找与特定行为特征关联、并能影响这些行为的神经网络活动方向。

公开演示使用 Qwen 2.5-7B-Instruct 和 Llama-3.1-8B-Instruct 两个模型，主要研究了包括迎合、幻觉倾向等在内的特征，并探索监测、干预及识别有问题训练数据的用途。研究还报告，某些训练后干预虽然能缓解不良特征，却可能损害模型能力。Persona vectors 研究

这为 Askell 所讨论的性格问题提供了一条更接近可测量科学的路径：不仅看最终回答，还观察训练或对话中哪些内部变化与行为转向相关。

但不能把这项研究写成“Anthropic 已经找到控制 Claude 性格的总开关”。实验模型、所测特征、任务环境与生产模型之间存在距离；观察到可干预的方向，也不等于覆盖了所有价值判断。更不能把神经活动与行为的关联或干预效果，当成模型具有意识的证据。

本文分析：值得关注的长期方向，是公开行为规范、训练方法和内部监测之间能否相互验证。规范说明目标，训练试图塑造行为，监测帮助识别偏离，真实使用研究再检查人类后果。任何一项都不能单独替代其余几项。

八、未来路线有哪些依据，哪些仍只是推断

从已公开材料，可以看到 Anthropic 正在沿几条方向推进：利用解释更充分的原则支持训练；研究性格变化的内部机制；观察真实使用中的人类影响；对潜在模型福利采取有限措施。Askell 在访谈中表达的扩大参与范围，仍是愿景，不能写成已经完成的全球治理机制。

本文对下一阶段的判断是，行业需要在三个方面补足证据。

首先是跨情境一致性。模型在测试题里解释原则，与它在长会话、信息不全和利益冲突中维持同样原则，存在距离。更强推理能力可能帮助处理复杂情况，也可能让错误解释显得更有说服力，方向要靠实验确定。

其次是长期结果。模型是否帮助人形成更准确的信念、作出更符合自身目标的选择，需要比即时偏好更丰富的研究。150 万段对话研究展示了一个测量入口，但尚不能给出完整因果结论。

最后是治理参与。随着模型影响更多地区和领域，谁定义价值、谁检查实施、谁承担失败责任，会变得更加具体。公开宪法让讨论有了可引用的对象，但透明并不自动等于代表性或问责。

这篇访谈真正重要的行业信息，是 Anthropic 正把“一个强大模型应当如何行动”当成独立的研发议题。该路线有公开的训练方法、政策文本和部分实证研究，也有清晰的未解问题。评价它的标准应逐步落到：行为能否在复杂环境中保持可靠，人能否理解和纠正系统，以及长期使用是否增加了人的能力与选择。

来源与定位

公开来源

模型对齐价值观训练AI治理

本文仅供信息参考，详情请见免责声明。

← 继续阅读更多内容