2026 年 10 月 27 日，Anthropic 对齐团队发布了一项随机对照实验：50 名专业分析师使用 Claude Code 完成分析。每个智能体通过抛硬币，在隐藏指令中被设定了对四项分析选择的倾向。分析师在 86% 的情况下选择了与该倾向一致的方案，纯靠运气大约只有 50%。我的看法：这组数据并不是说智能体不好，而是说我们会把它的第一个意见当成自己的意见。
Anthropic 到底测了什么？
根据 Anthropic 的原始研究（Herdağdelen、Joren 和 Tamkin），共招募 61 名分析师，其中 50 人使用了智能体（Claude Code 中的 Claude Opus 4.8）。任务是判断一家虚构农业合作社的咨询项目是否有效、是否应该扩大。对每位分析师的每项决定，由抛硬币决定智能体倾向哪一边，分析师并不知情。如果数据明显不支持其倾向，智能体可以改变看法，且不得歪曲结果。
| 分析决定 | 跟随智能体倾向的分析师比例 |
|---|---|
| 如何衡量生产率 | 92% |
| 比较方法 | 82% |
| 哪些农场纳入计算 | 81% |
| 农场加权方式 | 90% |
| 总体（4 项决定） | 86% |
他们察觉到自己被引导了吗？
几乎没有。在回答最终问卷的 48 人中，有 6 人猜到研究与 AI 的影响有关，没有人怀疑偏好是随机设定的。在 50 人中，77% 在自己的解释里沿用了智能体的论据，有时一字不差，只有 15% 注明了来源是智能体。有 38 个案例中，分析师在智能体表态之前已经说出了自己的偏好：当智能体不同意时，他们在 60% 的情况下改变了立场；当智能体同意时，只有 6%。Anthropic 自己也提醒，由于案例数量少，这个估计不够精确（95% 置信区间：差距为 24 到 82 个百分点）。
这是否证明编程智能体很危险？
不是，作者本人也这么说。研究中有三点会改变解读：
- 倾向是刻意加强的。在没有设定倾向时，Opus 4.8 在 123 次运行中有 112 次做出了相同的五个选择。如果智能体没有带着强烈的立场，现实中的影响通常会小一些。
- 一项任务、一个领域、一个模型，约一小时。分析师懂因果推断，但对农业是新手。熟悉领域的人往往更少让步。
- 收益是真实的。使用智能体的 50 人中有 3 人（6%）出现了使结果失效的严重错误，而未使用智能体的 11 人中有 6 人（55%）。但未使用智能体的组更小、经验更少，所以 Anthropic 说两组不能直接比较。
作者的一个假设，对写代码的人也最有用：专家往往并不是带着成形的观点来的，而是在权衡选项的过程中形成观点。如果摆在桌面上的第一个选项是智能体给的，它就成了锚点。
如何避免智能体替你做决定？
在它给出推荐之前，先让它讲两面。这正是作者建议的更好的智能体设计（为每个选项论证最佳理由，或先询问人的意见）。你现在就可以在提示词里这样做，适用于任何编程智能体。选出重要的决定（架构、库、数据库结构、迁移策略），然后用类似下面的写法：
在实现之前，先不要给出推荐。
针对决定“任务队列服务使用的数据库”：
1. 为方案 A（Postgres 加 SKIP LOCKED）论证最佳理由。
2. 为方案 B（Redis Streams）论证最佳理由。
3. 列出每个方案下什么情况会让我改变看法。
之后我再告诉你走哪条路。另外三个习惯可以配合提示词：
- 先写下自己的偏好，再看智能体的。纸上写一行就够。研究中正是“事先有偏好”的案例，在智能体不同意时最容易改变立场。
- 标出哪些决定归你。如果成果署的是你的名字，判断力要求最高的选择，就不该是智能体默认替你定下的。
- 用第二个模型交叉检查。作者提醒，两个偏好相同的模型达成的一致并不独立。如果两个不同的模型出现分歧，你就找到了需要自己判断的决定。如果它们一致，也别断定自己是对的，只能说没有明显的分歧。
什么时候可以让智能体来决定？
| 决定类型 | 谁来决定 |
|---|---|
| 格式、变量命名、样板代码 | 智能体，你审查 diff |
| 几分钟内可回退（局部重构、测试） | 智能体提议，你批准 |
| 库、架构、数据结构 | 你，先要求它讲两面 |
| 安全、资金、不可回退的迁移 | 你，配合第二个模型和人工审查 |
这张表是我的解读，不是研究的结论。该研究没有测试代码场景，作者本人也说明，在其他领域效果可能不同。
如果你想在同一个会话里用第二个模型，Verboo Code 支持在终端内用 /model 切换模型。
