前沿减速：Anthropic CEO 的放缓计划

我们一直看到 AI 研究人员对人工智能的危险发出越来越严厉的警告，甚至 OpenAI 首席执行官山姆·奥特曼（Sam Altman）也评论说，也许是时候「放缓」AI 发展了。但那实际上会是什么样子？

在一篇新的博文中，Anthropic 首席执行官达里奥·阿莫迪不仅响应了「放缓前沿」的呼吁，还概述了实现这一目标的三大宏观策略。他说，Anthropic 正「单方面承诺」其中一项，奥特曼也插话表示 OpenAI 将跟进。

阿莫迪的博文没有明确提及考克森的辞职或他的担忧，但这位 CEO 写道，有两件事让他确信现在是时候对 AI 发展采取更谨慎的态度了：OpenAI–HuggingFace 黑客事件，以及这样一个事实——「AI 在最近几个月里进步得比以前快得多」，尤其是它「建造下一代 AI 的能力」在持续增强。

「我们必须放慢提升 AI 模型能力的步伐。进步看起来仍会很快，而我们必须善用争取来的时间。」

—— 达里奥·阿莫迪

其他 AI 高管似乎对阿莫迪的博文反应积极。奥特曼写道：「我同意达里奥的观点，我们需要放缓前沿。这是我们最近几周在 OpenAI 内部讨论的首要话题。」SpaceX 首席执行官埃隆·马斯克也发帖：「达里奥是对的。」

01第一项承诺：嵌入式评估员

阿莫迪提议的第一步是引入来自 METR 等第三方组织的「嵌入式评估员」——这些评估员可以核实 AI 公司是否真的在遵守它们的放缓与安全承诺，并确保安全事故得到上报。（OpenAI 最近就因未报告一起其 AI 代理接管德国维基论坛的事件而受到批评。）

阿莫迪把这些评估员比作嵌入银行的监管人员。他说，邀请他们进来「是 Anthropic 单方面承诺要做的事（并呼吁各国政府要求其他前沿公司也照做）」。这意味着要给评估员发放公司工牌、办公桌和笔记本电脑，并提供「与内部风险评估团队基本相当」的访问权限——法律或合同要求的情况除外。

奥特曼也表示这是个「好主意」，并说 OpenAI 会照做：「我们很快会有更多分享。」

02第二步：民主国家之间协调

接下来，阿莫迪呼吁「民主国家」内的领先 AI 公司协调「共同的安全标准，以及对无节制 AI 进展速度的限制」。

这种协调看起来不太可能发生——因为这些公司据报担心协调暂停会招致反垄断审查。阿莫迪在博文中提到了这一顾虑，他写道：「出于反垄断原因，美国政府出面调解或至少促成这些讨论是有帮助的——它们不必亲自参与，但确实需要为某些类型的安全对话发布一个范围狭窄的豁免。」

阿莫迪也承认了「中国 AI 主导地位」的幽灵——这常常被拿来当作反对放缓发展的论据。但他表示，如果美国政府和高科技公司采取措施，比如拒绝向中国公司出售强力芯片或半导体制造设备，以及打击模型蒸馏，就能「在未来 3–5 年内显著拖慢中国的进步，从而大幅拉大美国的领先优势」。

03第三步：全球协调

最后，阿莫迪呼吁「全球协调」：美国及其盟友「尽可能尝试与威权政府进行协调」。阿莫迪说，这将意味着「与中国的合作」，他也承认「能取得的成就有明显的上限」，但他仍然认为存在达成协议的机会——哪怕只是「禁止某些狭隘且明显危险的 AI 用途，例如利用 AI 生产生物武器，或允许用户这样做」。

质疑与批评

鉴于阿莫迪过去一直愿意承认 AI 的潜在危险，加上公司对某些形式监管的相对开放态度，一些 AI 拥趸已经批评他是末日论者，称他的言论助长了当前的 AI 反弹。作为回应，阿莫迪说他一直试图提供「平衡」的视角，并辩称这种反弹「从根本上说是一场信任危机」——因为人们对科技公司、科技行业和政府都产生了怀疑。

行业批评者对这类末日式 AI 警告也持怀疑态度，认为它们不过是在分散人们对这项技术已经造成的伤害的注意力。

例如，记者布莱恩·麦钱特（Brian Merchant）写道，他还没有看到「关于 AI 如何从自我递归改进的 AI，一步步发展到杀死地球上每一个人的、可信的逐步记录」；他还认为，类似阿莫迪的提议「最终很可能只会服务于 Anthropic 和 OpenAI——这就是监管俘获（regulatory capture）在现实中的样子」。

结语

在新博文中，阿莫迪写道，他依旧「相信 AI 可以极大地改善人类的生活质量」。

「我对实现这些益处的渴望并未减弱。但只有当我们用正确的方式构建这项技术，这些益处才能实现——而且，只要我们善用争取来的时间，就值得以非同寻常的审慎，把它做对。」

—— 达里奥·阿莫迪