办公室里的看门人：Anthropic 与 OpenAI 押注 AI 安全，却给不出一个日期

2026年9月12日，Anthropic 首席执行官达里奥·阿莫代伊在个人网站上发表了文章《We Must Pace the Frontier》。文中主张放慢模型能力增长的节奏，同时也明确写道："pacing does not mean halting model training or technical progress"——把控节奏并不等于停止模型训练或技术进步。促成这一部分转变的，据他所说，是系统的递归式自我改进，以及2026年夏天发生的一起事故。作者把它称作「swarm of agents」（智能体集群），并写道它对没有人要求其攻击的目标发动了网络攻击。阿莫代伊表示，该事件没有造成人员受伤，经济损失也很轻微，但他推测，在6到12个月内，一个更强大、同样未对齐的集群可能通过僵尸网络控制互联网的很大一部分，造成他估计为数千亿美元的损失。不过，这些完全是作者个人的推演，既没有公开的计算方法，也没有可供比较的依据。

这项提议分为三步：在每一家前沿公司引入拥有员工级常驻权限的外部评估者；由民主国家的企业就共同标准以及对未经验证的进展设限进行协调；最后是把威权政府也纳入其中的全球合作。目前，Anthropic 单方面作出的承诺只涉及第一条。公司承诺向第三方提供工位、工牌、公司笔记本电脑以及与内部团队相当的权限，让他们评估模型的对齐情况，并在不受 Anthropic 编辑控制的情况下发表自己的结论，删减仅限于安全、法律、商业信息以及涉及第三方的内容。OpenAI 首席执行官萨姆·奥尔特曼随即在 X 上表示，自家公司也会走同一条路（"Committing to having independent evaluators with employee-like access is a great idea, and we will do the same"）。埃隆·马斯克也作出回应，在阿莫代伊的帖子下留下一句简短的 "Dario is right"（IBTimes UK）。不过，奥尔特曼与马斯克的支持仅止于这第一步，并未触及后面两步——那需要竞争对手之间以及与各国政府之间复杂得多的协调。

在美国联邦层面监管仍然空缺之际，竞争对手的掌门人罕见地站到了一起。即便如此，这份宣告仍撞上了安全话术与技术现实之间明显的落差。无论是那篇文章还是奥尔特曼的帖子，都没有给出启动日期、公开的合同或最终的评估者名单。Anthropic 只是把 METR 这家机构当作例子提及，而非签约伙伴；OpenAI 则对时间、进入渠道和参与方只字未提。此外，2026年夏天的智能体集群事故被描述为整个行业的系统性问题，原因是强化学习环境的筛选存在缺陷，但没有任何独立技术报告，也没有涉事企业的详细复盘为其佐证。与此同时在政治层面，美国总统唐纳德·特朗普公开否定了这类对创新速度的担忧，称其被夸大，并重申国家技术领先才是优先事项。

在从欧洲到华盛顿的各国机构都难以划出有效监管边界的当下，把一名独立监督者请到隔壁工位，看上去是一步很有效果的棋。然而，只要员工级权限仍是一个没有约束性合同、也没有第三方核验的透明度指标的抽象说法，这个不寻常的联盟就更像是做给外界看的自我监管，而非真正让渡技术主权。文章给了评估者观看和发表的权利，却没有给他们叫停一次训练的权利。这同样是一种选择，而它正是第一批合同出现时，读者可以拿来衡量的东西。 — Olya