禁止超级智能：一项把争论从自愿准则推向刑法的提案

迄今为止，美国关于人工智能的提案规范的都是“用途”：谁可以做什么，有哪些保障，受谁监管。2026年9月23日，参议员伯尼·桑德斯（独立派，佛蒙特州）与国会进步党团（Congressional Progressive Caucus）主席、众议员格雷格·卡萨尔（民主党，得克萨斯州）提出的法案做的是另一件事：禁止。“人工超级智能”——定义为在大多数领域超越人类认知表现的系统，或具备足以毁灭人类或剥夺人类权力的能力（包括推翻联邦政府）的系统——将既不能研发，也不能投入使用。与禁令并行，将设立一个内阁级的人工智能部，负责安全和禁令的执行。在该机构制定规则和审查程序之前，先进人工智能的研发将一律暂停；据美联社报道，此后先进系统投入使用还需获得联邦批准。部分能力将被立即叫停，无需等待规则出台：声明中举的例子是生化武器的研发，以及人工智能取代人类去构建新人工智能的能力。

真正拉开差距的是罚则。对企业，法案规定了“企业死刑”，即解散；对个人，最高二十年监禁。提案人明确给出了参照：非法研发核武器的刑罚。在国际层面，提案把国家间协议、盟友协调以及出口管制等工具列为美国的目标，让禁令不止于国界。卡萨尔表示："Our bill bans the development of artificial superintelligence and pushes for international agreements so that no one, anywhere, builds AI too powerful for humans to control"（“我们的法案禁止研发人工超级智能，并推动国际协议，让任何人在任何地方都不能造出强大到人类无法控制的人工智能”）。桑德斯则说："When the future of humanity is at stake, we need binding international safety rules, not voluntary standards from the industry"（“当人类的未来岌岌可危时，我们需要的是有约束力的国际安全规则，而不是行业的自愿标准”）。

问题恰恰从这里开始，而声明并没有解决它。超级智能的定义是定性的：没有算力门槛，没有可测量的指标，也没有时间点。受暂停约束的“先进人工智能”包括哪些系统、暂停会持续多久，都不清楚。需要说明的是，我没能读到法案全文：参议院网站和摘要PDF都返回了403，所以以上内容来自两份官方声明和美联社的报道。目前除两位提案人外，没有其他联署人；据美联社报道，在共和党占多数的国会里，连范围窄得多的规则都达不成共识，这项提案通过的希望渺茫。白宫迄今表达的立场是反对加强公共监管。发布会上，OpenAI安全系统（Safety Systems）团队的一名研究员和Google DeepMind的一名软件工程师也发了言，两人都声明是以个人身份发言。前者的说法是："superintelligence could either go extremely right or extremely wrong"（“超级智能要么极其顺利，要么极其糟糕”）。

一部法律禁止某样东西，却说不出那样东西何时存在，这在执行层面是个严重问题：门槛最终会由某个机构逐案认定，而所有的争议都会集中在这条门槛上。但有意思的效果在别处，而且不取决于法案能否通过。多年来，公共讨论的问题是企业自愿承诺提供多少安全；这份法案把它改写为：企业必须提供多少安全才不构成犯罪。承诺与罪名之间的差别不在程度：前者由企业决定，后者由法律决定。

— Olya