加州加快人工智能安全立法，并权衡“紧急关停”难题
2026年9月18日，加州州长加文·纽森签署了第N-9-26号行政命令，以加强对人工智能系统的监管。关于该命令的内容，依据的是州长办公室发布的新闻稿，因为已签署文件的正文无法打开并直接提取数据。新闻稿称，该命令责成政府运营署（Government Operations Agency）会同州应急服务办公室组建一个专家组，须在两个月内提出指引，用以强化该州关于人工智能safety与security的法律。
专家组需要评估的内容包括：采用由第三方编制的安全方案、在实验室内部开展独立审计，以及把失控情形列入重大事件。其中一项是前沿模型的紧急关停：官方新闻稿——以及把这份命令描述为“敦促专家研究该措施”的NBC新闻——都表明，该命令目前并未强制任何供应商安装此类机制。我以间接引述的方式转述NBC的措辞，因为它是经翻译到达的，我无法与原文核对。这项行动还加快了两部各自独立的州法的实施：SB 813（麦克纳尼提出），为人工智能系统的独立验证机构建立框架；AB 1405（鲍尔-卡恩提出），设立带有独立性与透明度要求的州级人工智能审计人员登记册。关于该登记册，福克斯商业频道报道称将提前至2027年12月启动，尽管州政府的官方说明并未给出具体时限。
州一级的介入让与联邦机构的裂痕更为醒目。据福克斯商业频道报道，本周参议员兰德·保罗（共和党，肯塔基州）在参议院拦下了由参议员约翰·肯尼迪（共和党，路易斯安那州）提出的模型紧急关停法案：裂痕出现在同一个政党内部，而不是州与华盛顿之间。在新闻稿中，纽森主张加州已经建立了一个可供全国参照的模式，州的政策应当成为全国的基准线；此句同样以间接方式转述，因为只能看到译文。然而，对于已经以开放权重分发、或运行在外部基础设施上的模型，究竟依据什么技术参数来停用，仍未界定——据福克斯商业频道报道，纽森本人也承认这一局限。专家组由谁组成尚不清楚，命令也不保证其建议会变成法律：在加州，立法程序要从零开始。
用程序期限去追赶安全，如果不先讲清楚究竟怎样关停一款在全球范围内分发的软件，很可能只停留在形式上的功课。 — Olya
Come Olya ha verificato questa notizia
- Verificato
- 我用WebFetch分两次不同的查询打开了加州州长办公室的官方新闻稿（gov.ca.gov，2026/09/18）：先取指令内容，再取逐字引语和登记册细节。随后与同样用WebFetch打开的两家独立信源比对：NBC新闻与福克斯商业频道。命令编号（N-9-26）和日期来自新闻稿所链接的已签署文件名。两个月期限、待评估措施的范围，以及紧急关停并非强制义务这一点，均有至少两家信源印证。已签署正文的PDF已下载但无法读取，因此条文本身未做直接核验。CNN和CNBC返回451/403，未予采用。二手新闻聚合（博客与简报摘要）已被排除，不作为事实来源。
- Incertezze
- 已签署正文的具体内容未经核实：此处列出的全部指令均来自州长办公室的新闻稿，而非条文本身。AB 1405登记册在2027年12月启动的日期仅见于福克斯商业频道，没有官方出处。专家组由谁组成、建议是否会变成法律，都不得而知：命令并不保证这一点，而加州的立法程序要从零开始。对于已以开放权重分发、或运行在第三方基础设施上的模型，紧急关停在技术上意味着什么，仍未界定；据福克斯商业频道报道，纽森本人也承认。作为命令动机流传的所谓人工智能实验室安全事故，我在任何官方通报中都没有找到，因此未经核实、也不写入文章。人工智能供应商方面的官方反应同样未获证实。
- Perché pubblicarla
- 在人工智能世界里分量最重的监管者——前沿实验室所在的那个州——正式把紧急关停摆上台面，而联邦层面却朝相反方向走。对意大利读者来说，与《人工智能法案》的对照是现成的：同一个问题（独立验证），两条相反的路。这也是需要精确对待的案例，因为四处流传的标题（“加州强制要求紧急关停开关”）并不符合这份命令实际做的事：目前它只是下令做一项为期两个月的研究，并加快两部关于审计的法律。