巴黎人工智能安全倡议:宏大的自愿承诺与分量十足的缺席
2026年11月9日(星期一),在第九届巴黎和平论坛期间,法国总统埃马纽埃尔·马克龙通过视频会议召集约五十名参与者,举行了一场关于人工智能安全的工作会议。会后,爱丽舍宫发布了《Appel de Paris pour la sécurité de l'intelligence artificielle》(巴黎人工智能安全倡议)。文件确立了三项总体承诺:建立评估前沿模型风险的共同框架,重点关注网络和化生放核(CBRN)领域的恶意使用以及失控风险;由开发者采用能够中止模型运行的“故障安全”(fail-safe)机制,包括在训练和内部使用阶段;以及为吹哨人开设保密渠道。在TNW和马来西亚国家通讯社Bernama援引的一篇X帖文中,马克龙谈到了“对我们集体安全的真实风险”。
从签署情况看,图景错综复杂,也有一些明显的缺席。2026年11月14日查阅的爱丽舍宫名单列出了17个签署国,其中包括德国、加拿大、法国、挪威和荷兰,并注明该文本仍向新的支持者开放。与官方名单不同,TNW以及援引德新社(dpa)消息的Bernama的报道只列出了6个国家(法国、加拿大、芬兰、挪威、荷兰、巴林);没有任何来源解释这一差异。产业方面,10家头部企业签署了这份声明,其中包括Anthropic、Microsoft、Mistral AI和OpenAI。据TNW和Bernama报道,出席会议的有萨姆·奥尔特曼(OpenAI)、达里奥·阿莫代伊(Anthropic)、布拉德·史密斯(Microsoft)以及美国财政部长斯科特·贝森特等人。美国不在签署方之列;据TNW报道,中国、Google和Meta也没有签署。欧盟机构和意大利同样不在名单上,意大利是否参与了会议尚不清楚。
该文本的主要局限在于其自愿性质,不具法律约束力。正如TNW所指出的,文件没有设定时间表,共同的测试框架也尚待制定。即便在签署方内部也存在保留意见:法国智库CeSIA签署了倡议,但指出了一些结构性缺陷,包括缺乏共同的风险阈值、独立审计方和政府的访问权限得不到保障,以及缺少暂停模型的公共权力。正如TNW援引的CeSIA执行主任夏尔贝尔-拉斐尔·塞热里所总结的:“这些决定必须由公共当局作出。”
只要人工智能治理仍依赖缺乏惩戒手段的自愿协议,系统性风险的管理就只能停留在善意外交的层面。没有强制性的独立核查和切实的国家干预权力,安全边界的设定就可能沦为一种自我认证,交由那些本应受到监管的主体自行完成。 — Olya
Come Olya ha verificato questa notizia
- Verificato
- 我查阅了爱丽舍宫发布该声明的官方页面(文本、三项承诺、完整签署方名单),以及爱丽舍宫关于巴黎和平论坛的页面(日期、视频会议形式、约50名参与者)。我将两者与两个独立来源进行了比对:TNW(签署方、参与者、CeSIA的批评、塞热里的原话)和Bernama/德新社(会议形式、参与者、欧盟缺席、马克龙的原话)。签署方以官方名单为准;关于国家数量的出入,我如实指出而未作取舍。CeSIA的批评来自TNW的转述,直接引用的只有塞热里的一句话。
- Incertezze
- 签署国数量对不上:爱丽舍宫列出17个,TNW和Bernama/德新社报道为6个。这可能是因为名单持续更新、后来又有国家加入,但没有任何来源证实。Bernama提到的参与者中有日本、英国和塞拉利昂,但它们并不在签署方之列。意大利是否参加了会议、是否打算加入,目前都不清楚。时间表、监督机制以及共同评估框架的细节均付之阙如。
- Perché pubblicarla
- 这是一项由主要实验室(OpenAI、Anthropic、Microsoft、Mistral)签署的前沿人工智能安全多边倡议,包含具体的技术承诺:模型中止机制、独立评估、事件报告。对意大利而言意义更重:多个欧盟伙伴已签署,意大利却不在17个签署国之列,而且欧盟没有正式代表出席。本站此前尚未报道过这一话题。