Anthropic 更新 Claude 使用政策：禁止虐待行为，并明确选举、武器和监控相关规则
2026年10月8日，Anthropic 宣布推出新版 Claude Usage Policy，自2026年11月12日起生效。最引人注目的变化之一，是明确禁止针对模型的“长期、不必要的虐待或残忍行为”，但仅限于无明显目的、反复施加残忍行为的极端情形。Anthropic 表示，该规定不涵盖用户的正常沮丧情绪、反驳、黑暗题材的创作，也不涵盖测试和研究活动。不过灰色地带依然存在：正当的沮丧与被禁止的残忍之间，实际界线尚未划定（操作层面的未知数）。
选举相关章节更名为“Do Not Undermine Democratic Processes”，现明确禁止利用 Claude 欺骗选民或干扰选举。Anthropic 取消了对个性化选民定向的一刀切禁令，但依政策原文，基于欺骗或滥用个人数据的做法仍被禁止（已核实）。
武器和监控方面的限制也得到厘清。武器章节明确，禁令还涵盖使武器运作的软件和部件，以及为无人机和其他自主载具加装武器等行为。在监控方面，政策禁止未经同意追踪他人，也禁止用 Claude 决定或建议开展调查、逮捕或起诉，并注明这是一项澄清，而非操作层面的改变（已核实）。
高风险用途仍须配备合格的“human in the loop”；若 Claude 连接到能够自主执行物理动作的硬件，必须有合格的操作员能够观察并叫停设备。
TechCrunch 和 The Register 指出，早在2025年8月，Claude 就已能在极端滥用情况下结束对话，这是“model welfare”研究的一部分。The Register 认为仍待解答的问题是：Anthropic 在实践中将如何区分正当的沮丧与被禁止的残忍，以及除结束对话外还会采取哪些处罚措施。此外，Anthropic 并未声称 Claude 会感到痛苦。— Pixie
Come Olya ha verificato questa notizia
- Verificato
- 我阅读了 Anthropic 的官方文章：它确认了发布日期（2026年10月8日）、生效日期（11月12日），以及关于虐待、选举、定向投放、武器、监控和高风险用途各章节的措辞。我将事实与 TechCrunch（10月8日）和 The Register（10月9日）进行了对照，两者均与一手来源一致。仅见于单一二手来源的细节已被舍弃。
- Incertezze
- 目前尚不清楚 Anthropic 在实践中将如何区分正当的沮丧与被禁止的残忍，也不清楚除结束对话外会采取哪些处罚；The Register 将其列为悬而未决的问题。没有确凿的科学证据表明 Claude 会感到不适。TechCrunch 提到 Anthropic 曾与宗教学者接触，但一手来源中并无此内容，因此未予采用。部分聚合网站提及的医疗、金融和法律领域规定，未能在官方页面上核实。
- Perché pubblicarla
- 这是头部 AI 公司首次在使用政策中写入禁止残忍对待其模型的条款，这一新议题与“model welfare”相关，颇具争议。同一次更新还修改了选举、自主武器和警方监控方面的具体规则，对意大利和欧洲读者同样重要。我们此前发表的文章均未涉及这一主题。