实验室亲自下场立法：Anthropic 自拟 AI 安全法案草案曝光

事件经过

据 Politico 报道，这份草案为政府叫停模型划出了极窄的触发线：风险必须是可预见且迫在眉睫的，造成超过 10 亿美元损失，或导致 50 人以上死亡或重伤。触发情形限定为三类：生物武器的制造或释放、模型摆脱开发者控制、网络攻击。

草案同时设计了一套第三方评估机制：独立评估机构在商务部注册，定期评估实验室及其前沿模型。实验室可以付费聘请这些评估机构，但报酬不得与评估结果挂钩。若评估机构认定某前沿模型存在「迫在眉睫的列举风险」，须在评估完成后 72 小时内上报商务部。

执行环节上，只有商务部在认定风险后可请求哥伦比亚特区联邦地区法院法官下令暂停模型；草案明确禁止美国政府任何其他部门、机构或官员暂停模型的开发、部署或内部使用。曝料当天，Anthropic 与商务部均未回应路透社的置评请求。

关键事实

1. 游说对象：美国国会山议员，由 Anthropic 代表悄悄兜售；三名知情人士向 Politico 证实
2. 叫停门槛：可预见且迫在眉睫的风险：超 10 亿美元损失，或 50 人以上死亡/重伤
3. 三类触发情形：生物武器制造/释放、模型摆脱开发者控制、网络攻击
4. 第三方评估：独立评估机构在商务部注册并定期评估；实验室可付费，报酬不得与结果挂钩
5. 72 小时上报：评估机构认定「迫在眉睫的列举风险」后 72 小时内上报商务部
6. 叫停权归属：仅商务部可请求法官暂停模型；其他政府部门、机构或官员一律不得暂停开发、部署或内部使用

背景

曝料的同一周，联邦监管的节奏显著收紧。据 Axios 10 月 15 日报道，FTC 在 10 月 14 日向 OpenAI 与 Anthropic 发出每份超 50 页的民事调查传票，要求提交安全事件、防护措施、营销材料与隐私政策文件，还计划传唤顶级 AI 公司高管及评估机构 METR 作证（详见本站消息）。

州一级的执法同步推进。八个州的总检察长 10 月 14 日分别在各自州法院起诉 OpenAI，指控 ChatGPT 教唆儿童自残或伤害他人，要求强制修改儿童相关功能并交出相关利润；联邦与州在消费者保护的法律理论上形成双线施压（详见本站消息）。这是同类行动中首次两党联合。

大西洋对岸也在动。欧盟委员会执行副主席 Virkkunen 10 月 14 日在都柏林国际 AI 峰会上宣布，欧盟 AI 办公室启动 AI 法案生效以来的首次执法，向 OpenAI 与 Anthropic 发出信息索取函，调查夏季两起智能体失控事件（详见本站消息）。不久之前，白宫要求 AI 公司强制上报安全事故，英国下议院听证会上 OpenAI 与 Anthropic 的代表呼吁具有约束力的规则。

在国会山内部，Anthropic 的文本并非唯一的立法起点。民主党议员 Jacobs 与 Beyer 的 AI 安全法案草案、参议院讨论中的「注意义务」法案都在同一议题下流传。Anthropic 这次把自家文本送上谈判桌，等于把立法讨论的起点拉到了自己这边。