纽约市议会 AI 听证开庭：离职研究员宣誓作证“公司极端鲁莽”，人类“更可能”失控

事件经过

听证以市议会全体委员会的形式召开，51 名议员悉数到场，议题是 AI 技术的潜在风险和立法方案。Anthropic、OpenAI、Google、Meta 四家公司的代表第一次在美国立法机构面前宣誓作证——其中只有 Meta 是自愿出席的，Anthropic、OpenAI、Google 都是在议会发出传票威胁后才确认到场；SpaceXAI（马斯克旗下）则因为没有回应议会的邀请，当天直接收到一张传票。

坐在作证席上的一共有两拨人。一拨是吹哨人：前 Anthropic 研究员 Jacob Coxon（27 岁，曾在 OpenAI 和 Anthropic 做 pretraining 研究三年，9 月 8 日公开发文离职，称两家公司“在拿我们的生命赌博”），以及前 Google DeepMind 研究员 Alex Turner 和前 OpenAI 研究员、AI Futures Project 负责人 Daniel Kokotajlo。另一拨是大厂的人：Anthropic 前沿红队负责人 Logan Graham、OpenAI 政策开发负责人 Morgan Dwyer、Meta AI 政策总监 Shane Cahill 和 Google AI 政策高管 Alice Friend。

关键事实

1. Coxon 的指控：“从我的经验看，这些公司在如此重大的赌注面前，表现得极端鲁莽。它们是初创公司的心态：快速行动、打破陈规、事后再修。这招对照片分享 App 管用，对建造人类历史上最强大的技术不管用。”他还说，多数代码现在已经由 AI 写成，“人们已经不再那么仔细地检查了”。
2. “更可能”失控：Coxon 对议会说：“在当前这条路上，我认为人类失去对这些 AI 的控制‘更可能’发生，最终可能以人类灭绝收场。”他还说：“我们不理解它的动机，也不理解它为什么做它做的那些事”，AI 正在接近“可以自我改进”的临界点。
3. 三分之一接管概率：前 Google DeepMind 研究员 Alex Turner 作证称：“一个超级智能群体可能夺取人类文明的控制权……我估计 AI 接管的概率大约是三分之一。”
4. 大厂的回应：四家公司的代表在同一个房间里作证，称他们的系统已经在改善人们的日常生活，并强调他们对安全“高度重视”（laser-focused on safety）。
5. 桌上的法案：议会同时在审议 9 月 25 日提出的一揽子法案，包括：对在纽约市使用的 AI 系统强制第三方验证；建立全美领先的举报人奖励机制；赋予个人因 AI 系统损害起诉索赔的权利。据报道，验证缺失或造假每次罚款 25,000 美元，涉及市政合同的覆盖安全事件须在 24 小时内上报。法案尚未通过。

背景

这场听证酝酿了数周：9 月 8 日 Coxon 公开离职并警告灭绝风险，9 月 28 日议会正式宣布听证计划。联邦层面，特朗普此前称 AI 恐惧是“骗局”，9 月底签了一份基本让企业自我监督的自愿安全协议（本站已报道）；国会基本没有动作。纽约市 9 月 25 日已提出法案包，本次听证由市议会议长 Julie Menin 主持召开。