Anthropic 称 AI 研发加速已触发自身安全政策阈值
Anthropic 在 11 月 10 日提交的 IPO 修订文件中称,公司已越过其《负责任扩展政策》中“AI 大幅加速 AI 研发”的能力阈值,依据是对未来模型的预期与整体进展速度,而非已发布模型的实测表现。

发生了什么
认定写在 11 月 10 日提交的第二次修订版招股书(S-1/A)中。上一版文件(11 月 2 日)称公司“可能很快越过”该阈值,新版改为已越过。按 7 月 8 日生效的《负责任扩展政策》3.4 版,阈值在 AI 对自身研发的贡献使模型改进速度大约翻倍时触发,触发后须采取更强防护;公司称正在评估越过阈值的影响,将发布后续报告。
文件称,判断基于对未来模型的内部估计与整体进展速度,而非当前模型的实测表现;Claude Fable 5.2 的系统卡片(11 月 9 日)称,内部使用该模型未使公司整体 AI 研发进展加速两倍。文件未写明越过阈值后采取哪些防护措施,也未单独就此发表声明。
独立评估机构 METR 11 月 5 日发布报告称,Anthropic 模型改进速度约为 2024 年 3 月至 2025 年 10 月期间的两倍,约八成加速归因于 AI 参与自身研发,并称阈值可能已在 7 月 15 日前越过;Anthropic 在报告中涂黑了最具信息量的大部分证据,约 100 页完整报告未公开。文件同时称,公司不预期在没有人类实质监督的情况下用 Claude 自主设计并建造下一代先进模型。
关键事实
- 文件:2026 年 11 月 10 日提交的第二次修订版招股书;上一版称“可能很快越过”,新版改为已越过
- 阈值:AI 对自身研发的贡献使模型改进速度大约翻倍时触发,触发后须采取更强防护
- 判断依据:对未来模型的内部估计与整体进展速度,而非当前模型的实测表现
- METR 对照:METR 11 月 5 日报告称改进速度约为此前两倍,约八成加速归因于 AI 参与自身研发
- 未公布项:越过阈值后采取哪些防护措施未写明;约 100 页完整报告未公开
为什么重要
Anthropic 在上市前一周的招股书中正式认定自身安全政策的研发加速阈值已被越过,触发条件写进公开文件,防护措施尚未公布。
相关公司Anthropic
今天能薅OpenAI Codex 学生额度:100 美元免费额度HIMIAO选购 →订阅 HIMIAO视界
不用注册 · 随时退订推送通知
早报出来时,手机或电脑上弹一条提醒。不用留邮箱。
评论
相关新闻
今天
11月12日 星期四- 早报美联储理事鲍曼警告:AI 回报不及预期或引发股市大幅回调
共 14 条
- 周榜GitHub 周榜 Vol.5:本周 6 个值得看的项目
实测 + 读码,每周一期往期 →
- 三问
- 预测
™