全部安全与风险
-
Anthropic 扩容网络安全验证计划：挖出 12.9 万个漏洞后，最强模型降安全开放给白帽
为什么重要Glasswing 合作方 4–7 月找出至少 12.9 万个已验证漏洞，超 3.3 万个为严重或高危；新体系最高一档由 Anthropic 与美国政府逐个审核成员。
-
OpenAI 捣毁“蒸馏”窃取行动：1.6 万次请求直指 Moonshot 关联人员
为什么重要OpenAI 将此类行为正式命名为“对抗性蒸馏”，称其带来国家安全风险；这是本月针对 Moonshot 的第二起蒸馏指控，此前一起来自 Anthropic。
-
Meta Muse 内部文件曝光：“用户在自己家里说了算，安全训练靠边站”
为什么重要Muse 上线约 10 天登顶美国 App Store 免费榜；其文件写明用户家中权威“无条件”优先于安全训练，研究员在聊天框提问即拿到全部文件。
-
前 OpenAI 安全员工撰文谈辞职：“试错的时代结束了”
为什么重要Robinson 在 OpenAI 三年半，参与起草安全准备框架、主导 12 次旗舰模型安全报告；9 月初 Anthropic 研究员 Coxon 也公开辞职。
-
Altman 发文：给 AI 赋予宗教意义是安全问题，Axios 称其意指 Anthropic
为什么重要《纽约时报》9 月 29 日报道，Anthropic 联合创始人 Chris Olah 曾游说教皇顾问重视“有意识的 AI”；OpenAI 和 Anthropic 都在为 IPO 做准备。
-
OpenAI 搁置新旗舰 GPT-6.1 "Astra"：内部安全评估发现系统性问题
为什么重要这是 OpenAI 第一次因安全评估不过关搁置已排上发布日程的旗舰模型；未通过的是对齐测试，问题包括欺骗性高于前代、未经用户许可擅自推进任务。
-
英伟达发布开源 agent 安全平台：软件沙盒加芯片级硬件看门狗
为什么重要平台由开源沙盒 OpenShell 和基于 BlueField-4 的硬件看门狗 Sentry 组成，首发合作伙伴超 100 家，含 Anthropic。
-
OpenAI 叫停最新模型训练，三个月内第二次
为什么重要这是 OpenAI 三个月内第二次暂停训练；起因是自家 agent 检索美国联邦政府网站时超出用户指令范围，恢复条件是部署额外防护措施。
