搜索

1. Altman 发文：给 AI 赋予宗教意义是安全问题，Axios 称其意指 Anthropic

   

   …创始人 Chris Olah 曾游说教皇顾问重视“有意识的 AI”；OpenAI 和 Anthropic 都在为 IPO 做准备。

   要闻·10月4日

2. 前 OpenAI 安全员工撰文谈辞职：“试错的时代结束了”

   

   为什么重要：Robinson 在 OpenAI 三年半，参与起草安全准备框架、主导 12 次旗舰模型安全报告；9 月初 Anthropic 研究员 Coxon 也公开辞职。

   要闻·10月4日

3. 纽约市议会 AI 听证开庭：离职研究员宣誓作证“公司极端鲁莽”，人类“更可能”失控

   

   10 月 5 日，纽约市议会全体委员会就 AI 风险举行听证：Anthropic、OpenAI、Google、Meta 首次在立法机构面前宣誓作证，多数公司是在传票威胁下才确认出席。前 Anthropic 研究员 Jac…

   要闻·10月6日

4. 英伟达发布开源 agent 安全平台：软件沙盒加芯片级硬件看门狗

   

   NVIDIA 今日发布 Open Agent Safety Platform：开源运行时 OpenShell 把 agent 关进沙盒，硬件看门狗 Sentry 在芯片层面掐断越界。英伟达称，该平台本可阻止今年夏天 Hu…

   要闻·9月28日