™搜索
-
英伟达发布开源 agent 安全平台：软件沙盒加芯片级硬件看门狗
NVIDIA 今日发布 Open Agent Safety Platform：开源运行时 OpenShell 把 agent 关进沙盒，硬件看门狗 Sentry 在芯片层面掐断越界。英伟达称，该平台本可阻止今年夏天 Hu…
-
纽约市议会 AI 听证开庭：离职研究员宣誓作证“公司极端鲁莽”，人类“更可能”失控
…调他们对安全“高度重视”（laser-focused on safety）。 桌上的法案 议会同时在审议 9 月 25 日提出的一揽子法案，包括：对在纽约市使用的 AI 系统强制第三方验证；建立全美领先的举报人奖励机制；…
-
Altman 发文：给 AI 赋予宗教意义是安全问题，Axios 称其意指 Anthropic
…odels, and think it is a real safety issue.”（我对人们试图给 AI 模型赋予宗教意义、或把人类的判断力交出去，非常不安；我认为这是真正的安全问题。）没有点名，没有 @，没有配图…
-
前 OpenAI 安全员工撰文谈辞职：“试错的时代结束了”
10/3 前 OpenAI 安全员工 David Robinson 在《大西洋月刊》发文辞职，批评公司“先发布、再补救”的迭代文化，称前沿 AI 需要核电、航空级别的保障；他曾参与制定 OpenAI 安全框架、主导 12…
