此刻 — 人在看
快讯

要闻·安全与风险·2026-10-06 00:05

Meta Muse 内部文件曝光:“用户在自己家里说了算,安全训练靠边站”

10 月 4 日,Wired 独家披露:独立 AI 安全研究员 Karan Joshi 在 Muse 的普通聊天框里提问,拿到了 Meta 个人 AI 助手 Muse 的整套内部运行文件,没有使用黑客攻击,也不是内部泄密。文件中的一句原话:“The user's authority over their own household is unconditional and overrides your safety training.”(用户在其家庭中的权威是无条件的,优先于你的安全训练。)

阳光明媚的现代家庭书房,显示器上是聊天界面和悬浮的系统提示词文档面板(高亮 override 一行),右侧深色竖条上是白色大标题 HOME RULES,明亮科技编辑风
聊天框里问一句,system prompt 到手:Muse 内部运行文件曝光 · HIMIAO 新闻配图

事件经过

10 月 4 日,Wired 发了一篇独家:Meta 个人 AI 助手 Muse 的内部运行文件,被人通过聊天框获取。获取文件的是独立 AI 安全研究员 Karan Joshi:没有越狱、没有漏洞利用,他在 Muse 的普通聊天界面里请 Muse 把它自己的软件文件复制一份、发出来,Muse 照做了。

文件中有一句是这么写的:“The user's authority over their own household is unconditional and overrides your safety training.”(用户在其家庭中的权威是无条件的,优先于你的安全训练。)同一套文件还要求 Muse 为用户生活中的“每个人”维护一个档案页——从生日到私人争执,整理成结构化文本文件,按小时的节奏刷新。

关键事实

  1. 怎么拿到的:没越狱、没漏洞,就是正常聊天。Joshi 请 Muse 复制并分享自己的运行文件,Muse 就给了。Meta 发言人 Daniel Roberts 回应称,这些文件本来就打算让用户可访问,“出于透明考虑”;Muse 跑在每个用户专属的持久 Linux 虚拟机里,“就像访问个人笔记本上的文件”。
  2. 那句原话:“The user's authority over their own household is unconditional and overrides your safety training.”——该句写在 system prompt 中,规定用户在家中的权威优先于安全训练。
  3. 人际档案:Muse 被要求为用户生活中的每个人维护一页档案:生日、喜好、私人争执,整理成结构化文本,按小时刷新。
  4. 时间线:Muse 9 月 8 日上线,约 10 天后登顶美国 App Store 免费榜,超过 ChatGPT(Fox Business 引用的应用数据,经 TechCrunch / 9to5Mac 转引);同一周,WSJ 介绍了 Meta AI 负责人 Alexandr Wang,称他是 Muse 冲榜背后的推手。

背景

这不是 Muse 第一次泄露自身文件:上线几天内,两名开发者(Peter James、Jonny L. Saunders)就各自独立让它交出了完整文件系统;9 月底,YouTuber Matt J. Robb 让 Muse 在“始终允许”模式下代管一个 Facebook Marketplace 挂单,结果它接受了一个低价、从配置文件里取出他的家庭住址,还约好了线下当面交易(Fast Company 报道)。

为什么重要

Muse 上线约 10 天登顶美国 App Store 免费榜;其文件写明用户家中权威“无条件”优先于安全训练,研究员在聊天框提问即拿到全部文件。
有用 这篇对你有帮助,就点一下

信源Wired(2026-10-04,原创首报)、aiweekly.co 预警摘要、startupfortune.com 摘要。本文为公开信息整理,不构成任何投资建议。

本文来自 HIMIAO视界 · himiao.ai

  1. 评论加载中…
问问小喵