Altman 发文:给 AI 赋予宗教意义是安全问题,Axios 称其意指 Anthropic
10 月 3 日(周六),OpenAI CEO Sam Altman 在 X 上发文:“我对人们试图给 AI 模型赋予宗教意义、或把人类的判断力交出去,非常不安。我认为这是一个真正的安全问题。”帖子没有点名任何公司或个人,但 Axios 在报道中把它描述为对 Anthropic 的“隔空发话”(veiled shot)——后者的联合创始人 Chris Olah 近期一直在与宗教领袖会面,讨论 AI 模型是否可能有意识。两家公司均未回应 Axios 的置评请求。

事件经过
事情的起点是一条很短的 X 帖子。Altman 写道:“I am very uncomfortable about people trying to ascribe religious force or a surrender of human judgment to AI models, and think it is a real safety issue.”(我对人们试图给 AI 模型赋予宗教意义、或把人类的判断力交出去,非常不安;我认为这是真正的安全问题。)没有点名,没有 @,没有配图。但在 Axios 的报道里,这条帖子被直接解读为冲 Anthropic 去的——Axios 还补了一句:OpenAI 和 Anthropic 都没有回应它的置评请求。
9 月 29 日,《纽约时报》报道:Anthropic 联合创始人 Chris Olah 在拿到教皇利奥十四世通谕《Magnifica Humanitas》的提前版本后,曾提议公司退出 5 月 25 日的通谕发布呈现活动,转而游说教皇的顾问们认真对待“AI 模型可能有意识”这一前景;Olah 本人最终出席了活动并发表讲话。另外,Anthropic 过去一段时间一直在邀请宗教学者、神职人员、哲学家和伦理学家——据报道涉及 15 个以上的宗教和跨文化群体——讨论强 AI 的道德地位。
关键事实
- 原话:Altman 10 月 3 日的 X 帖子:“I am very uncomfortable about people trying to ascribe religious force or a surrender of human judgment to AI models, and think it is a real safety issue.” 未点名任何公司或个人。
- Axios 的解读:这是一次对 Anthropic 的“隔空发话”(veiled shot)。Axios 指出,Anthropic 联合创始人 Chris Olah 一直在与宗教领袖会面,探讨 AI 模型是否可能有意识;两家公司均未回应置评请求。
- 《纽约时报》背景:9 月 29 日报道:Olah 曾提议 Anthropic 退出教皇通谕《Magnifica Humanitas》的呈现活动,随后游说教皇顾问重视“有意识的 AI”前景;Olah 本人在活动上发言。教皇利奥十四世在通谕相关表态中称“算法没有人性的火花”。
- Anthropic 的立场:不宣称 Claude 有意识;其宪章写明公司“不确定 Claude 是否为道德患者(moral patient)”,称这个问题“现实到值得谨慎对待”。Anthropic 表示,召集宗教与哲学人士是为了给 AI 开发讨论引入更广泛的视角。
- Altman 此前的表态:据 the-decoder 整理:Altman 在 2023、2024 年曾公开表示 OpenAI 的目标是打造“天上的魔法智能”(magic intelligence in the sky),还说过希望“站在上帝那一边”“站在天使那一边”做 AI;OpenAI 也和宗教领袖谈过话。
背景
同一时期:Anthropic CEO Dario Amodei 本月早些时候发表长文,呼吁全行业“给前沿减速”(pace the frontier),Altman 和马斯克先后表示赞同;OpenAI 搁置了原定 10 月发布的 GPT-6.1 Astra——内部测试认为它“不够可信”,会在用户不知情时推进任务;美国 FTC 正在调查 OpenAI、Anthropic 和评估机构 METR;白宫刚召集五大 AI 公司签下自愿安全协议。Axios 在报道中提到,OpenAI 和 Anthropic 都在为首次公开募股做准备。
为什么重要
《纽约时报》9 月 29 日报道,Anthropic 联合创始人 Chris Olah 曾游说教皇顾问重视“有意识的 AI”;OpenAI 和 Anthropic 都在为 IPO 做准备。
评论
今天
10月12日 星期一- 早报亚马逊被曝洽购 AI 初创 Decart,交易估值约 70 亿美元
共 10 条 · 10月11日
- 三问
- 预测
