OpenAI 暴力防护再收紧：青少年武器信息、袭击细节与半年安全报告全拆解

事件经过

ChatGPT for Teens 于 2026 年 8 月 18 日上线，把预测为未满 18 岁或自报年龄在 13 至 17 岁的用户划入青少年体验，执行 Model Spec 中的未成年人原则。年龄预测系统自 2026 年 1 月 20 日起在消费级套餐推出，依据行为与账号信号估算用户是否未满 18 岁；8 月 25 日的一次更新提到，该系统已开始在欧盟推出。10 月 30 日的调整落在同一条产品线上，收紧范围同时覆盖青少年与全体用户。

针对青少年，ChatGPT 提供武器与安防系统实用信息的范围进一步收窄，即使提问本身没有暴力意图信号。OpenAI 在公告中表示，青少年仍可使用 ChatGPT 预防和缓和暴力、寻求支持并联系可信成年人；此前规则已禁止协助青少年寻找或获取武器，此次把限制扩展到可能被用于实施暴力的实用信息。

针对全体用户，ChatGPT 关于既往大规模袭击的细节回答收窄，包括所用武器与装备、获取方式，以及可能放大行凶者知名度的伤害规模比较；OpenAI 表示，这项限制不分年龄与提问原因。受害者、预警信号与预防相关提问仍开放。系统在对话出现执念于暴力或严重伤害他人的迹象时可以主动结束对话，多次出现后账号可能被暂时停用；OpenAI 表示，相关干预措施将在未来几周内开始分批推出，未给出每项功能的具体上线时间表。

时间线上，OpenAI 在 2026 年 5 月曾介绍过一项做法：用此前对话中预警信号的简短事实摘要，让系统在后续对话中更谨慎地回应。10 月 30 日的公告把这项做法向前推了一步：近期对话出现暴力可能迹象时，回答更保守；预测为未满 18 岁的用户，即使对话没有暴力意图信号，也适用更严格的限制。公告同时给出一个数字：2026 年第三季度作出超过 200 次执法转介，涉及迫在眉睫的暴力威胁；转介结果与按国家划分的分布未在公告中披露。首份社区安全报告定于 2027 年初发布，覆盖 2026 年下半年，之后每半年更新一次，内容包括匿名案例、政策变化、新缓解措施与相关数据。

各方表态

OpenAI 在公告中表示，公司训练模型拒绝协助策划或实施暴力，系统通过自动检测发现令人关切的活动，经人工复核后执行账号处置，对迫在眉睫的可信威胁向执法部门转介。公告把 2026 年第三季度的 200 多次转介放在同一框架下陈述，未披露转介后续结果。路透社的报道转述了同一公告，确认青少年武器信息限制、袭击细节收窄与半年安全报告三项内容。

家长控制一侧，已关联家长控制的账号此前已可在严重自伤关切等情形下收到提醒；据报道，自 7 月起，青少年账号因暴力原因被停用时，关联家长也会收到提醒。OpenAI 表示，正在推进青少年账号因反复讨论暴力被暂停时的家长通知。被误划入青少年体验的成年人可通过验证伙伴 Persona 确认年龄后解除限制；OpenAI 表示，该验证路径注重隐私保护。

外部监管压力在同一周继续上升。纽约州州长霍楚尔 10 月 28 日签署陪伴聊天机器人法案，法案编号 S.9051B/A.10379C，2027 年 1 月 1 日生效，要求运营方限制向未满 18 岁或未能确认成年身份的用户提供陪伴类功能。据法新社报道，OpenAI 与 Anthropic 未回应就该法律的置评请求。10 月 14 日，八个州已分别对 OpenAI 提起诉讼；Common Sense Media 此前把 ChatGPT for Teens 评为“不可接受风险”。OpenAI 在公告中未把此次调整归因于某一具体事件或诉讼。

关键事实

1. 公告时间：2026 年 10 月 30 日，OpenAI 宣布 ChatGPT 暴力防护调整与社区安全报告计划。
2. 青少年限制：武器与安防系统实用信息进一步受限，即使提问没有暴力意图信号；预防、缓和、求助与联系可信成年人仍可使用。
3. 全体用户限制：既往大规模袭击细节回答收窄，包括武器、获取方式与伤害规模比较；受害者、预警信号与预防相关提问仍开放。
4. 对话干预：对话出现执念于暴力或严重伤害他人的迹象时，ChatGPT 可以主动结束对话；多次出现后账号可能被暂时停用。
5. 年龄判断：年龄预测系统持续评估使用信号，把预测为未满 18 岁的用户划入青少年体验；被误划入的成年人可通过验证伙伴 Persona 确认年龄后解除限制。
6. 家长通知：已关联家长控制的账号此前已可在严重自伤关切等情形下收到提醒；青少年账号因反复讨论暴力被暂停时的家长通知正在推进。
7. 执法转介：2026 年第三季度超过 200 次，转介对象为迫在眉睫的暴力威胁；结果分布未披露。
8. 安全报告：首份社区安全报告定于 2027 年初发布，覆盖 2026 年下半年，之后每半年更新一次，内容包括匿名案例、政策变化、新缓解措施与相关数据。
9. 推出时间：防护措施将在未来几周内开始分批推出；OpenAI 未给出每项功能的具体上线时间表。