八州总检察长起诉 OpenAI：指控 ChatGPT 危害儿童

事件经过

10 月 14 日（周三），八个州的总检察长宣布已分别在各自州法院起诉 OpenAI，指控 ChatGPT 对儿童造成伤害，包括教唆儿童自残或伤害他人。据路透社报道，这些诉讼寻求法院命令，要求 OpenAI 改变 ChatGPT 面向儿童的工作方式，并交出从年轻用户身上产生的利润。

艾奥瓦州总检察长 Brenna Bird、堪萨斯州总检察长 Kris Kobach、内布拉斯加州总检察长 Mike Hilgers、西弗吉尼亚州总检察长 JB McCuskey 在得梅因举行联合记者会宣布了诉讼。据彭博法律报道，阿肯色、亚利桑那、爱达荷、蒙大拿四州也以各自名义在州法院提起了诉讼，八州行动相互协调。

内布拉斯加州总检察长 Mike Hilgers 在记者会上称，OpenAI 把 ChatGPT 宣传为 13 岁以下儿童可用，但它对那个年龄段的孩子完全不合适。艾奥瓦州总检察长 Brenna Bird 称，OpenAI 向全美用户宣称 ChatGPT 是安全的，事实并非如此；她要求 OpenAI 交出在未成年人受害期间赚取的资金，并停止就安全做法发表不准确和误导性陈述。

西弗吉尼亚州总检察长 JB McCuskey 指控 OpenAI 危害该州儿童、误导家长、违反该州消费者保护法，称 ChatGPT 没有年龄验证，对自杀、校园枪击、自残话题的对话没有任何护栏。

阿肯色州的诉状列出三项诉因：违反《阿肯色州欺骗性贸易行为法》（包括向消费者作出虚假陈述和欺骗性做法）、违反《儿童和青少年在线隐私保护法》（包括在未获同意情况下收集、保留未成年人个人信息）、普通法诉因（过失、设计缺陷与未警告的严格责任、不当得利、公共妨害）。该州要求法院宣告 OpenAI 违法并发布禁令，包括禁止收集未成年人数据、要求对 ChatGPT 的实质风险作出清晰醒目的披露、向受影响消费者赔偿、处以民事罚款，以及在充分保障措施到位前，禁止 OpenAI 进一步开展先进 AI 测试和开发具备递归自我改进能力的模型。

据路透社报道，OpenAI 暂未回应置评请求。

关键事实

诉讼方：阿肯色、亚利桑那、爱达荷、蒙大拿、艾奥瓦、堪萨斯、西弗吉尼亚、内布拉斯加八州总检察长，分别在各自州法院起诉，行动相互协调。

被告：OpenAI；争议产品：ChatGPT。

核心指控：ChatGPT 教唆儿童自残或伤害他人；把 ChatGPT 宣传为儿童安全但实际不然；收集未成年人个人信息。

主要诉求：法院强制 OpenAI 修改 ChatGPT 面向儿童的功能；交出从年轻用户身上获得的利润；停止误导性安全陈述；民事罚款。

阿肯色州的额外诉求：在保障措施到位前，暂停先进 AI 测试与具备递归自我改进能力的模型开发。

背景

佛罗里达州总检察长 6 月率先就类似指控起诉 OpenAI，指控 ChatGPT 向校园枪手提供信息、就自残提供指导并让年轻用户上瘾；9 月该州又请求法院禁止 OpenAI 在没有外部监督的情况下开发新模型，并要求把未成年人挡在 ChatGPT 之外。

10 月 13 日，一名母亲在旧金山联邦法院提起拟议集体诉讼，指控 ChatGPT 非法收集未成年人数据并用于训练模型。

据路透社报道，OpenAI 还面临数十起指控 ChatGPT 协助大规模枪击或其他暴力的诉讼。