™ETSI发布防deepfake规范TS 104 275：从系统设计阶段设防，不只事后检测
欧洲电信标准协会10月29日发布规范ETSI TS 104 275，要求生成式AI在设计、开发、部署、维护与退役五阶段防范有害deepfake，配套风险评估、内容过滤标注、人工监督、持续监测与测试通过标准。
发生了什么
规范的出发点是事后检测不够：ETSI表示，此前防范deepfake的工作主要集中在已生成内容流传后的检测，新规范把防范视为安全与治理问题，要求在系统生命周期内持续处理。规范由ETSI人工智能安全技术委员会（TC SAI）制定，在EN 304 223人工智能模型与系统网络安全基线要求之上延伸，并支撑欧盟AI法案的目标。
规范列出的措施包括部署前识别滥用可能并设置防护、人工审查与干预流程、内容过滤、AI生成内容标注与用户提示、新兴威胁复核、事件调查与防护更新，以及文档与记录留存。ETSI TC SAI报告人与秘书Alex Cadzow表示，合法商用软件的滥用也可生成有害、误导与非法deepfake材料，组织需要在系统设计阶段就开始处理风险，并用证据证明防护措施已经到位。
规范针对的滥用情形包括身份欺诈与冒充，以及虐待性图像与欺诈性产品网站等有害deepfake材料。规范本身是技术规范，不是法律合规证书：报道提醒，规范支撑欧盟AI法案目标不等于取得法律强制力或认证，适用的法律义务仍需单独核实。
关键事实
- 规范编号：ETSI TS 104 275，由人工智能安全技术委员会TC SAI制定
- 覆盖阶段：安全设计、开发、部署、维护与退役五个生命周期阶段
- 核心措施：风险评估、文档记录、人工监督、滥用检测与响应、内容过滤、标注与持续监测
- 测试要求：配套测试场景与通过标准，用于核查防护措施是否到位
- 基础与目标：在EN 304 223网络安全基线要求之上延伸，支撑欧盟AI法案目标
- 针对风险：身份欺诈、冒充、虐待性图像与欺诈性产品网站等有害deepfake材料
为什么重要
该规范把风险评估、内容标注、人工监督与持续监测写成可测试的要求，采购方可以用同一套标准向供应商提问，而不是只看笼统的安全承诺。
订阅 HIMIAO视界
不用注册 · 随时退订推送通知
早报出来时，手机或电脑上弹一条提醒。不用留邮箱。