深度合成技术是AI监管的重点领域。AI换脸、语音克隆、虚拟人等产品如果未备案即上线，将面临下架、罚款甚至关停服务的处罚。
深度合成备案的法规依据
核心法规： 《互联网信息服务深度合成管理规定》（国家网信办等三部门令第12号，2023年1月10日施行）
第十九条原文：
具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。 深度合成服务技术支持者应当参照前款规定履行备案和变更、注销备案手续。
关键要点：
- 深度合成服务提供者需要备案
- 深度合成服务技术支持者也需要备案（参照算法推荐管理规定）
- 备案系统统一使用 beian.cac.gov.cn
- 需要在网站/APP显著位置标明备案编号
哪些产品需要深度合成备案
必须备案的深度合成服务
| 服务类型 | 典型产品 | 是否需要备案 |
|---|---|---|
| AI换脸 | 换脸APP、换脸小程序、视频换脸工具 | ✅ |
| 语音克隆 | AI配音、声音克隆、语音合成 | ✅ |
| 虚拟人/数字人 | 虚拟主播、数字人客服、虚拟偶像 | ✅ |
| AI绘画/视频生成 | 文生图、文生视频、AI修图 | ✅ |
| 深度合成SDK/API | 提供换脸、语音克隆等技术接口 | ✅ |
| AI滤镜/特效 | 美颜、年龄变化、性别转换 | ✅（如具有舆论属性） |
不需要备案的情形
- 仅用于企业内部研发测试，不对外提供服务
- 个人非商业用途，不构成"提供服务"
- 已通过其他途径完成算法备案且覆盖深度合成功能
深度合成提供者的核心义务
义务一：算法备案
在提供服务之日起10个工作日内，通过 beian.cac.gov.cn 完成备案。流程与算法推荐备案一致，详见算法备案全流程操作指南。
义务二：AI生成内容标识
法规依据： 《深度合成管理规定》第十六条、第十七条
深度合成服务提供者应当：
- 对生成或编辑的信息内容添加标识，使公众能够识别为深度合成内容
- 在生成或编辑的图片、视频中添加水印或元数据标记
- 在生成或编辑的音频中添加语音提示或元数据标记
- 提供深度合成功能的APP/网站应在显著位置提示用户遵守法律法规
标识方式要求：
| 内容类型 | 标识方式 |
|---|---|
| 图片 | 可见水印 + 不可见水印（元数据） |
| 视频 | 画面标识 + 元数据标记 |
| 音频 | 语音提示（如"本音频由AI生成"）+ 元数据标记 |
| 文本 | 元数据标记（可选可见标识） |
义务三：真实身份信息认证
深度合成服务提供者应当对使用者进行真实身份信息认证。未进行真实身份信息认证的，不得提供深度合成服务。
义务四：内容审核与风险防控
- 建立违法内容处置机制
- 建立投诉举报渠道
- 保留深度合成日志（不少于6个月）
- 建立应急处置预案
备案材料特殊要点
深度合成备案在标准算法备案材料基础上，还需要特别注意以下内容：
| 材料章节 | 深度合成特殊要点 |
|---|---|
| 算法说明文档 | 需特别说明合成技术类型（图像生成、语音合成、视频替换等） |
| 数据来源 | 训练数据中的人脸、声音等生物识别信息需取得单独同意 |
| 风险评估 | 需评估"伪造他人身份"风险和应对措施 |
| 内容标识 | 需详细说明AI生成内容标识的技术方案 |
| 用户认证 | 需说明真实身份信息认证的技术方案 |
处罚案例
案例一：语音克隆AI应用下架（2024年）
产品： “睿声Reecho” AI语音克隆工具 违规事实： 支持无限制克隆公众人物声音，平台未查询到任何备案、登记记录，未设置AI生成内容强制标识 处罚结果： 全网应用商店、小程序同步下架，限期完成备案登记与安全审核改造
案例二：上海"亮剑浦江"专项执法（2025年）
违规事实： 部分企业开发使用生成式AI功能，未依法开展安全评估，导致"换脸变声"“变装造假"等侵犯个人信息权益行为，产出"开盒"“洗钱"等违法违规内容，以及色情低俗图片 处罚结果： 3家AI服务网站被立案处罚，首次适用《生成式人工智能服务管理暂行办法》
案例三：AI换脸App下架（2025年）
违规事实： 浙江某科技公司AI换脸App未履行深度合成备案和安全评估义务 处罚结果： 责令下线服务并限期整改
合规行动清单
| 序号 | 行动项 | 时间建议 |
|---|---|---|
| 1 | 识别产品是否属于深度合成服务 | 第1周 |
| 2 | 在 beian.cac.gov.cn 完成主体备案 | 第1-2周 |
| 3 | 部署AI生成内容标识系统（水印+元数据） | 第2-4周 |
| 4 | 实现用户真实身份信息认证 | 第2-4周 |
| 5 | 完成算法安全自评估报告 | 第3-6周 |
| 6 | 提交算法备案申请 | 第6周 |
| 7 | 建立内容审核和投诉处置机制 | 持续 |
| 8 | 保留深度合成日志（≥6个月） | 持续 |
常见问题
Q：我们只是用了第三方SDK做换脸功能，需要备案吗？ A：需要。即使使用第三方技术，只要你的产品向用户提供了深度合成服务，你作为服务提供者就需要备案。技术提供方也需要参照规定备案。
Q：AI滤镜算深度合成吗？ A：如果滤镜只是调整颜色、亮度，不构成深度合成。但如果涉及人脸替换、年龄变化、性别转换等改变面部特征的功能，属于深度合成，需要备案。
Q：备案期间能否试运营？ A：严格来说，应在备案完成后才能对外提供服务。灰度测试可以面向内部用户或已签知情同意书的外部测试用户，但不应面向不特定公众开放。
Q：AI生成内容的标识有统一标准吗？ A：目前以《深度合成管理规定》第十六、十七条为基本要求。2026年国家网信办可能发布更细化的标识标准，建议持续关注。
本文依据《互联网信息服务深度合成管理规定》及公开执法案例编写。如需深度合成备案服务，请联系 简深律师事务所。