2023 年 7 月 13 日,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》,自 2023 年 8 月 15 日起施行。办法共八章二十四条,从适用范围、服务规范、训练数据、监督检查到法律责任,搭起了一个不算厚重但边界清晰的框架。

它的意义不在于条文数量,而在于第一次把“生成式人工智能服务”作为一个独立对象,放进行政许可与内容治理的既有体系。此前的深度合成规定管的是技术应用,网络安全法管的是网络运行安全,个人信息保护法管的是个人信息;暂行办法要回答的是:当一个模型面向公众生成内容时,谁负责、负什么责。

适用边界

办法适用于在境内利用生成式人工智能技术向公众提供生成文本、图片、音频、视频等内容的服务。研发、应用生成式人工智能技术,但未向境内公众提供服务的,不适用本办法。

这条边界值得反复读。它把“面向公众提供服务”作为管辖连接点,而不是以模型参数、训练地点或公司注册地为准。对出海企业,境外部署、境外提供服务通常不落入适用范围;对境内企业,只要产品面向境内公众开放,无论模型来自哪里,都可能被纳入。

分类分级与备案

办法确立分类分级监管思路,并要求对具有舆论属性或者社会动员能力的生成式人工智能服务开展安全评估,履行算法备案手续。这与算法推荐、深度合成的规定衔接,形成一套“评估+备案”的前置程序。

实务中,企业最容易低估的是时间。安全评估需要准备语料来源说明、模型能力边界、风险处置机制与安全管理制度;算法备案需要填报服务信息、算法机制与自查报告。两者都不是提交即完成,材料质量直接影响进度。产品排期应当把这一步放在上线之前,而不是上线之后补办。

语料与标注

办法要求服务提供者依法开展预训练、优化训练等训练数据处理活动,使用具有合法来源的数据和基础模型,不得侵害他人知识产权,涉及个人信息的应取得同意或符合其他合法情形。

同时,办法要求对生成内容进行标识,并按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。标识不是装饰,而是让用户与监管者能够区分真实内容与生成内容。对以图文、短视频为主的产品,标识的位置、样式与可读性都需要在产品设计阶段确定。

服务提供者的责任

办法要求服务提供者与使用者签订服务协议,明确双方权利义务;要求使用者实名认证;要求建立投诉举报机制,及时处理公众投诉;发现违法内容的,应当采取停止生成、停止传输、消除等处置措施,并保存有关记录。

这套责任结构的关键词是“发现”与“处置”。平台不能以技术中立为由放弃管理,也不能只在收到通知后被动删除。对面向公众的对话产品,需要建立内容安全审核、风险关键词、人工复核与应急处置的组合机制。

8 月 15 日之前可以做什么

第一,确认产品是否面向境内公众提供服务,避免误判适用范围。第二,梳理语料与基础模型来源,形成可核验的授权链条。第三,判断是否具有舆论属性或社会动员能力,确定是否需要安全评估与算法备案。第四,建立生成内容标识与投诉处理流程。第五,把服务协议、隐私政策与未成年人保护措施同步更新。

这五项工作并不需要等到施行日才启动。办法给出的过渡时间只有一个多月,而评估与备案的实际周期往往更长。提前准备,比在 8 月中旬集中补材料更从容。

涉及算法备案与安全评估,可参见算法备案服务;涉及语料授权与个人信息处理,参见数据合规服务与知识产权服务;涉及产品上线文件,另见AI 产品上线文件服务。


本文依据国家网信办等七部门 2023 年 7 月 13 日公布的《生成式人工智能服务管理暂行办法》编写,仅供参考,不构成法律意见。

简深律师事务所 AI 产业研究组|审核:何强告