2024 年 9 月 9 日，在国家网络安全宣传周主论坛上，全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0 版。框架把风险分成模型内生安全风险与应用安全风险两类，提出技术应对与综合防治措施，强调鼓励创新与安全并重。它的定位是标准性、方法性文件，不设行政处罚，但提供了一套监管、企业与第三方机构可以共同使用的语言。
两类风险的分法解决了什么
模型内生安全风险指向模型自身的能力与缺陷：生成内容不可控、对对抗样本脆弱、训练数据带来偏见与记忆、模型被窃取或篡改。应用安全风险指向落地环节：接入业务系统后的误用、供应链依赖、部署环境的安全缺口、用户对输出结果的过度信任。
这一划分的实际用途是责任定位。内生风险多由开发者承担，应用风险由开发者与部署者共同承担。事故发生时，先判断风险属于哪一类，再判断谁有能力控制它，比笼统讨论“AI 不安全”更容易形成可执行的整改方案。
技术应对与综合防治是两条并行线
技术应对解决“能不能防住”，综合防治解决“由谁管、按什么流程管”。前者包括内容过滤、数据清洗、模型评测、访问控制与监测预警；后者包括治理架构、制度文件、人员培训、应急响应与外部合作。两条线缺一不可：只有技术措施，遇到新型攻击缺少决策机制；只有制度文件，遇到具体漏洞缺少处置手段。
治理架构要能落到岗位
框架强调安全治理，企业常把它写成一份委员会章程。有效的架构要回答三个问题：谁对模型上线做最终判断，谁在运行期监测异常，谁在事件发生后对外沟通。答案应落到具体岗位与授权，而不是停留在组织图上。中小型 AI 企业不必复制大型企业的多层委员会，但必须有明确的决策人与留痕机制。
与备案和标准体系的衔接
框架本身不是备案材料，却可以作为安全评估的论证基础。算法备案与生成式人工智能服务备案要求的安全评估，都需要说明风险识别过程与控制措施。以框架的风险分类为骨架组织材料，能减少不同申报之间的口径冲突。框架与现行国家标准、行业标准存在方法上的对应关系，采用时应注意版本与适用范围，避免把建议性内容当作强制义务。
企业可以做的准备
把现有模型清单按两类风险重新标注，补充缺失的评估记录；检查治理文件是否明确了上线审批与事件报告路径；把技术措施与制度措施对应起来，形成一张可核查的矩阵。这张矩阵在内部审计、客户尽调与监管问询中都能直接使用。
需要把框架要求转化为可执行的安全评估与备案材料，可参见算法备案服务与网络安全合规服务；涉及训练数据处理的，另见数据合规服务。
本文依据全国网络安全标准化技术委员会 2024 年 9 月 9 日发布的《人工智能安全治理框架》1.0 版及公开信息编写，仅供参考，不构成法律意见。