2026 年 5 月 19 日,在 2026 年中国网络文明大会"人工智能赋能网络文明建设"分论坛上,全国网络安全标准化技术委员会(网安标委)发布《人工智能应用伦理安全指引1.0》,编号 TC260-005。该指引聚焦人工智能应用中的伦理安全问题,明确了人工智能应用开发、服务提供和应用使用等环节的安全指引,推动相关主体正确认识和妥善应对应用活动中的伦理安全影响,坚持以人为本、智能向善。

为什么在"应用"环节划定伦理安全边界

此前的治理文件多聚焦模型、算法或数据等单一要素。应用环节的特殊性在于,它是伦理风险真正显形的场所:模型能力再强,只有当它进入具体产品、服务与场景,才会对用户、社会产生影响。指引选择从"应用"切入,等于把伦理安全要求挂到风险发生的位置上。

这也是"以人为本、智能向善"的落地方式——不是抽象表态,而是要求开发与使用主体在应用活动中识别、评估并处置伦理安全影响。

开发—服务提供—应用使用:三段指引

指引按主体与环节划分责任。开发环节,要求在设计阶段就嵌入伦理安全考量,而非事后补救;服务提供环节,要求服务方对提供的功能、面向的对象与可能影响作出说明与管理;应用使用环节,则要求使用方在具体场景中合理使用,避免不当用途。

三段指引的价值,在于让链条上的每一方都能找到自己的位置。实践中常见的推诿——“我只提供模型"“我只调用接口”——在这套结构下更难成立。

与《智能体规范应用与创新发展实施意见》的衔接

同期发布的《智能体规范应用与创新发展实施意见》与指引形成配合。智能体具备自主规划与多步执行能力,其应用风险高于单纯的内容生成,因此对治理架构与安全措施的要求也更具体,可参见智能体规范应用实施意见解读。

两者叠加的信号是:随着 AI 从"生成内容"走向"自主行动”,伦理与安全的约束正沿着能力边界同步延伸。相关治理思路可参见人工智能安全治理框架 3.0 解读。

对企业治理架构与产品设计的要求

一是建立伦理审查机制。把伦理安全评估纳入产品立项与上线流程,明确谁审、审什么、结论如何留痕。

二是开展影响评估。对可能影响用户权益、社会秩序的应用,形成可交付的评估文档。

三是持续监测。伦理安全影响并非一次性判断,需在运行中持续监测与更新。

四是把要求落到文档。无论是内部治理制度,还是面向合作方的材料,都需要可核验的书面记录。

海外同类治理动向可作参照,如英国信息专员办公室对智能体应用的合规指引,可参见ICO 智能体 AI 合规指南。

需要就伦理安全评估、治理机制搭建、数据与算法合规获得支持的,可参见数据合规服务与算法备案服务。


本文依据全国网络安全标准化技术委员会 2026 年 5 月 19 日发布《人工智能应用伦理安全指引1.0》(TC260-005)的公开信息编写,仅供参考,不构成法律意见。