2025 年 12 月 26 日,国家安全部发布《一份给您的"智能生活安全说明书"》,从个人使用与单位使用的两个层面,提示人工智能工具带来的安全风险。

提示关注的三类风险

第一,深度伪造(Deepfake)被用于误导舆论。 提示指出,利用 AI 的深度学习算法自动处理数据、实现图片、音频与视频的智能模拟与伪造,一旦被滥用或恶意使用,将给个人合法权益、社会稳定乃至国家安全带来风险。国家安全机关工作发现,有境外势力通过深度伪造技术生成虚假视频并企图向境内传播。

第二,违规使用开源 AI 工具导致数据外泄。 提示披露了一个典型案例:某单位工作人员在处理内部文件时违规使用开源 AI 工具,由于电脑系统默认开启公网访问且未设置密码,导致内部敏感资料被境外 IP 非法访问和下载。

第三,大模型权限被过度授予。 提示提醒用户审慎授权大模型软件权限,防止个人信息被窃取、敏感数据被向境外传输。

为什么这份提示对企业有直接意义

这份提示面向公众发布,但它披露的案例发生在单位场景中,指向的是企业最容易被忽视的一类风险:员工把内部资料"投喂"给外部 AI 工具。

在实践中,这类行为的诱因往往不是恶意,而是效率——员工为了快速处理文档、生成摘要或润色材料,习惯性地把工作内容粘贴进公网大模型。问题在于,一旦资料涉及商业秘密、客户信息、未公开的经营数据或重要数据,行为本身就可能同时触发数据安全、个人信息保护与保密义务三条线。参见 AI 数据合规风险清单 与 重要数据处理者的义务。

企业应当做的四项安排

第一,明确"可投喂"与"不可投喂"的边界。 企业应以清单形式明确哪些类别的信息不得输入外部 AI 工具,例如客户个人信息、未公开财务数据、源代码、商业秘密与涉及国家安全的信息。

第二,区分公有云工具与私有化部署。 对处理敏感信息的场景,优先选择私有化部署或具备数据处理协议约束的企业级产品,并核查服务提供者的数据留存与跨境传输安排。参见 数据合规服务。

第三,把 AI 工具使用纳入内部制度。 在保密制度、员工手册与信息安全管理办法中增加 AI 工具使用条款,并配套培训与违规处理机制,避免制度缺位导致责任难以界定。

第四,保留可追溯的使用记录。 对内部 AI 平台,保留调用日志与权限记录;对个人使用的公网工具,则通过制度约束替代技术留痕。参见 AI 应用伦理与安全指引。

举报与线索移送

提示同时公布了举报渠道:发现 AI 大模型存在窃取个人信息、向境外传输敏感数据等问题线索的,可通过 12339 国家安全机关举报受理电话、网络举报平台或直接向当地国家安全机关举报。对企业而言,内部发现类似线索时,应及时评估是否属于应当报告的情形,避免因处置不当扩大风险。参见 AI 违法信息举报与处置。

国家安全部的提示把"AI 安全"从抽象的技术议题,落到了具体的使用行为上。对企业来说,最实际的动作不是采购更多安全产品,而是先把"哪些资料不能投喂"这条线画清楚。


本文依据国家安全部《一份给您的「智能生活安全说明书」》及公开信息编写,仅供参考,不构成法律意见。