2024 年,智能体从演示走向商业化。与问答式产品不同,智能体代表用户调用工具、访问数据并执行任务,能完成搜索、下单、发邮件、修改系统等有实际后果的动作。这一变化把合规问题从“生成什么内容”推到“以什么权限、对谁负责”。《生成式人工智能服务管理暂行办法》《个人信息保护法》《数据安全法》构成的框架仍然适用,但需要按智能体的行为方式重新拆解。

责任结构的变化

问答产品的核心风险是输出内容,智能体的核心风险是行为链条。一次任务可能经过多个工具、多个接口与多次状态变更,用户看到的只是结果,过程中的授权、数据传输与第三方处理都被折叠在后台。

这带来两个后果。责任主体变多:智能体运营者、模型提供者、工具提供者、被调用系统的运营者,都可能在链条中承担责任。证据要求变高:没有操作日志,就无法还原某一步是谁授权、谁执行、数据传到了哪里。

授权链要逐层可追溯

用户对智能体的授权,不能替代智能体对工具方的授权,也不能替代工具方对数据主体的告知。三层授权需要分别成立:用户授权智能体代为操作;运营者授权智能体调用特定工具;工具方按其规则处理传入的数据。

授权范围要具体到动作与期限。笼统的“代为处理相关事务”在争议中难以证明边界;读取与写入、查询与支付、单次与持续,应分别取得同意。涉及敏感个人信息、向第三方提供或跨境传输的,还需要单独的合法性基础。

权限设计就是合规设计

最小必要在智能体场景有工程含义:只授予完成任务所需的接口,只开放必要的字段,读写分离,对不可逆动作设置人工确认,在高风险环境使用沙箱。

凭证管理同样关键。长期有效的密钥、过宽的服务账号、共享的访问令牌,会让“用户授权”失去意义;一旦日志显示某次调用使用了运营者的超级权限,责任分配会立即复杂化。按任务签发短期凭证、按用户隔离权限,是成本可控的做法。

日志、合同与第三方接口

操作日志应记录任务标识、调用工具、传入字段、返回结果、执行时间与操作主体,保存期限与业务风险相匹配。日志本身包含个人信息,访问控制与脱敏不能省略。

合同要把法定责任与约定责任分开。运营者对用户的义务、工具方对运营者的义务、被调用系统对工具方的义务,需要在接口协议中写清;但法定责任不因合同转移而消失。第三方接口还应关注其条款是否允许转授权、是否会将数据用于模型训练、是否限制调用频率与数据存放地点。

涉及授权与个人信息处理安排,可参见数据合规服务;上下游接口与责任条款,参见商业合同服务;凭证与访问控制的技术合规,参见网络安全合规服务。


本文依据《生成式人工智能服务管理暂行办法》《个人信息保护法》《数据安全法》及 2024 年公开信息编写,仅供参考,不构成法律意见。

简深律师事务所 AI 产业研究组|审核:何强告