加州 SB 1047 于 2024 年 8 月通过州议会。法案针对大规模前沿模型的开发者,要求建立安全框架、开展风险评估并报告安全事件。法案已送交州长,签署或否决的结果尚待确定。对不在加州注册、也不在加州部署模型的企业,这部法案仍然值得读——它把“前沿模型开发者应当做什么”写成了一套可讨论的结构。
三项义务
法案的核心可以归为三项。安全框架要求开发者以书面方式说明安全管理安排,包括责任分配、风险容忍度与处置流程。风险评估要求在关键节点识别模型能力、滥用场景与失效模式,并留下评估记录。事件报告要求在发生安全事件时向有关方面报告。三项义务相互支撑:没有框架,评估缺少判断标准;没有评估,报告难以界定什么是安全事件。
前沿模型按规模划界
法案适用于大规模前沿模型,界分标准落在训练规模,而不是产品用途或用户数量。这个划法带来一个实际问题:同一家公司可能同时开发多个模型,只有部分落入范围;模型迭代后规模变化,适用范围也可能变化。开发者需要为每个模型保留规模判断的依据,而不是用一句“我们不是前沿实验室”概括。对使用第三方算力或基础模型的团队,还要确认自身在开发链条中的位置。
安全框架要写成流程
安全框架容易写成原则声明,难以执行。可用的框架至少包含四类内容:谁对哪一类风险负责;在什么条件下必须暂停或升级;测试与复核的频率;记录保存与对外说明的口径。框架不需要覆盖所有假设场景,但应能让一个新加入的工程师知道遇到问题时找谁、按什么标准判断。把框架与现有的模型发布流程结合,比另建一套制度更可持续。
风险评估与事件报告
风险评估的价值在于前置。评估应说明模型能力边界、可能被滥用的方式、现有控制措施与剩余风险。对能力快速变化的模型,评估不是一次结论,而是随版本更新的记录。事件报告的关键是定义:哪些情形属于安全事件,由谁判断,向谁报告,保留哪些材料。定义过宽会导致报告泛滥,过窄则会漏掉实质风险。无论法案是否成为法律,这些问题在企业内部仍然需要答案。
签署与否,议题都不会消失
州长的决定会决定 SB 1047 是否成为法律,但不会决定前沿模型的安全义务是否继续存在。即使法案被否决,相关要求也会通过其他渠道传导:客户合同中的安全条款、平台接入政策、投资人与保险机构的尽职调查,以及美国州层面的后续立法尝试。对开发者,务实的做法是保留一份可复用的安全档案,包含框架、评估记录、事件处理流程与版本说明。这份档案既能回应客户问卷,也能在规则变化时快速调整,而不必从头搭建。
多法域监管跟踪,参见多法域合规服务;安全测试与事件响应,参见网络安全合规服务;合同中的安全条款与责任分配,参见商业合同服务。
本文依据加州 SB 1047 于 2024 年 8 月通过州议会的公开信息编写,法案签署结果以州长办公室最终决定为准,仅供参考,不构成法律意见。