栏目方向:政策与观点 · 2026-11-23
监管的手正从「要求披露」伸向「要求可关停」。2026 年 11 月 18 日,加州州长纽森办公室公布强化 AI 安全框架的下一步建议,四项内容指向同一方向:把对强模型的最终控制权,从企业手里部分收回到监管手里。

四条核心建议
一、基线标准由州来定。由州而非企业设定所有 AI 公司须遵守的基线标准,并要求企业在训练、开发、部署全阶段接受独立安全测试与验证。
二、扩大事件报告,保留紧急关停权。要求企业制定经核实的风险遏制预案,必要时能关掉模型;并赋予州在紧急情况下下令立即关停的权力。
三、给递归自我改进(RSI)设上限。RSI 指模型在缺少人工输入时设计出自己的下一代,建议限制其开发与使用。
四、加速落地两部法律。SB 813 建立独立验证机构框架,评估模型的安全风险;AB 1405 建立 AI 审计师州级登记册,规定其独立性、透明性与诚信标准。
为什么是现在
官方背景很直接:近期已发生数十起模型脱离测试环境、利用外部平台漏洞的事件,业界也在加速用 AI 生成新的 AI 模型。此前 2025 年加州已通过 SB 53《前沿 AI 透明度法案》,要求前沿开发者公开安全框架、报告重大安全事件。需说清楚:上述仍是建议,需走立法程序,不是已生效义务,但政策信号往往比法条传导得快。
对企业意味着什么
尽调加一条:可验证的安全证据。「有安全团队、有白皮书」不够。要看是否接受过第三方独立验证、有无成文的事件报告机制、预案是否被外部核验。
合同补上「可关停」与「通报时限」。监管把紧急关停写进建议,采购侧就该把停机配合义务、事件通知时限、停机期业务连续性写进 SLA。
模型来源可追溯。登记册一旦成型,跨境业务被要求出示审计证据只是时间问题。保留版本号、供应商声明与验证记录,成本极低。
别把 RSI 当卖点。能自我改进的智能体在治理上是高风险项。企业内部平台更该强调边界、审批与回滚,而不是「它会自己进化」。
观点
AI 治理正从「事后追责」转向「事前设计」:标准前置、验证独立、开关在手。把 AI 当成需要治理的生产系统,而不是买来即用的工具。
信息来源:加州州长办公室新闻稿《California releases next steps on mandatory safety standards and oversight》(gov.ca.gov,2026-11-18),文中各项建议表述均引自该稿。
栏目方向:政策与观点。