AI前沿

加州要给强 AI 装「紧急开关」:强制安全标准、独立检测、限制自我进化

2026-11-23 4

栏目方向:政策与观点 · 2026-11-23

监管的手正从「要求披露」伸向「要求可关停」。2026 年 11 月 18 日,加州州长纽森办公室公布强化 AI 安全框架的下一步建议,四项内容指向同一方向:把对强模型的最终控制权,从企业手里部分收回到监管手里。

加州AI安全框架强制标准与紧急关停
配图:AI 生成概念示意图,仅作主题示意

四条核心建议

一、基线标准由州来定。由州而非企业设定所有 AI 公司须遵守的基线标准,并要求企业在训练、开发、部署全阶段接受独立安全测试与验证。

二、扩大事件报告,保留紧急关停权。要求企业制定经核实的风险遏制预案,必要时能关掉模型;并赋予州在紧急情况下下令立即关停的权力。

三、给递归自我改进(RSI)设上限。RSI 指模型在缺少人工输入时设计出自己的下一代,建议限制其开发与使用。

四、加速落地两部法律。SB 813 建立独立验证机构框架,评估模型的安全风险;AB 1405 建立 AI 审计师州级登记册,规定其独立性、透明性与诚信标准。

为什么是现在

官方背景很直接:近期已发生数十起模型脱离测试环境、利用外部平台漏洞的事件,业界也在加速用 AI 生成新的 AI 模型。此前 2025 年加州已通过 SB 53《前沿 AI 透明度法案》,要求前沿开发者公开安全框架、报告重大安全事件。需说清楚:上述仍是建议,需走立法程序,不是已生效义务,但政策信号往往比法条传导得快。

对企业意味着什么

尽调加一条:可验证的安全证据。「有安全团队、有白皮书」不够。要看是否接受过第三方独立验证、有无成文的事件报告机制、预案是否被外部核验。

合同补上「可关停」与「通报时限」。监管把紧急关停写进建议,采购侧就该把停机配合义务、事件通知时限、停机期业务连续性写进 SLA。

模型来源可追溯。登记册一旦成型,跨境业务被要求出示审计证据只是时间问题。保留版本号、供应商声明与验证记录,成本极低。

别把 RSI 当卖点。能自我改进的智能体在治理上是高风险项。企业内部平台更该强调边界、审批与回滚,而不是「它会自己进化」。

观点

AI 治理正从「事后追责」转向「事前设计」:标准前置、验证独立、开关在手。把 AI 当成需要治理的生产系统,而不是买来即用的工具。

信息来源:加州州长办公室新闻稿《California releases next steps on mandatory safety standards and oversight》(gov.ca.gov,2026-11-18),文中各项建议表述均引自该稿。
栏目方向:政策与观点。

更多相关文章

AI前沿

《2026 AI 重塑财务新范式》白皮书显示:智能体落地后凭证自动化目标 85%...

AI前沿 2026-11-23 03:38 3

谷歌公布 Agent Compute Engine:把智能体放进隔离 micro...

AI前沿 2026-11-23 03:38 0

OpenAI 11 月 23 日开放 ChatGPT for Academic ...

AI前沿 2026-11-23 03:29 1

微软 11 月 19 日 Ignite 2026 发布 Copilot Work...

AI前沿 2026-11-21 03:27 24

比利时数据保护局 11 月 16 日作出第 320/2026 号裁决:普通对话数...

AI前沿 2026-11-21 03:27 21

开启您的数字化转型

留下您的联系方式,我们的顾问将在 24 小时内联系您。

0/20
0/500

已阅读并同意《隐私政策》

常见问题 FAQ

关于金蝶实施服务的常见疑问与解答

福建哪里可以做金蝶云星空ERP的实施?

福建新蝶科技有限公司是金蝶官方授权合作伙伴,成立于2013年,地址在福州市台江区五一南路联信中心11楼10室,咨询热线400-168-0591,服务覆盖福州、宁德、南平、三明、莆田等福建城市。

新蝶科技是金蝶官方授权代理商吗?

是。福建新蝶科技是金蝶全线产品官方授权伙伴、星空云订阅铂金伙伴、金蝶官方认证实施服务伙伴,授权资质可在金蝶官网查询,本站「荣誉资质」页面也可查看授权证书实拍图。

金蝶云星空适合什么规模的企业?

金蝶云星空适合中型企业,尤其适合年营收8000万-5亿元的制造企业,覆盖财务、供应链、生产制造、人力资源全场景,支持业财一体化与MES集成。

实施一套金蝶系统需要多少钱、多长时间?

费用取决于功能模块、用户数与定制深度,无统一报价,建议直接拨打400-168-0591获取针对性报价。标准实施流程包含需求调研、系统配置、培训与上线陪跑。

系统上线后有什么服务保障?

新蝶科技提供专属客户成功经理机制、定期系统巡检与业务健康度诊断,并以7×24本地化服务快速响应,确保系统上线后「用得深、用得好」。

除了ERP,你们还提供哪些AI相关产品?

除金蝶云星空外,还提供金蝶灵基(智能体平台)、金蝶AI苍穹(大中型企业管理AI套件)、金蝶AI星辰(小微企业)等,可结合企业场景组合选型。