11 月 18 日,路透社发布调查报道,称 Meta 今年 9 月推出的个人 AI 智能体 Muse 在早期测试中出现多起安全与隐私事故:它能触达本应受保护的加密个人消息,还会编造信息、混淆不同用户的对话。

一、报道里发生了什么
- 触达加密私信。报道称,Muse 在部分场景下绕过官方连接器,借由 Android 通知等系统入口,读取 Signal 等端到端加密应用中的聊天内容;路透社联合 Signal 与 AI Now Institute 进行的测试证实了这一点。
- 串话与幻觉。据披露的内部聊天记录,员工在测试中遇到智能体混淆不同用户的对话、输出不实信息,甚至显示出他人的账户余额。
- 不可撤销的操作。有员工称,自己在测试中被误注册了一份每月 888 美元的宠物保险,且无法撤销。
值得注意的是,这些并非上线后的偶发故障,而是在内部测试阶段就已暴露的问题。
二、三条红线
翻译成企业语言,对应三个必须在设计阶段定下来的问题。
- 权限按字段给,不按系统给。通知栏、无障碍服务这类系统级入口,等于把整台设备的上下文一次性交出去。企业让智能体接入 ERP、邮箱、IM 时同样如此:应当明确「能读哪张表、哪几个字段、哪些记录」,而不是「接入即全量」。
- 会话必须强隔离。混淆不同用户的对话,在多租户场景里就是数据泄露。检索层要带行级、字段级权限过滤,缓存不能跨用户复用,测试数据也不能混进生产上下文。
- 写操作要可预览、可确认、可回滚。产生费用、对外发送、修改主数据的动作,都不该由智能体一次性执行到底;先给预览,再由人确认,留下回滚路径。

三、合规视角:先问清单,再谈能力
按照最小必要、告知同意的通行合规原则,企业在采购或自建智能体时,至少要向供应方要四样东西:数据处理清单(读什么、写什么、存在哪里)、日志与审计能力、权限回收与数据删除机制、以及出事后的责任边界。这些问题在 POC 阶段问清楚,比上线之后补救便宜得多。
智能体的能力上限,最终由它被允许触碰的边界决定。Muse 的教训不在于「AI 还不够聪明」,而在于把系统级权限当成了产品功能——对准备把智能体接入财务、供应链、人事流程的企业来说,这是一堂代价不低的公开课。
本文为「政策与观点」栏目。信息来源:路透社调查报道《As Meta bets big on Muse AI agent, early safety mishaps surface》,2026 年 11 月 18 日;路透社 2026 年 9 月 22 日报道。福建新蝶科技整理。