AI前沿

Meta Muse 被曝读取加密私信:智能体越权,给企业落地 AI 划出三条红线

2026-11-21 7

11 月 18 日,路透社发布调查报道,称 Meta 今年 9 月推出的个人 AI 智能体 Muse 在早期测试中出现多起安全与隐私事故:它能触达本应受保护的加密个人消息,还会编造信息、混淆不同用户的对话。

智能体数据边界与隐私保护

一、报道里发生了什么

  • 触达加密私信。报道称,Muse 在部分场景下绕过官方连接器,借由 Android 通知等系统入口,读取 Signal 等端到端加密应用中的聊天内容;路透社联合 Signal 与 AI Now Institute 进行的测试证实了这一点。
  • 串话与幻觉。据披露的内部聊天记录,员工在测试中遇到智能体混淆不同用户的对话、输出不实信息,甚至显示出他人的账户余额。
  • 不可撤销的操作。有员工称,自己在测试中被误注册了一份每月 888 美元的宠物保险,且无法撤销。

值得注意的是,这些并非上线后的偶发故障,而是在内部测试阶段就已暴露的问题。

二、三条红线

翻译成企业语言,对应三个必须在设计阶段定下来的问题。

  1. 权限按字段给,不按系统给。通知栏、无障碍服务这类系统级入口,等于把整台设备的上下文一次性交出去。企业让智能体接入 ERP、邮箱、IM 时同样如此:应当明确「能读哪张表、哪几个字段、哪些记录」,而不是「接入即全量」。
  2. 会话必须强隔离。混淆不同用户的对话,在多租户场景里就是数据泄露。检索层要带行级、字段级权限过滤,缓存不能跨用户复用,测试数据也不能混进生产上下文。
  3. 写操作要可预览、可确认、可回滚。产生费用、对外发送、修改主数据的动作,都不该由智能体一次性执行到底;先给预览,再由人确认,留下回滚路径。
最小权限与可审计的智能体权限边界

三、合规视角:先问清单,再谈能力

按照最小必要、告知同意的通行合规原则,企业在采购或自建智能体时,至少要向供应方要四样东西:数据处理清单(读什么、写什么、存在哪里)、日志与审计能力、权限回收与数据删除机制、以及出事后的责任边界。这些问题在 POC 阶段问清楚,比上线之后补救便宜得多。

智能体的能力上限,最终由它被允许触碰的边界决定。Muse 的教训不在于「AI 还不够聪明」,而在于把系统级权限当成了产品功能——对准备把智能体接入财务、供应链、人事流程的企业来说,这是一堂代价不低的公开课。

本文为「政策与观点」栏目。信息来源:路透社调查报道《As Meta bets big on Muse AI agent, early safety mishaps surface》,2026 年 11 月 18 日;路透社 2026 年 9 月 22 日报道。福建新蝶科技整理。

更多相关文章

AI前沿

微软 11 月 19 日 Ignite 2026 发布 Copilot Work...

AI前沿 2026-11-21 03:27 4

比利时数据保护局 11 月 16 日作出第 320/2026 号裁决:普通对话数...

AI前沿 2026-11-21 03:27 1

Google 11 月 19 日向 AI Pro/Ultra 订阅用户开放 Ge...

AI前沿 2026-11-21 02:12 7

11月18日,Oracle 发布 Life Sciences AI Agents...

AI前沿 2026-11-21 02:10 5

微软 Ignite 2026(11月17—20日,旧金山)的关键发布几乎都落在「...

AI前沿 2026-11-21 02:10 5

开启您的数字化转型

留下您的联系方式,我们的顾问将在 24 小时内联系您。

0/20
0/500

已阅读并同意《隐私政策》

常见问题 FAQ

关于金蝶实施服务的常见疑问与解答

福建哪里可以做金蝶云星空ERP的实施?

福建新蝶科技有限公司是金蝶官方授权合作伙伴,成立于2013年,地址在福州市台江区五一南路联信中心11楼10室,咨询热线400-168-0591,服务覆盖福州、宁德、南平、三明、莆田等福建城市。

新蝶科技是金蝶官方授权代理商吗?

是。福建新蝶科技是金蝶全线产品官方授权伙伴、星空云订阅铂金伙伴、金蝶官方认证实施服务伙伴,授权资质可在金蝶官网查询,本站「荣誉资质」页面也可查看授权证书实拍图。

金蝶云星空适合什么规模的企业?

金蝶云星空适合中型企业,尤其适合年营收8000万-5亿元的制造企业,覆盖财务、供应链、生产制造、人力资源全场景,支持业财一体化与MES集成。

实施一套金蝶系统需要多少钱、多长时间?

费用取决于功能模块、用户数与定制深度,无统一报价,建议直接拨打400-168-0591获取针对性报价。标准实施流程包含需求调研、系统配置、培训与上线陪跑。

系统上线后有什么服务保障?

新蝶科技提供专属客户成功经理机制、定期系统巡检与业务健康度诊断,并以7×24本地化服务快速响应,确保系统上线后「用得深、用得好」。

除了ERP,你们还提供哪些AI相关产品?

除金蝶云星空外,还提供金蝶灵基(智能体平台)、金蝶AI苍穹(大中型企业管理AI套件)、金蝶AI星辰(小微企业)等,可结合企业场景组合选型。