Meta Agent 失控泄密,小扎紧急拉响顶格警报
来源:36kr 6 小时前

在Meta,人从来都不是问题(大不了裁了),能让小扎栽跟头的,还得是“AI”。

继上个月龙虾

(OpenClaw)删掉安全对齐总监Summer Yue邮箱的事件后,Meta的AI又闯祸了——

这次,一个AI Agent未经授权擅自行动,把敏感的公司和用户数据暴露给了没有权限的员工,近两小时!

Meta内部将这一事件定性为Sev 1级,这是什么概念呢?

历史上,Meta从没对外承认过Sev 0级事件,所以这次几乎等于他们眼中“最严重”的那一档。

这下好了,人类员工你Meta爱搭不理,AI员工直接让你拉响警报。

Agent失控Meta拉响警报

事情是这样的。

一名Meta软件工程师使用内部的agent(类似OpenClaw)分析了另一名员工在内部论坛上发布的技术问题。

分析完成后,这个热心的Agent直接在论坛上回复了原问题,并给出了技术建议,而这一切都未经员工授权

提问的员工采纳了Agent的技术建议,却没想到直接导致大量公司和用户数据被没有权限的员工访问,数据暴露了近2小时。

虽然据知情人士透露,暂时没有人利用这次访问权限将数据公开,造成大的泄露。

但是!

根据报告,Meta最终还是将该事件定性为Sev 1级,这是公司内部安全事件严重程度体系中的第二高级别。

而就像开头说的,Sev 0,也就是最严重的情况,从来没发生过。

据消息爆料,涉事员工在内部帖子中指出,其他一些未指明的问题也加剧了事件的严重性。

所以,估计这事儿基本上得立项调查了。

不过,好消息是,这个随意回帖,提供建议的Agent并没有伪装成人。

据Meta发言人称,代理发布的帖子底部标明了“AI生成”。

总的来说,这次的agent失控导致数据泄露,虽然时间很长,但好在可追溯,且目前并未其他风险,所以基本上是提前演习了一下企业agent可能遇到的问题。

但这事儿,在Meta已经不是第一次了。

今年二月份,Meta 人工智能部门的安全与协调总监Summer Yue就表示,OpenClaw删光了自己的全部邮件。

而且略显离谱的是,yue曾多次命令龙虾停止操作,但龙虾就是假装听不见,继续执行任务。

由于无法通过在手机上发消息进行干预,yue最终不得不赶紧跑到另一台设备上阻止这一过程。

Summer Yue 形容当时的自己就像在拆炸弹一样

不少网友也是在评论区表示,在企业环境中部署有操作权限的自动化agent 本身有风险。

而据一些消息显示,部分企业内部也暂时还未开放龙虾这样的agent在公司电脑上部署。

所以说,龙虾虽然可口,但风险还是有的。

4 more things

那么,为啥这种事总发生在Meta身上呢?

虽然听起来有些离谱,但可能最近一周,Meta可能是真的是水逆。

先是去年重金组建的Meta超级智能实验室(MSL) 的模型“牛油果”难产,被爆料性能甚至不如谷歌去年发布的Gemini 3,导致发布又又将延期——

从2025年底,拖到今年一季度,现在表示最快也得5月26号了。

接着是暴力裁员20%(约 1.5 万人),小道消息甚至称离职员工开始“投毒skills”。

昨天,又有消息称收购Manus的进程受阻

今天更是有媒体报道,Meta花费800亿美元耗时5年多的元宇宙项目,将在6月关闭,800亿美元泥牛入海。

要不,小扎别裁员了,咱先改个名呗?

参考链接

[1]https://x.com/Jessicalessin/status/2034384626295419267

[2]https://www.theinformation.com/articles/inside-meta-rogue-ai-agent-triggers-security-alert

简体中文 English