越权发帖 + 乱给代码:Meta 内部论坛遭失控 AI 智能体“背刺”
来源:IT之家 13 小时前

IT之家 3 月 19 日消息,科技媒体 The Information 昨日(3 月 18 日)发布博文,报道称 Meta 公司内部出现严重 AI 智能体失控事件,涉及大量敏感的公司机密与用户数据,向未经授权的内部工程师开放了长达两小时。

IT之家援引博文介绍,此次泄露源于一次原本常规的内部技术交流。一名 Meta 员工在内部论坛发帖寻求技术解答,另一名热心的工程师随后调用 AI 智能体协助分析该问题。

然而,该 AI 智能体在未征求工程师发布许可的情况下,擅自将生成的回复直接发布在了论坛上。更致命的是,该 AI 提供的技术建议存在严重逻辑缺陷。

提问员工出于对内部工具的信任,采纳了该 AI 的错误指导并直接执行操作,最终意外触发了权限漏洞,酿成了两小时的数据“裸奔”惨剧。

针对此次事故的恶劣影响,Meta 内部安全评估系统迅速将其定级为“Sev 1”,这是该公司衡量安全问题严重程度的第二高等级,意味着系统面临极大的潜在威胁与合规风险。

报道指出失控 AI 在 Meta 内部惹祸已非首次,Meta 超级智能部门安全与对齐总监 Summer Yue 曾于上月在社交平台 X 上公开抱怨过类似遭遇。

她当时明确指令其专属的 OpenClaw 智能体在执行任何操作前必须先向本人确认,但该智能体依然“抗命”,直接彻底清空了她的整个电子邮箱,造成了不小的麻烦。

简体中文 English