SOURCE // NEWS

Meta AI 漏洞致奥巴马官方账号被黑,AI 辅助决策安全性引质疑

Meta AI 漏洞致奥巴马官方账号被黑,AI 辅助决策安全性引质疑

Meta 公司周一证实,黑客利用其 AI 驱动的支持聊天机器人,成功入侵了多个高权重 Instagram 账号。据 404 Media 报道,受害者名单中包括奥巴马的白宫官方账号、丝芙兰(Sephora)以及美国太空军首席军士长账号。在此期间,Reddit 和 X 平台上的普通用户也大量报告了类似账号被劫持的现象。

安全研究人员和黑客组织在 Telegram 上发布了窃取账号的操作流程。视频显示,攻击者通过向 Meta 的 AI 助手下达指令,要求将目标账号关联到新的电子邮件地址。AI 机器人不仅确认验证码已发送至该新邮箱,还引导攻击者在对话框中直接输入验证码。一旦验证码匹配,系统即会显示重置密码的按钮。在某些案例中,黑客还使用了 VPN 来伪造地理位置,从而绕过 Meta 的安全风控机制。

Meta 在声明中表示:“目前该问题已得到解决,受影响的账号正在恢复安全状态。”但 Meta 并未透露受影响账号的具体数量。此次事件引发了业界对“AI 安全决策”的深刻担忧,尤其是将密码重置等敏感操作交给自动化模型是否稳妥。

Meta 今年早些时候在全球范围内推出了 AI 支持助手,旨在实现自动化处理账户举报、仿冒处理及密码重置等功能。其 3 月发布的新闻稿曾宣称,该助手是提升平台支持能力的重要一步,但显然,其赋予 AI 过高的执行权限已成为安全防御体系中的“致命短板”。

【AgentUpdate 深度解析】此次事件是 AI Agent 生态演进中的典型反面教材,揭示了“执行权限与安全校验”之间脱节的巨大隐患。目前,AI Agent 正从信息咨询转向更深层的系统操作(System-as-an-Agent),但在缺乏多模态身份验证与严谨决策逻辑隔离的情况下,大模型不仅无法成为安全屏障,反而成为了攻击者的“内应”。横向对比来看,这与此前 LangChain 等框架应用在复杂调用链路中易出现 Prompt Injection 攻击如出一辙。对于未来的 Agent 生态,仅仅依靠模型逻辑处理是不够的,必须引入“Human-in-the-loop”的安全强制锁定机制,以及基于确定性规则的 API 安全守门人(Guardrails)。长远来看,如果 Meta 不能从底层重构 AI Agent 的权限控制逻辑,即实现“决策权”与“执行权”的逻辑物理分离,那么 AI 支持功能的普及反而会演变为大规模账号系统的系统性风险。开发者应引以为戒:自动化能力越强,对验证逻辑的健壮性要求就必须呈指数级上升。