英国工党国会议员杰斯·阿萨托（Jess Asato）已对埃隆·马斯克旗下的 xAI 公司提起法律诉讼。她指出，xAI 的 Grok 工具帮助用户生成了关于她的虚假不雅照片，而这类图像在今年早些时候曾大量充斥在社交平台 X（前 Twitter）上。
代表洛斯托夫特（Lowestoft）选区的国会议员阿萨托在今年1月表示，看到自己未经同意被 AI 工具描绘成穿着比基尼的样子，让她感到“被侵犯”。根据《金融时报》报道，在向伦敦高等法院提交的诉状中，阿萨托指控 xAI（现为 SpaceX 子公司，SpaceX 同时也拥有 X 平台）违反了数据保护以及滥用私密信息的相关法律。她指出，xAI 允许 X 用户通过向 Grok 输入提示词来生成此类图像，从而构成了侵权。
阿萨托向媒体透露，Grok 不仅生成了她穿比基尼的图像，还制作了一段“显示她被用乙醚麻醉并准备遭受性侵”的视频。在此之前，马斯克一个孩子的母亲阿什莉·圣克莱尔（Ashley St Clair）也曾在纽约州提起过类似的诉讼。圣克莱尔声称，Grok 同样生成了关于她的露骨图像，其中一张甚至将她描绘为未成年人。
阿萨托起诉 xAI 的行动，可能会成为一个标志性的判例，用以界定 AI 工具及其开发者在多大程度上需要为用户生成的内容承担法律责任。她向《金融时报》表示，这些针对她的不雅图像，正是在她公开谴责此类非自愿 AI 生成的性化照片之后被制造出来的。她表示：“我希望这能重新平衡个人权利与大型科技公司之间的关系。这些巨头在对女性和儿童造成伤害之前，本应该建立起足够的安全防护机制。”
代表阿萨托的律师拉维·奈克（Ravi Naik）表示：“这起案件的核心在于一个基本原则：开发者必须为其设计和部署工具的方式负责。我们的观点是……一张以你为模板、旨在看起来像你，且其目的就是贬低你或改变你身处环境的图像，必须被认定为你的个人图像。而 xAI 却持相反意见。”
今年1月，在 Grok 被用于针对真实女性（在某些情况下甚至是儿童）生成大量不雅图像后，英国政府曾威胁要对 X 平台采取行动。英国媒体监管机构 Ofcom 也随即展开了调查。马斯克的公司最初表示，将修改系统限制，仅允许 X 平台的付费用户生成此类图像，这一举措遭到了英国首相基尔·斯塔默的强烈谴责，称其“令人毛骨悚然”。几天后，X 平台宣布已完全阻止 Grok 编辑真实人物的照片来显示暴露衣物。
尽管有呼吁要求退出 X 平台，唐宁街、政府部门和许多国会议员目前仍留在该应用上。除了 Grok 生成的不雅图像，马斯克对英国极右翼事业的支持以及对政治暴力的预言也引发了广泛争议。此外，Grok 的“幻觉”问题也屡次引发危机。例如，该平台曾错误地指控两名汉普郡警察参与逮捕亨利·诺瓦克，导致服务了12年的女警官克里斯蒂·希尔（Christi Hill）被迫搬往安全地点避难。
随着 AI Agent 从单一的聊天对话框走向拥有自主行动能力的“行动体”，其背后的大模型安全边界（Guardrails）正面临前所未有的法律考验。本案的核心冲突在于，开发者不能再以“用户滥用”为由逃避责任，这标志着 AI 治理将从“事后审查”转向“源头设计安全（Safety by Design）”。在当前的 AI Agent 生态中，如 LangChain 或 CrewAI 等框架在调用多模态生成工具时，往往缺乏强力的跨 Agent 级合规检测。如果 AI 代理可以在没有强力护栏的情况下自主调用图像和视频生成 API，那么此类恶意侵权行为的自动化泛滥将呈指数级增长。这要求未来的 Agent 生态必须内置统一的“合规代理（Compliance Agent）”作为中介审查层，开发者必须在模型层、接口层和应用层建立多重硬编码限制。这起诉讼将逼迫整个 AI 行业加速制定更严格的 Agent 安全标准，确立开发者在多模态生成领域的绝对兜底责任。
