谷歌虽然经常宣传其生成式人工智能在创新和商业领域的正面作用，但不可否认，AI技术也正被用于犯罪。近日，谷歌发起了一项新的法律诉讼，起诉名为“Outsider Enterprise”的中国网络犯罪团伙。该团伙被控利用AI技术发动了大规模的自动化钓鱼诈骗活动。目前，谷歌正与执法部门及各大移动运营商合作展开反击。
诉状显示，“Outsider Enterprise”主要通过 Telegram 平台运营，向技术能力不足的犯罪分子提供“网络钓鱼即服务”（#Phishing-as-a-Service）。他们在频道中提供教程，教导用户如何利用谷歌的 Gemini AI 自动生成高仿谷歌、YouTube以及纽约 E-ZPass 等政府机构的虚假网站。该团伙提供了接近 300个诈骗模板。
谷歌的数据表明，由该团伙协助的诈骗活动已向安卓用户发送了超过 250万条 诈骗短信，其中仅上个月的短短两周内就发送了约5.5万条。目前，谷歌已追踪到与该网络关联的 9000个钓鱼网站 和 100万个恶意URL。
这些短信通常谎称用户的账户出现问题或快递派送异常。当用户点击链接后，会被引导至由 Gemini 生成的、视觉上极具欺骗性的钓鱼网站。犯罪分子借此窃取用户的个人数据和银行凭证。虽然诉状未估算具体的涉案金额，但谷歌官方博客指出，已有数百人因此遭受经济损失。
为了遏制这一态势，谷歌联合了 AT&T、Verizon 和 T-Mobile 等电信巨头拦截恶意短信，并指出其在 Google Messages 中部署的端侧AI防诈骗检测功能起到了关键作用。该功能每月能拦截约 100亿条 垃圾短信，有效降低了钓鱼攻击的成功率。
本次事件揭示了“双刃剑”效应在 AI Agent 时代的升级版演变——恶意 Agent 正在走向工程化与平民化。以往，构建高可信度的网络钓鱼需要攻击者具备较强的文案、前端开发和部署能力；而今，犯罪团伙通过集成 LLM API 的工作流，将提示词工程（Prompt Engineering）包装成开箱即用的“钓鱼代理（Phishing Agent）”。这与正向生态中 LangChain 或 CrewAI 的多 Agent 协作本质相同，都是降低复杂任务的门槛。未来，安全攻防的战场将从单纯的流量特征比对，转向“Agent 实时对抗”。安全厂商必须开发具备主动推理、上下文感知能力的“防护型 Agent”，在端侧和云端对可疑行为进行实时博弈与拦截。这也倒逼大模型厂商（如 Anthropic、Google、OpenAI等）在 MCP 等开放协议及 API 层面实施更严格、更具上下文感知的安全护栏（Guardrails）机制。
