最近,谷歌云(Google Cloud)首席运营官 Francis de Souza 在洛杉矶的一次活动中分享了关于 AI 安全转型的深刻见解。他指出,当前所有企业——包括谷歌在内——都处于 AI 安全的摸索期。De Souza 强调,虽然这一过程充满挑战,但通过从平台视角出发的治理,企业最终将进入一个更安全的新阶段。
De Souza 的核心观点是:安全绝对不能成为 AI 进程中的事后补救。他敦促企业领导层,在开启 AI 之旅时必须采取“平台化方法”。“安全不是后来加装的零件,也不能任由员工自行处理,”他警告说。特别是对于“影子 AI(Shadow AI)”现象,即员工在缺乏监管的情况下擅自使用消费级 AI 工具,企业必须从一开始就要求平台具备安全性、可治理性和可审计性。他总结道:“没有数据策略和安全策略,就谈不上 AI 策略,这三者必须齐头并进。”
尽管身为谷歌高管,De Souza 却并没有一味推销谷歌云。他承认企业现实中往往处于多云环境。即便选择了单一云服务,企业仍会依赖各种 SaaS 应用和使用不同云平台的合作伙伴。因此,跨云、跨模型的统一安全态势至关重要。
谈及威胁环境的演变,De Souza 认为传统的防御模式已经太慢了。他指出,攻击者从初始入侵到进入下一攻击阶段的平均时间,已经从 8 小时锐减至 22 秒。此外,攻击面也远超传统网络边界,涵盖了模型本身、训练数据管道、Agent 以及提示词(Prompts)。
值得关注的一个细节是,De Souza 提醒道,在企业内部系统运行的 Agent 可能会翻出被遗忘多年的陈旧数据仓库。例如,一些权限管理混乱的旧版 SharePoint 服务器,以前因为没人知道其位置而相安无事,但 Agent 会通过遍历资产发现并暴露这些敏感数据。他的结论是,应对这种“机器速度”攻击的唯一方法是“以快打快”:建立 AI 原生的、完全具备 Agent 能力的防御体系。