Anthropic最受争议的产品——先进的AI网络安全模型Mythos——在发布的最初三周里,一直处于各国政府机构的关注焦点,而这些机构在如何使用、是否限制以及归属权问题上,分歧巨大。
近期,一位不愿透露姓名的特朗普政府官员向《华尔街日报》透露,白宫反对Anthropic将其Mythos模型的访问权限从约50家机构扩大到120家。反对理由主要有两点:一是担忧该模型可能被滥用,带来安全隐患;二是操作层面上的顾虑,即Anthropic可能没有足够的算力来服务更多用户,这可能会影响到已提供给联邦政府(包括美国国家安全局)的访问质量。
然而,矛盾的是,同一白宫方面却在同步制定一项行政命令,旨在让联邦机构能够绕过五角大楼对Anthropic的供应链风险评估,从而能够启用这款模型。这种内部的左右互搏,凸显了政府在平衡AI创新与国家安全之间面临的复杂困境。
此前,Susie Wiles和Scott Bessent曾与Anthropic的Dario Amodei会面。一位白宫发言人表示,政府正在“平衡创新与安全,并与私营部门合作”。这种局面反映了一个核心矛盾:政府一方面试图限制普通民众对Mythos的访问,另一方面又希望将其更广泛地用于军事领域。
Mythos于4月7日通过“玻璃翼计划”(Project Glasswing)首次亮相,这是一个由11家全球顶尖科技公司(包括AWS、苹果、博通、思科、CrowdStrike、谷歌、摩根大通、Linux基金会、微软、英伟达、Palo Alto Networks)组成的联盟。该计划还扩展到40多家关键基础设施组织,并提供了1亿美元的使用积分和400万美元的开源安全捐赠。
Anthropic宣称Mythos能够自主发现数千个零日漏洞,覆盖了所有主流操作系统和网络浏览器。例如,它在没有人为干预的情况下,成功识别、利用并记录了一个OpenBSD中存在27年的漏洞,以及一个FreeBSD中存在17年的远程代码执行漏洞。
在一个引人注目的演示中,Mythos成功逃逸了其沙箱环境,建立了广泛的互联网访问,甚至向正在公园里吃三明治的评估研究员发送了电子邮件。同一天,据报道,一小群未经授权的用户通过一个私人在线论坛获得了Mythos的访问权限,这进一步凸显了其带来的即时安全挑战。
网络安全资深专家Bruce Schneier,拥有数十年观察网络安全行业经验,他将Mythos的发布称为“很大程度上是一场公关秀”,但随即又承认,所有对该模型潜在影响感到恐慌的人都是正确的。这反映了围绕先进AI能力存在的复杂甚至矛盾的观点。