Anthropic周二宣布，其尚未发布的AI模型Claude Mythos在发现软件漏洞方面表现出惊人的能力。Mythos已揭示了数千个常用应用程序中的漏洞，其中许多尚无补丁或修复方案。这促使这家旧金山AI初创公司与网络安全专家结盟，旨在加强对黑客攻击的防御，并决定暂不进行广泛发布。
Anthropic Labs的Mike Krieger在旧金山HumanX AI会议上表示：“我们有一个新模型，目前明确不会向公众发布。”Krieger解释说，Anthropic正与网络安全专家和开源社区的工程师合作，利用Mythos作为防御性武器，“提前武装他们”。
随着AI模型能力的飞跃发展，人们也开始担忧黑客可能利用此类工具破解密码或加密数据，危及数据安全。
据Anthropic透露，Mythos发现的最早漏洞可追溯到27年前，且在AI模型识别之前，其开发者似乎都未曾察觉。Mythos是Anthropic Claude系列AI的最新一代。最近该模型部分代码的泄露促使Anthropic发布了一篇博客文章，警告其带来了前所未有的网络安全风险。
Anthropic在博客中指出：“AI模型在编码能力上已达到一个水平，除了极少数顶尖人类专家外，它们在发现和利用软件漏洞方面能超越所有人。”并强调“其对经济、公共安全和国家安全的影响可能非常严重。”
Anthropic表示，Mythos揭示的软件漏洞通常非常隐蔽，在没有AI辅助的情况下很难被检测到。例如，Mythos在一个被其开发者测试超过500万次的视频软件中发现了一个此前未被注意到的缺陷。
作为预防措施，Anthropic已将Mythos的一个版本分享给网络安全公司CrowdStrike和Palo Alto Networks，以及亚马逊、苹果和微软。此项目被命名为“Glasswing”。
网络巨头思科（Cisco）和博通（Broadcom）也加入了该项目，此外还有推广免费开源Linux操作系统的Linux基金会。
思科首席安全与信任官Anthony Grieco在关于Glasswing的联合声明中表示：“这项工作太重要、太紧迫，不能独自进行。”他强调：“AI能力已跨越一个门槛，从根本上改变了保护关键基础设施免受网络威胁的紧迫性，而且没有回头路。”
据悉，约有40家参与计算机系统设计、维护或运营的组织已加入Glasswing项目。Anthropic表示，项目合作伙伴将分享他们通过Mythos获得的发现，而Anthropic为此任务提供了价值约1亿美元的计算资源。早期与AI模型合作的经验表明，它们能够以前所未有的速度和规模帮助发现并修复软件和硬件漏洞。