Anthropic已向选定的客户群体发布了一款新的网络安全AI模型,其中包括亚马逊、苹果和微软。此次发布正值该项目细节在线泄露的数日之后。
Anthropic周二宣布,其新模型Claude Mythos Preview将仅供经过严格审查的机构使用,包括博通(Broadcom)、思科(Cisco)和CrowdStrike。该公司还透露,正在与美国政府探讨该模型的潜在应用。
此前,这家位于旧金山的初创公司在上月遭遇了一次数据泄露事件,Mythos模型的描述及其他文件在一个公开可访问的数据缓存中被发现。
就在上周,Anthropic又发生了第二次安全事件,其个人助手Claude Code的内部源代码被公之于众。
这些事件引发了外界对Anthropic数据脆弱性和安全实践的担忧。对于这两起泄露,公司均声明是“人为错误”导致数据公开。
Mythos已与合作伙伴使用了数周。尽管它是一个具备广泛能力的“通用模型”,但这却是Anthropic首次因模型的网络安全能力而限制其发布范围。
Anthropic表示,该软件能够以超越人类能力的规模识别网络漏洞,但同时它也能开发利用这些漏洞的方法,这可能被恶意行为者利用。公司称该模型有望“重塑”网络安全实践,并无广泛发布的计划。
Anthropic产品管理与研究负责人Dianne Na Penn表示:“我们认为这类技术足够强大,能够带来很多有益的好处,但如果落入不法分子之手,也可能造成潜在的危害。”她补充说,获得授权的公司将“在确保漏洞安全和大规模检测代码方面获得先发优势,这是他们以前无法做到的。”