原文：Anthropic’s safety warnings may have just backfired — the government has pulled the plug on its most powerful AI
美国政府周五以国家安全为由，命令 Anthropic 立即关闭其两个最强大的人工智能模型——Claude Fable 5 和 Claude Mythos 5 的访问。 Anthropic 在 X 上宣布它已遵守规定，但它明确表示认为政府弄错了。
Anthropic 表示，它于美国东部时间周五下午 5 点 21 分收到了该指令，该指令迫使该公司对全球所有用户禁用这两种型号，而不仅仅是政府出口管制令名义上针对的外国人。对 Anthropic 其他模型的访问不受影响。
为什么这很重要？ Mythos 是 Anthropic 最强大的人工智能模型，该公司于 4 月初预览了该模型，此后一直受到严格限制，因为 Anthropic 称其具有发现软件中安全漏洞的卓越能力。据 Anthropic 称，Mythos 发现了其测试的每个主要操作系统和网络浏览器中的缺陷，因此该公司没有广泛发布它，而是启动了一个名为 Project Glasswing 的受控程序，与大约 50 个经过审查的组织（包括亚马逊、苹果、谷歌、微软和 CrowdStrike）共享该程序，用于防御性网络安全工作。
三天前发布的《神鬼寓言 5》是 Anthropic 对明显商业压力的回应：该公司表示，Mythos 的一个版本配备了护栏，可以阻止网络安全和生物学等高风险领域的反应，使其足够安全，可以普遍发布。根据跟踪人工智能技术性能的公司 Vals AI 的基准测试，它立即成为公众可用的最强大的人工智能模型。
图片来源：Vals AI /
政府的指令被定义为出口管制行动，限制外国人获得这些模型。但 Anthropic 在一篇冗长的博客文章中表示，其理解是，潜在的担忧是《神鬼寓言 5》据称被越狱。该公司表示，到目前为止，政府仅提供了“口头证据”