原文:Amazon warning triggered US crackdown on Anthropic AI models: Reports

周五,亚马逊首席执行官安迪·贾西 (Andy Jassy) 和其他科技公司的电话促使特朗普政府暂停外国公司访问 Anthropic 的《神鬼寓言 5》和《神话 5》人工智能模型。

据报道,特朗普政府决定切断外国对 Anthropic 最强大人工智能模型的访问权限,是由亚马逊首席执行官安迪·贾西 (Andy Jassy) 的电话引发的。

据《华尔街日报》报道,在亚马逊研究人员发现了一种方法可以促使 Anthropic 的《神鬼寓言 5》模型返回可用于网络攻击的信息后,贾西于周四联系了政府高级官员。

这一电话以及至少五家其他公司的警告导致白宫内部进行了一场疯狂的洗牌,以评估威胁并联系 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei),据报道,阿莫迪反驳了政府的担忧和自愿撤回该模型的要求。

“作为回应,政府颁布了出口管制。政府不情愿地这样做了,”总统科学技术顾问委员会联合主席戴维·萨克斯周六表示。 “令人非常惊讶的是,Anthropic 不愿意配合合理的安全请求(即解决越狱问题)。”

资料来源:大卫·萨克斯

这一事件揭示了美国指令迫使 Anthropic 在周五晚上向公众撤下其新型号的指令的原因。 Anthropic Claude 估计每月约有 18,900 名活跃用户。

Anthropic 在周五的一篇博客文章中表示,它认为美国的指令是对“非普遍越狱”所构成威胁的误解的结果,该威胁来自一份未具名的报告。

亚马逊没有证实是否与政府官员讨论了 Anthropic 的模型。

一位发言人表示:“作为为大量私营和公共部门客户提供服务的领先云提供商,政府就潜在安全风险寻求我们的建议并不罕见。” “当它们发生时,我们不会分享这些讨论的细节。”

Anthropic表示它正在发挥作用

阅读原文 →