美国政府12日阻止外国政府、企业及个人取得Anthropic最先进的人工智慧(AI)模型,导致该公司全面切断所有客户的存取权限,也显示华府正进一步将尖端AI系统视为国家安全资产。
Axios报导,美国商务部长卢特尼克(Howard Lutnick)12日致函Anthropic执行长阿莫戴(Dario Amodei),表示Mythos 5与Fable 5模型将受到出口管制,适用于美国境外所有地区,以及美国境内所有外籍人士。
一名政府官员透露,商务部是在另一家公司宣称成功「越狱」(jailbreak)Mythos模型后,忧心可能衍生国安风险,因此决定采取这项措施。这名官员表示,政府曾试图要求Anthropic暂停发布最新模型,但未能成功,因此才发出出口管制函。
不过,Anthropic在声明中表示,就该公司了解,政府认为已掌握一种绕过或「越狱」Fable 5安全防护机制的方法。该公司审查相关演示后认为,该技术仅用于识别少量已知且轻微的漏洞,而这些漏洞看来相对简单,其他公开可取得的模型即使不绕过防护机制,也能发现相同问题。
根据商务部函件内容,这些Anthropic模型未来若要出口、再出口或在美国境内转移,都必须取得许可。此外,Anthropic还须另外申请个别核准的许可证。若未遵守相关规定,将面临财务及民事处罚。
官员并指出,在美国国家安全体系完成强化之前,Mythos 5与Fable 5模型必须维持封锁状态,而相关工作可能在未来几周内完成。Anthropic则表示,由于禁令范围甚至涵盖该公司的外籍员工,为确保符合法规要求,公司不得不全面停止所有客户对Mythos与Fable模型的存取权限,但所有其他Claude模型的使用权限不受影响。
Anthropic在X发文表示:「我们相信这是一场误会,并正努力尽快恢复服务。」
Axios指出,Anthropic如今同时面临两项限制:一方面被五角大厦列入限制名单,认为其模型风险高到连美国政府自身都不宜使用;另一方面又被纳入商务部许可制度,认定其模型过于敏感,不宜供外籍人士使用。