(来源:财联社AI daily)
文|赵昊
Anthropic上周五(6月12日)在官网宣布,受美国政府紧急出口管制指令影响,公司被迫暂停向所有客户开放其最新、能力最强的Fable 5和Mythos 5模型。
Anthropic在新闻稿中解释道,美国政府的限制原本针对外国用户,包括公司的外籍员工。但Anthropic为了“确保合规”,只能全面关停两款模型,美国客户也因此受到影响。
Claude目前的页面显示,Fable 5上有“当前不可用”的标签。
需要指出的是,Fable 5和Mythos 5的正式发布日距离这一禁令仅过了三天。此举令整个人工智能(AI)行业措手不及,也引发了外界对美国政府针对AI技术监管方式的质疑。
接近Anthropic的人士透露,公司被美国政府要求在90分钟内实现合规。而且美国政府下达命令前,公司并未收到有关具体担忧的详细说明。为控制事态发展,Anthropic紧急派遣了高级技术团队前往华盛顿展开沟通。
据了解,这一禁令来源于亚马逊研究人员的一份报告。知情人士称,研究人员在Fable模型中发现了一种潜在的“越狱”漏洞,即绕过模型安全护栏并提取软件安全漏洞信息的方法,亚马逊也首先将相关发现告知Anthropic。
知情人士透露,亚马逊CEO安迪·贾西(Andy Jassy)周五向美国官员汇报了研究结果,导致了政府禁令的产生。据悉,贾西原本只是向官员表达了对AI前沿模型的整体担忧,而非专门针对Anthropic。
本月早些时候,特朗普签署行政命令,要求企业在公开发布最新模型前,须向政府开放最长30天的网络安全测试窗口。接近事件的人士表示,Fable模型在发布前已经获得了同属商务部体系内相关机构的测试批准。
在此之前,白宫一直释放出对前沿AI模型采取较少干预的监管信号。需要指出的是,即便在特朗普签署的行政命令中,并未赋予美国政府阻止模型发布的权力。
网络安全专家指出,修复“越狱”这类问题往往需要数周时间,而且即便修复,也无法保证不会出现新的漏洞。接近Anthropic的人士表示,公司正与政府密切合作,希望寻找双方都能接受的解决方案。
分析认为,此次冲突被视为美国政府监管越来越强大的AI模型的一次早期测试。多位行业高管和研究人员认为,利用出口管制工具来处理模型安全问题,可能会给前沿AI的部署带来新的不确定性。
乔治敦大学安全与新兴技术中心临时执行主任Helen Toner表示:“业界普遍认同的一点是,你无法彻底修复这些模型的越狱问题,这并不是一门精确科学。政府理应预期OpenAI和谷歌的模型也具备类似能力。”
值得注意的是,美国政府冻结措施并未适用于Anthropic竞争对手OpenAI的领先模型,尽管这些模型已展现出相似能力——因此这一禁令也被怀疑是针对Anthropic“打击报复”的延续。
今年3月,美国国防部正式把Anthropic定为“供应链风险”对象,禁止国防部以及防务承包商在相关项目中使用该公司AI技术。因先前Anthropic反对将其技术用于全自主武器系统和在美国进行大规模“国内监控”。
然而,美国官员和企业高管同时透露,国防部在内的政府机构实际上仍在使用Anthropic最先进的模型。刚刚获得Anthropic最新模型访问权限的欧盟委员会也表示,正在评估该命令对欧洲的影响。
网络安全公司Luta Security首席执行官Katie Moussouris获得了亚马逊提交给Anthropic的研究报告副本。她表示,亚马逊发现的能力,包括识别潜在网络漏洞,并不罕见,GPT 5.5等竞品同样具备类似能力。
下一篇:海南鲜活东星斑首次出口美国