Anthropic高管与美政府谈判,Fable 5出口禁令或迎转机
先说一个关键动态:Anthropic这回直接和特朗普政府摊牌了。
据POLITICO报道,当地时间周一,Anthropic公司高管与特朗普政府高层官员进行了面对面磋商。起因很简单——上周五,美国联邦政府一纸出口禁令,迫使这家AI初创公司将其最新模型从市场撤下。
白宫一位高级官员明确表示,要拿出一套能撤销上周五管控措施的方案,绝非几天内能敲定。此次禁令的核心,是禁止境外用户访问Anthropic最新大模型,理由是发现了潜在安全漏洞。但这位官员并未把话说死。
“主动权在Anthropic手里。”他如此表态。
知情官员透露,上周末局势紧张。Anthropic联合创始人汤姆·布朗、美国商务部长霍华德·卢特尼克、国家网络总监肖恩·凯恩斯克罗斯,三人通了数小时电话。电话结束后,Anthropic立即派遣一批技术研发与安全防护高层赶往华盛顿。所有受访消息人士均要求匿名,因事态敏感。此外,Anthropic公共政策主管萨拉·赫克也参与了通话。
熟悉内情的人士称,周一的线下会议聚焦技术层面,由美国商务部与国家网络总监办公室牵头,工作人员主持,商务部人工智能标准与创新中心负责人克里斯·福尔也到场。
一名政府官员提到,Anthropic向官员们做了专项汇报,详细展示了自家网络安全防护机制,目标明确——推动管控限制解除。
据接近Anthropic的消息人士透露,出席此次会议的公司代表包括:前沿红队负责人洛根·格雷厄姆(负责大模型评估与压力测试)、安全防护主管戴夫·奥尔、首席安全研究员尼古拉斯·卡利尼。
值得关注的是,这次出口管制是特朗普政府监管AI行业以来力度最大的一次升级。AI行业发展速度远超政府配套监管体系的建设进度。这也是白宫首次强制企业下架面向公众的大模型。在此之前,美国政府与Anthropic已就高风险AI伦理管控问题多次交锋,此次禁令不过是双方最新冲突。
自上周五管控措施生效,Anthropic持续为自己安全防护体系辩护。公司在官方博客中写道:“这些漏洞难度本身很低,我们发现市面上其他公开大模型,无需特殊绕过手段也能复现同类问题。”
美国财政部长斯科特·贝森特在出口禁令出台前,曾与Anthropic首席执行官达里奥·阿莫代伊沟通协调,发挥了核心作用。但上周末他并未过多介入,财政部也未派人参加周一的会谈。
一名知情人士称,美国总统指派卢特尼克牵头处理,他本就分管全国出口政策,因此上周末全程深度参与谈判。卢特尼克和贝森特两人本周一至周三将随总统乘坐空军一号前往法国参加七国集团峰会。
Anthropic上周五晚间表示,出口管制禁止境外人员使用其最新大模型“Fable 5”,为合规,公司只能全面下架。
POLITICO此前报道,此次管控升级根源在于Anthropic与政府之间的安全分歧。Anthropic核心投资方亚马逊上周末向白宫反馈,称发现了“Fable 5”存在安全隐患。
亚马逊方面表示,研究人员找到了绕过“Fable 5”安全防护围栏的方法。该模型定位低于公司性能顶尖的“Mythos”大模型。“Mythos”能比人类更快挖掘各类网络安全漏洞,因此Anthropic仅向少数合作企业开放使用权限。
Anthropic解释,“Fable 5”性能水平接近“Mythos”,内置多层防护机制,可阻止用户通过指令发起网络攻击或获取生物武器制作方法。但亚马逊将漏洞上报白宫和美国国家安全局后,凯恩斯克罗斯、贝森特等官员随即要求Anthropic关停“Fable 5”对外访问通道。
Anthropic对此表示反对,辩称该安全缺陷影响有限,并非那种能被不法分子用来发动网络攻击的大规模“越狱破解漏洞”。但美国政府坚持出台出口管制,公司表示别无选择,只能服从。
上周末,近80名技术专家和企业首席执行官联名致信政府,呼吁撤销出口管制。信件指出,亚马逊研究人员触发模型执行的操作,是所有用于编写安全代码的AI模型必备基础能力,不应被视为攻击性有害功能。
科技行业高管们在公开信中强调,特朗普政府仓促出台的管控措施,使网络安全防御方失去了优质工具,造成市场预期不稳,还会动摇美国在AI领域的全球领先地位。关键是当前没有确凿的重大风险来支撑如此严厉的举措。
此次赴政府参会的Anthropic员工格雷厄姆,今年4月接受福克斯新闻采访时曾表示,公司正寻求平衡边界——既要让网络安全防御人员能用“Mythos”模型,又要杜绝不法分子接触这个工具。
格雷厄姆在那次采访中补充道(采访发布于“Fable 5”上线前):“归根结底,我们认为这类工具必须以安全的方式向全球普及。全球各方都需要借助这类工具开展网络防御工作。”
部分科技从业者支持这次严苛的出口管制,认为防护机制被突破的风险相当严峻。但也有不少AI专家,甚至政府内部官员提出,这种管控会催生高压监管环境,拖累整个行业发展。
前特朗普政府AI政策官员迪恩·鲍尔在社交平台X上发文:“现在AI行业形同持证经营,但监管要求频繁变动,全程保密,连政府内部人员都提前不知情,只能在突发事件发生时临时制定规则。”
一名现任美国政府官员发出警告:这次出口争端僵持越久,越可能形成常态化审批制度。未来AI企业每推出一款新模型,都得经过政府审批,这会大幅放缓行业创新节奏,削弱美国企业对标中国的竞争优势。
这名官员说,如果这次出口管制不只是一次快速解除的轻微惩戒,“整个行业都会面临巨大危机。”
“这意味着今后所有新模型上线都要先取得政府许可——这是一种极为糟糕的监管局面。”他补充道。
