Anthropic暗中降级事件：限制竞争对手引行业反弹

Anthropic正面临一场信任危机。这家公司宣布，将调整其最新AI模型Claude Fable 5的安全策略。引发争议的是一套令全球AI研究群体强烈反对的措施——即通过“隐蔽降级”模型输出能力，阻止竞争对手利用该模型开发新系统。这一做法在技术社区激起了不小的波澜。

在向媒体发布的声明中，Anthropic承认在此事上“做出了错误权衡”，并公开致歉。公司承诺，将把原先那些暗中的限制升级为“用户完全可见”的机制。但道歉归道歉，这场信任重建恐怕难以一蹴而就。

具体经过如下。本周早些时候，Anthropic推出Claude Fable 5并配备了防止滥用的安全护栏。除了对网络安全、生物化学等敏感领域设置常规定向限制外，这次特别针对前沿AI开发者加入了一条新规：一旦系统检测到用户试图利用该模型训练竞争产品，就会暗中降低输出质量。换言之，通过“秘密破坏”的手段来落实服务条款中禁止竞争对手使用其数据进行模型训练的规定。这种做法，怎么看都像是为自己留了一手。

消息传出后，AI科研界即刻炸开。美国创新基金会高级研究员、前白宫人工智能顾问迪安·鲍尔（Dean Ball）在社交媒体上直接开火：在不告知用户的情况下暗中降低机器学习研究的性能，这是极端敌视科研群体的行为。更棘手的是，这种“秘密破坏”政策会严重阻碍AI安全领域的跨机构协作。开源AI初创企业Prime Intellect的研究负责人威尔·布朗（Will Brown）措辞更加直白，他认为这表明Anthropic正在行业里“过河拆桥”，试图垄断前沿AI研究。同时他警告，这种黑箱操作会严重干扰独立第三方评估机构对模型安全与可靠性的测试。

面对这场行业震荡，Anthropic给出的解释是：由于Claude模型在加速AI研发方面效率持续攀升，公司担心技术迭代速度会超出社会的适应能力，因此有必要在前沿AI开发中引入干预手段。当然，承认错误后他们也提到了政策调整带来的新问题——从“隐蔽限制”转为“公开提醒”，由于公开的护栏更容易被绕过和探测，筛查范围不得不扩大，这可能导致更多正常的学术请求被误判拦截。公司表示，目前正加紧优化分类器，致力提升识别精度。但这些改进能否真正赢得科研界的信任，仍需时间检验。