AI模型强制测试：Anthropic CEO呼吁赋予政府干预权

Anthropic CEO Dario Amodei 在6月10日发布的长文中，直接呼吁对AI模型实施强制测试，并明确表态：若新模型暴露出特定风险，政府有权直接叫停其部署。这一表态看似激进，但拆解其底层逻辑后，你会发现它并不夸张。

阿莫迪的核心论点很清晰：大语言模型这类AI系统，不能只靠企业自律来约束。他主张所有模型必须接受第三方强制测试，测试范围涵盖网络安全威胁、生物武器制造潜力等多个高风险维度。换句话说，模型正式上线前，必须由局外人验证它会不会引发实际危害。

一旦测试判定某个模型“构成不可接受的风险”，政府的权限会立即升级——可以直接阻止或限制其部署。这不是“建议整改”的协商口吻，而是“你不能再发”的行政命令。

更值得注意的是，Anthropic上周还提出建立“联合决策小组”的机制，由政府与AI开发商共同组建，当技术风险信号亮起红灯时，双方协同决定何时减速、何时暂停研发。这套方案相当于给高速迭代的AI系统加装了一套紧急制动。

“是时候超越透明度，对人工智能实施更严格且更具约束力的监管了，”阿莫迪在文中写道，语气透出行业老将的郑重。他随即抛出一个关键类比：在目前技术呈指数级发展的阶段，最恰当的参照物不是自媒体或软件，而是汽车、飞机或药物。这些技术是现代经济的支柱，但设计或操作失误会引发大规模伤亡。

这段论述释放了一个明确信号：AI领域的头部玩家，开始主动要求政府介入监管。放在三五年前，这几乎不可想象——硅谷向来反感政府“挡进度”。但随着模型能力飙升、应用场景铺开，业内反而意识到：失控的代价远比监管成本高。

阿莫迪的呼吁能否落地，仍需政策和法律层面的推进。但他至少划出了一条清晰路线：AI不能再靠几份白皮书和原则来换取信任。未来，合规是硬门槛，政府的干预权限将从“建议”升级为“命令”。