Anthropic CEO：AI模型须强制测试 政府干预权成关键

Anthropic PBC首席执行官Dario Amodei近日提出一项颇具争议的主张：若新一代人工智能模型暴露出特定风险，政府完全有权力阻止AI开发商将其投入实际部署。这并非临时表态，他为此专门撰写了一篇深度长文，系统性地阐述了这一逻辑。

在6月10日发布的这篇文章中，Amodei的核心论点十分明确：所有AI模型必须接受第三方强制性安全评估，重点覆盖网络安全威胁、生物武器制造等高风险领域。一旦评估认定某个模型“构成不可接受的风险”，政府就有权禁止其上线，甚至在极端情况下直接叫停整个研发项目。

这一表态的分量不容低估——随着人工智能技术不断逼近前沿能力，这可以说是Amodei至今为止对加强AI监管最清晰的公开立场。实际上，就在上周，Anthropic还曾提出一项构想：政府与AI开发商应共同建立一套联合机制，当技术风险显著上升时，双方协商决定是否放缓研发节奏。从目前看，这家公司正在逐步将监管主张转化为可执行的具体方案。

“是时候超越透明度，对人工智能实施更严格、更具约束力的监管了。”Amodei在文中写道。他打了一个形象的比方：最贴切的类比是汽车、飞机或药物——这些技术对现代经济至关重要，但如果设计或操作不当，也可能造成大规模人员伤亡。眼下AI正处于指数级发展阶段，施加更严格的约束绝非多余之举。