Anthropic CEO呼吁：政府应获封锁危险AI权力

Anthropic首席执行官达里奥·阿莫迪的最新表态毫不含糊：面对风险失控的AI模型，政府应当拥有类似航空安全领域的“停飞”权限——一旦认定不安全，就必须直接叫停部署。

在这篇最新博文中，阿莫迪划出了几条硬性红线：所有前沿AI系统必须接受强制性第三方审计；一旦审计发现不可接受的风险，政府有权直接阻止其上线。此外，他还强调要为因AI技术取代而失业的劳动者提供更充分的经济补偿。

这套方案的激进程度远超多数人的预期，甚至比美国总统特朗普上周签署的行政令走得更远——后者仅要求情报机构参与新模型的风险测试。阿莫迪则建议，政府应依据模型训练所消耗的算力规模启动审计流程。他提议设立一个“算力阈值”：任何新模型的训练算力若超过该数值，发布前必须自动触发独立审查，评估其潜在破坏力。

文章明确了四大必须重点评估的风险类别：网络安全漏洞、生物武器研发能力、加速危险领域自动化研究的可能性，以及模型脱离人类掌控的风险。一旦审计人员认定模型在任一领域存在不可接受的风险，阿莫迪主张政府应直接否决其部署。

他援引的参照系是现有的航空、汽车和药品监管体系。他写道：“至少在当前这个指数级扩张阶段，最贴切的类比就是汽车、飞机或药品——这些技术对现代经济不可或缺，但一旦设计或使用不当，也可能造成大规模人员伤亡。”话虽直白，逻辑却站得住脚。

对比特朗普6月2日的行政令，差异一目了然。总统令仅鼓励AI企业在发布前一个月自愿与政府审计人员共享模型，并强调情报界参与测试网络安全漏洞，既无强制机制，也未引入强制性测试。而阿莫迪的提议通篇找不到“自愿”二字，要求的不是协作，而是合规。特朗普依赖情报机构，阿莫迪则要求赋予独立审计机构事实上的否决权。

事实上，Anthropic一直在推动AI领域的严格监管。早在2023年9月，该公司就发布了《负责任扩展政策》，此后多次迭代更新，引入AI安全等级（ASL）等概念，构建了一套随模型能力提升而分级管理风险的框架。他们还公开支持加州SB 53法案等相关立法。

除安全问题外，阿莫迪还特别提醒：AI对劳动力市场的冲击可能比以往任何技术革新都更深、更持久。他写道：“在这样的世界里，核心挑战不是如何激励增长，而是如何让所有人共享发展红利。”技术再先进，人跟不上也是徒劳。

阿莫迪表示，他长期就AI取代就业问题发出警告，并非出于“末日预言者”的心态，而是希望“政策制定者和私营部门能够获得最充分的时间来适应并做出回应”。

为此，他呼吁政府落实三项举措：收集更多数据以追踪AI导致的就业流失情况；推出促进就业的激励措施以减缓下滑趋势；研究“全民基本收入”等兜底机制——一旦就业流失持续加剧、劳动力需求长期萎缩，这便是最后的保障。资金从哪来？他建议通过对“相关企业”征税或提高资本利得税来筹集。

Q&A

Q1：阿莫迪提出的AI安全审计框架具体包含哪些内容？

A：他建议设立“算力门槛”，一旦新模型的训练算力超过该阈值，就会自动触发独立调查。审计重点涵盖四大风险类别：网络安全漏洞、生物武器能力、加速危险领域自动化研究的潜力，以及模型超出人类控制的风险。若审计认定存在不可接受的风险，政府有权阻止该模型公开部署。

Q2：阿莫迪的方案与特朗普AI行政令有什么区别？

A：两者差异明显。特朗普的行政令鼓励AI企业在发布前自愿共享模型，侧重情报机构参与测试，且无强制执行机制。而阿莫迪的方案不设“自愿”选项，要求强制合规，并主张赋予独立审计机构实质性否决权，整体力度远超行政令。

Q3：阿莫迪对AI冲击就业问题有哪些政策建议？

A：他呼吁政府收集更多数据以追踪AI导致的就业流失情况，并推出促进就业的激励措施。若就业流失持续加剧，他还建议探索“全民基本收入”机制，资金来源可考虑对AI相关企业征税或提高资本利得税。