Anthropic警告：AI自我进化过快，呼吁放缓前沿研究

AI自主迭代的节奏远超多数人的预期。Anthropic最新技术博文《当人工智能自我构建时》提供了有力证据：截至今年5月，该公司超过八成的代码由自家Claude模型生成。而在Claude Code上线前，这一比例仅为个位数。

Anthropic发布技术博文《当人工智能自我构建时》

具体数据更能说明问题。Anthropic成立的头四年（2021-2024），每位工程师日均合并代码行数基本持平。2025年拐点出现：Claude从单纯提供建议、由工程师手动复制粘贴，转向直接执行代码。2026年，模型在更长周期内自主运行，增速陡升。数据显示，2026年第二季度，Anthropic普通工程师日均合并代码量已达2024年的8倍。换言之，每位工程师季度交付的代码量是2021-2025年期间的8倍。

Claude产出的代码不仅规模庞大，质量亦稳步提升。这种趋势下，未来工作模式将如何演变？Anthropic在博文中提出三种推演情景：

第一种情景：指数级增长终将触及瓶颈，但现有AI能力已在广泛领域铺开。Anthropic判断，我们仍处于将现有模型推广至更广阔经济场景的初期。未来制约进步的因素可能不再是模型自身，而是供应链、芯片制造速度、电网扩展或互连带宽等外部条件。

第二种情形：AI实验室效率持续攀升，开发流程高度自动化，但人类仍掌控研究方向设定与结果评估。随时间推移，采用AI系统的组织效率将倍增，个体生产力显著提升。在Anthropic这类公司中，人类角色将转型——与AI协作，共同构建验证系统可信度所需的工具。

第三种情景最具颠覆性：AI系统获得完全的递归式自我改进能力，开始自主构建下一代模型。若技术趋势持续，AI系统将具备与人类比肩的变革性创造力，进而实现自我设计与迭代。此情境下，AI发展速度完全取决于计算资源供给，人类角色大幅收缩，主要精力将转向对AI“虚拟实验室”的运行进行监督、验证与确认。

Anthropic坦诚承认，目前判断哪种结果最可能成真为时尚早。但不可否认，AI已开始辅助构建AI——这已是既定事实。

面对此局面该如何应对？Anthropic在博文中提出一个值得深思的观点：若能有节制地减缓前沿技术发展速度，为人类社会争取更多适应时间，或许利大于弊。但硬币反面是：速度放缓可能让最不谨慎的玩家在技术上追赶上来，反而危及所有人的安全。

Anthropic立场鲜明：“若全球能选择放缓或暂时中止前沿AI研发，使社会结构与协调研究跟上技术步伐，这对世界而言大有裨益。”

值得注意的背景是：AI风险公开警告恰逢公司估值飙升与上市筹备关键节点。6月1日，Anthropic官网公告已向美国证券交易委员会秘密提交Form S-1注册声明草案，计划进行普通股首次公开募股。发行股数与价格尚未确定，IPO将视市场条件而定。据英国《金融时报》报道，此次上市目标估值超过1万亿美元。若顺利推进，Anthropic将跻身OpenAI、SpaceX等新一轮科技巨头上市潮，并为资本市场定价生成式AI公司提供关键参照。