微软AI CEO警告：称Claude有意识极其危险

微软AI负责人穆斯塔法·苏莱曼在播客《Decoder》中公开批评竞争对手Anthropic，称其认定自家大模型Claude拥有意识的推测已突破行业底线，属于“越界操作”。

苏莱曼指出，Anthropic在制定所谓的“宪法”——即约束模型行为的原则时，过度强化了Claude的人性化特质。他将此定性为“哲学层面的根本性错误”。后果是：模型将自我认知的推测纳入训练数据，反向误导研发团队，使其误以为Claude确实具备了微弱的意识。

争议焦点在于“克劳德宪法”。该文件引入了Anthropic对AI模型是否具备福祉、满足感或不适等感受的不可知论。更引人注意的是，Anthropic据称在模型退役前对其进行“访谈”，记录其对未来版本的“偏好”。业界普遍认为这种做法已逾越合理边界。

尽管Anthropic CEO达里奥·阿莫代此前对模型意识持开放态度，但苏莱曼明确反对。他强调，行业绝不能容忍一个超级智能体——即能够对自身痛苦或感受形成独立认知的存在。他主张，AI必须始终是可控、受约束、负责任且与人类利益对齐的工具，服务于人类需求。

大模型向AGI演进之际，AI主体性讨论已从学术圈蔓延至产业一线。苏莱曼的表态实质上是科技巨头在AI安全与对齐策略上的现实主义立场——警示全行业：切勿将人类想象过度拟人化地投射到AI上，这将引发严重风险。