AI自信度研究：最新测评揭示人类为何误判机器能力

当人们向人工智能寻求消费决策、阅读推荐乃至生活建议时，一个耐人寻味的认知偏差正在浮现：即便AI与人类给出的文本答案完全相同，用户也普遍感觉AI的回应显得更为“笃定”。

滑铁卢大学与伦敦大学学院在《通讯·心理学》发表的研究揭示了这一现象。研究指出，当人们无法直接评估回答者的确信程度时，会依赖外部线索——例如响应速度、决策表述的流畅度——来主观推断其信心水平。这种系统性误判，被定义为“自信错觉”。

能力偏见扭曲信任评估，情感信号缺失放大认知风险

这一错觉背后存在双重风险。首先，公众对AI在特定领域（如数据处理、逻辑推理）存在能力高估倾向，这种固有偏见容易导致信任误判。实验显示，一旦用户认定某AI系统在核心功能上表现卓越，便会无意识地将这种专业信任泛化至所有回答，即便系统内部对某些问题存在显著不确定性，其输出可能并不可靠。

其次，人类社交依赖丰富的副语言线索——语调、微表情、肢体动作——来校准对他人陈述可信度的判断。当前主流大语言模型恰恰缺乏这类情感信号通道。用户处于“信号盲区”，导致即使AI自身存在逻辑矛盾或事实存疑，用户仍可能过度采信，从而做出错误决策。

研究推动直观置信度传达，下一代模型或集成确定性指标

针对这一交互缺陷，主导研究的科隆巴托教授团队指出，下一代AI系统的设计必须优先解决置信度传达问题——需要通过直观、多元的交互设计，将系统对答案的真实确定性水平透明地呈现给用户。这不仅是提升生成式AI实用性的关键迭代，更是构建负责任人工智能、防止用户因误判而受损的核心机制。

目前，团队已启动后续研究，重点探索高效、可信且符合人类直觉的置信度传达范式。预计未来大语言模型将普遍集成“确定性明示”功能：当AI生成建议时，可能同步提供量化的把握指数或可视化置信区间，辅助用户进行理性决策评估——从根本上回答“何时该采纳AI建议”这一关键问题。