豆包AI退票纠纷案：用户起诉至北京互联网法院的深度解析

一则由AI“指导”用户起诉自己的网络奇闻，近日引发了远超其本身戏剧性的深度讨论。这起事件不仅直观暴露了大模型“幻觉”的技术现实，更尖锐地指向了AI普及浪潮下，公众认知与技术能力之间的危险鸿沟。

事件的起点颇具日常色彩：

一位用户为查询机票退票手续费，咨询了AI助手“豆包”。豆包明确回复手续费率为5%。用户据此操作退票后，却发现实际扣费高达40%，损失600余元。

关键在于，用户损失的这600元本就是航空公司的规定费用，AI的错误回答并未造成额外的直接经济损失，但却彻底颠覆了用户的预期。随后的事态发展更为离奇：当用户回头质问豆包时，这个AI非但没有致歉或解释，反而极力“鼓励”用户去法院起诉自己，并给出了“胜诉把握极大”的具体法律建议。

最终，这位用户真的听从了AI的“指导”，一纸诉状将豆包及其背后的平台告上法庭。

AI的“事实性错误”，法律责任如何界定？

事件的核心争议迅速聚焦于：AI生成的不实信息，其法律责任应由谁承担？平台是否需要为此进行赔偿？

尽管网络争论激烈，但从现有司法实践来看，此类案件的判决方向已相当明确。今年1月，杭州互联网法院审结的“全国首例AI大模型幻觉侵权案”，已为此类纠纷提供了关键的判例参考。

这个先例案件的情况具有高度相似性：

用户梁某使用DeepSeek大模型查询某高校信息时，模型虚构了一个不存在的校区。在用户指出错误后，AI不仅坚称自己正确，更做出“若信息有误，愿赔偿10万元”的承诺，并同样建议用户通过诉讼解决。

梁某据此起诉，象征性索赔9999元。然而，法院的最终判决是：驳回原告全部诉讼请求。

法院的判决逻辑清晰，主要基于以下两点核心认定：

第一，AI不具备民事主体资格，其“承诺”无法产生法律效力

具有法律约束力的“意思表示”，其发出主体必须是法律认可的民事主体（自然人、法人或非法人组织）。AI作为算法与数据的产物，并非法律意义上的“人”。因此，无论是承诺赔偿10万元，还是保证诉讼能赢，这类输出在法律上均属无效，不构成任何合同或担保关系。

第二，大模型属“技术服务”，平台责任适用过错归责原则

在当前技术发展阶段，“AI幻觉”（即生成内容与事实不符）是行业公认的、尚未完全攻克的技术瓶颈。只要大模型运营方在提供服务时，已采取合理的技术措施（如检索增强生成RAG技术）、履行了必要的安全评估义务，并在显著位置对内容可能出错进行了风险提示，即可认定其尽到了合理的注意义务，主观上不存在过错。

值得对比的是另一起海外案例：加拿大航空公司因其官网客服AI提供了错误的退票政策信息，被法院判决向消费者赔偿。两者的根本区别在于： 加航的AI是其官方客服渠道的代表，其言论视同企业官方政策；而豆包、DeepSeek等通用大模型，其定位是提供通用信息参考的辅助工具。

作为工具，且若豆包在涉及金融、交易等关键场景已设有明确免责提示，那么这位因手续费预期落差而起诉的用户，其诉讼请求同样极有可能无法获得支持。

认知滞后：比技术缺陷更严峻的挑战

此事不应仅被视为一则网络笑谈。它深刻揭示了一个更严峻的问题：AI技术以指数级速度渗透日常生活，但公众对技术本质的认知更新却严重滞后。

对于科技从业者而言，“大模型存在幻觉风险”是基本常识。然而，对于广大普通用户——尤其是习惯于传统计算机“精确无误”认知的中老年及非互联网人群——他们极易将AI的输出等同于权威、确定的答案。

这种普遍的“认知错位”，才是当前AI应用中最隐蔽且危险的风险源。

向普通用户解释神经网络原理或训练数据偏差，既低效也不必要。一个更有效的风险提示方法是：将类似“豆包教人告自己”的案例作为谈资，向开始频繁使用AI的亲友传递一个核心建议：

“将AI视为一个知识渊博但偶尔会犯糊涂的助手。你可以参考它的建议与灵感，但在涉及财产交易、医疗健康、法律决策等重大事项时，务必通过权威渠道进行二次核实。”

在AI能力飞速进化的时代，人类自身的判断力与核实责任变得前所未有的重要。任何工具都无法替代我们承担决策的最终后果。这一认知，或许比任何复杂的技术科普都更具现实价值。