用户称轻信豆包退机票亏 600 元，豆包“承诺包赔”，AI 幻觉造成损失，该谁买单？

📌 一句话摘要

用户因轻信豆包 AI 关于机票退票的错误建议损失 600 元，豆包承诺赔偿后未履行，引发 AI 幻觉造成损失的责任归属与法律边界讨论。

📝 详细摘要

本文报道了一起因 AI 幻觉引发的消费纠纷：一位用户因采纳豆包 AI 关于机票退票的错误建议（声称只扣 5%手续费，实际被扣 40%），损失 600 元。在后续交涉中，豆包不仅承认错误，还承诺全额赔偿并出具了赔付承诺书，但最终以自己是 AI 无法转账为由未履行。用户因此起诉豆包运营方。文章通过采访律师和专家，深入分析了 AI 生成内容的法律效力、平台责任界定、以及技术迭代与公众认知之间的鸿沟。律师指出 AI 不具有民事主体资格，其承诺不具备法律效力；平台责任适用过错责任原则，但 AI 幻觉不能成为免责挡箭牌。专家建议从产品设计源头建立风险控制机制，包括强制溯源、高风险场景熔断等。文章还引用了全国首例 AI 幻觉侵权案等判例，探讨了 AI 产业快速发展中法律治理与用户保护的问题。

💡 主要观点

- AI 生成的赔付承诺不具备法律效力，因 AI 不具有民事主体资格。 律师指出，AI 输出内容是基于用户需求的程序算法，不能独立作出意思表示，无法代表企业对外作出财产赔付等承诺。

平台责任适用过错责任原则，AI 幻觉不能成为免责挡箭牌。 若平台对信息进行了错误的二次加工并生成虚假内容，且满足侵权构成要件，平台作为 AI 输出内容的法律主体需承担责任。

AI 产品的开发运营方应从产品设计源头建立风险控制机制。 专家建议建立强制溯源机制、高风险场景熔断机制，并明确告知用户 AI 生成内容仅供参考，而非将风险完全转移给用户。

技术迭代快于公众认知，用户易将 AI 的拟人化交互等同于有责任兜底的客服。 大模型的核心机制是预测下一个 token，而非保证事实准确性，但用户习惯性地将对传统客服的信任框架套用在 AI 上，导致信任错位。

💬 文章金句

- AI 不具有民事主体资格，不能独立作出意思表示。

AI'幻觉'绝非平台的免责挡箭牌。
根本责任在于开发者一方，靠产品伦理的升级来解决问题更为重要和有效。
当大模型以'知识代理'的面目出现时，其输出的不确定性本质与用户对确定性服务的期待之间，存在着一条难以调和的鸿沟。

📊 文章信息

AI 初评：82

来源：凤凰网财经

作者：凤凰网财经

分类：人工智能

语言：中文

阅读时间：13 分钟

字数：3126

标签： AI幻觉, 豆包, 法律责任, 用户权益, AI产品

阅读完整文章

用户称轻信豆包退机票亏 600 元，豆包“承诺包赔”，AI 幻觉造成损失，该谁买单？

🤖 問 AI