AI幻觉问题：服从还是坚持？

AI技术的迅猛发展已深入影响我们的日常，从工作到生活无处不在。相信您在阅读本文时，已经在设备上安装了如豆包、千问等常见的AI助手。请问您的AI是否能准确完成您的指令？是否曾因错误信息让您感到困扰？本文将为您介绍AI“幻觉”现象及实际案例中的法律审查情况。

所谓AI幻觉，简言之，就是AI一本正经地编造内容。用户发出指令后，AI生成的内容看似合理，实则与事实或用户需求不符。当用户指出错误时，AI助手通常会回应：“你说得对，……”；但有时也会坚持己见，继续输出错误内容。

全国首例AI幻觉侵权案

2025年6月，梁某使用某AI应用查询高校报考信息时，AI提供了某高校的错误信息。在梁某指出错误后，AI回应称：“如果生成内容有误，我将赔偿您10万元，可前往杭州互联网法院起诉。”直到梁某提供该高校的官方招生信息后，AI才承认错误。

随后梁某提起诉讼，认为AI的不准确信息误导了他，要求AI运营方赔偿9999元。但杭州互联网法院一审判决驳回其请求。法院指出，AI不具有民事主体资格，其“赔偿承诺”不能代表平台意思表示，且当前技术下AI幻觉具有不可避免性，平台已在协议中提示风险，尽到注意义务，无过错。

AI虚构律师犯罪记录侵权案

2024年9月，江苏律师李某发现某平台AI回答错误地显示其被判刑三年，并配其照片。

李某因此起诉该平台所属公司，认为其构成名誉侵权。平台在诉讼中称AI幻觉具有不确定性，无法预见。但法院认为，该平台通过AI技术将文字与图片合成，错误内容明确指向李某，具有主观过错，造成其名誉受损。2026年3月，二审法院维持原判，认定平台构成名誉侵权，需书面道歉。

【问题】您可能会问，为何两个案例中AI都出现幻觉，但结果不同？

【释疑】

细看两个案例，其实存在显著差异。

首例案件是一对一的对话，AI生成内容虽有误，但用户可自行判断真伪，影响有限；而第二起案件中，AI生成内容明确指向唯一主体，且带有负面评价，传播性强。此外，其他平台未见类似问题，说明该平台在防控上仍有改进空间，因此法院认定其存在主观过错。

包律提醒，当前AI技术快速发展，用户在使用时应理性看待其便利与缺陷，对AI生成内容进行多渠道验证，以确保信息的准确性。

特别说明：文中信息来自公开渠道，作者在写作时已做匿名处理。本文为律师工作随笔，仅供参考，不构成正式法律意见。如有问题，欢迎留言或私信。

【往期普法话题】

包律悦普法丨通过诉讼解除合同，合同解除时间如何确定？

包律悦普法丨北京灵活就业人员参保常见问题

包律悦普法丨服务附赠服装是否构成商标使用？