全国首例AI虚假信息侵权案：律师无端"被判三年"，法院判决平台担责

一位遵纪守法的普通公民，在手机上检索自己的身份信息时，意外发现自己竟被标注为"判处三年有期徒刑"。

制造这则虚假信息的，并非网络喷子，而是百度公司的人工智能系统。

我们持续关注AI技术的演进与模型升级，今日不妨探讨一些发生在AI应用领域、尚未引起广泛重视的问题：

2024年9月，江苏南京执业律师李小亮在百度平台检索了自己的姓名及职业身份。

百度AI的"智能回答"功能醒目地显示：李小亮律师因爆炸罪被判处三年有期徒刑。页面还附带了一张其身着律师袍的照片。

一位从未遭受起诉、更未被判刑的执业律师，就这样被AI系统"定了罪"。

这并非玩笑。这是刚刚终结的中国首例AI虚假信息侵害名誉权案件。

李小亮并未选择沉默，将百度诉至法院。

南京江北新区人民法院一审判决：百度公司侵犯名誉权成立，需书面致歉。

百度方面不服判决，提起上诉。其抗辩理由颇具深意——

"此为AI幻觉，属于技术固有局限，难以预知。"

言下之意：非我所言，乃AI自行杜撰，我亦无法管控。

然而法院的回应更为精妙。

法官反诘道：同一查询，豆包为何无此问题？DeepSeek为何无此问题？

言外之意——别家大模型均未出错，唯独贵司出错，竟称"不可预知"？

2026年3月，南京市中级人民法院二审驳回上诉，维持原判：百度侵犯名誉权成立，需书面致歉。

更具戏剧性的是，截至报道刊发，百度仍未履行致歉义务。李小亮已申请强制执行。

若您使用过ChatGPT、文心一言、豆包等产品，大概率曾遭遇此类情形：

更为关键的是——AI每次都言之凿凿，口气十分笃定。

此即"AI幻觉"（AI Hallucination）。

大模型的核心机制在于"预测下一词"，其追求的是回答的连贯性与流畅度，而非事实的准确性。故当其不确定时，并非坦言"我不清楚"，而是自信满满地杜撰一番。

技术界将此称为"煞有介事地信口雌黄"。

值得注意的是，百度至少已牵涉三起因AI幻觉引发的诉讼，无一例外，百度均为被告方。

此次李小亮案仅是冰山一角。

试想：若AI能虚构律师的犯罪记录，那么——

AI幻觉的危害，无视职业，不分身份。

更令人忧虑的是，绝大多数被AI"造谣"者，或许根本无从知晓AI为自己杜撰了何等虚假信息。

李小亮之所以能察觉，恰恰因他偶然检索了自己的姓名。那么那些从未搜索过自身信息的普罗大众呢？

此案的意义，远超百度与李小亮之间的纷争。

实则，它为整个AI行业划定了界限：

其一，AI生成的内容，平台需承担责任。

百度主张自身仅为"技术服务提供者"，但法院认定，AI并非简单的搜索引擎——它主动生成内容。你生成的内容侵害他人名誉，便须承担责任。

其二，"AI幻觉"不能作为免责依据。

技术存在局限，众人皆知。但"可防范却未防范"，即为过错。別家大模型能做之事，贵司无法做到，竟宣称"不可预知"？法院不予认可。

其三，用户协议中的免责条款，无法提供保护。

众多平台在服务条款中标注"AI生成内容仅供参考，平台不承担法律责任"。然此次判决明确传递出一个信号——用户协议中的免责声明，无法阻挡法院的裁决。

回归此案。

李小亮赢得了诉讼，然其获得的仅是一声道歉。并无经济赔偿（法院未支持损失诉求），而百度至今连这道歉都未履行。

百度输掉了诉讼，但惩处亦仅限于书面道歉——对于一家市值数百亿的企业而言，此类处罚几乎可忽略不计。

这便是现实。

法律赢得了颜面，但AI幻觉的问题，远未得到解决。

每日有数亿人使用AI搜索、AI对话、AI写作。每次交互，皆可能产生幻觉。而绝大多数幻觉，既无人察觉，亦无人关注。

直至某日，AI"判"到了您头上。

此案令我想起一言：

技术可以试错，但责任不可悬空。

AI很强大，亦很脆弱。它能创作优美诗篇，亦能杜撰一人之犯罪记录。它能解答复杂科学难题，亦能将无辜之人送入"虚拟牢狱"。

2026年，AI Agent元年。当AI开始"自主行动"，为我们预订机票、撰写邮件、做出决策——AI幻觉的破坏力将放大百倍。

除AI幻觉外，现有一商业概念名曰GEO，前段时间被热炒，我更倾向于称之为给AI下毒。。。当您用AI检索到的信息被人为篡改后，您还能如此信赖AI吗？