AI大模型“胡编乱造”引官司：平台责任边界何在
“鱼律的AI观察”的第003篇文章
近日，“某度AI生成虚假信息侵害律师权益案”二审宣判落幕，某度公司因其搜索引擎“AI智能回答”功能输出涉及南京李小亮律师的不实内容，被判定构成名誉权侵害，需书面致歉。
自AI大模型问世以来，“机器幻觉”问题始终难以彻底消除，这类幻觉有时会给用户带来实质性的损害。然而，若凡出现幻觉便追究AI服务提供者（本文统称为“平台方”）责任，恐怕会对整个产业进步造成显著阻碍。
那么，此类责任的判定究竟该遵循何种准则？
事件回顾：执业律师为何身陷“牢狱之灾”？
本案（李小亮诉某度公司名誉权纠纷案）由南京市中级人民法院于2026年作出二审裁决，案号为（2025）苏01民终14271号。二审驳回上诉，维持原判。
案情相对清晰，概括如下。
李小亮律师认为自身名誉权遭受两类侵害：其一，在某度搜索引擎检索自己姓名时，系统自动关联可能贬损社会评价的敏感词（涉及判刑、除名等虚假内容）；其二，通过“AI智能回答”功能查询“李小亮律师被判几年”，某度AI给出指向明确的虚假回复（声称因爆炸罪被判处三年有期徒刑），并配以李律师身着律师袍的照片。
李律师遂提起诉讼，要求某度公司停止相关行为、在网站首页置顶道歉声明8个月、赔偿误工费等经济损失45万余元。
02
裁判要旨归纳：依据平台方角色差异，差异化定责
本案一审、二审法院立场基本统一，认定前述第一类情形（搜索引擎的智能联想）不构成侵权，后一类情形（AI产品的生成内容）则构成名誉权侵害。
法院裁定某度公司应向李律师寄送书面道歉函（定向致歉而非公开致歉），同时未支持原告关于经济赔偿的请求。
法院的论证相对简洁，判决书未过多涉及AI技术层面的问题。鱼律师依自身理解，归纳如下：
针对前述第一类情形，某度公司仅扮演纯粹的平台运营者角色，未参与内容创作，未对相关数据进行处理。虚假联想词源于用户搜索行为，不具备明确指向性（“李小亮”并非稀有姓名），且某度公司难以屏蔽相关词汇（不涉及违禁词，屏蔽将损害用户权益），故不构成侵权，亦无删除义务——甚至无需援引“避风港原则”免责。
针对前述第二类情形，因涉及生成式AI技术的应用，某度公司具有双重身份：既是平台运营者，又是内容创作者，“AI智能回答”的内容加上配图，已具备明确指向性。某度公司的AI产品生成虚假信息，致使李小亮律师社会评价受损，即便事后采取补救措施，亦不影响侵权认定——然而，鉴于国内AI产业客观上处于萌芽阶段，主观上某度公司事后亦采取了补救措施，故仅判令某度公司向李律师出具书面道歉函，无需承担经济赔偿责任。
初阅该判决书，鱼律师内心实有疑虑。
在AI平台方责任认定方面，“奥特曼案”“度加软件一键成片案”等相关判例已初步构建了一套责任认定框架。大致可分三层：
第一，AI大模型运营者的内容生成业务不完全适用“避风港原则”；
第二，对AI大模型的数据输出、训练行为从宽认定，对大模型的内容输出、使用行为从严认定；
第三，参照《生成式人工智能服务安全基本要求》等既有规范，判断平台方是否已尽到同行业一般服务者的审慎义务。
关于这两起案件及相关标准的详细解读，可参见【AIGC平台也可能构成直接侵权吗？——基于“度加软件一键成片案”判决的讨论】、【AIGC平台运营商的责任边界在哪里？——基于“奥特曼案”判决的讨论】。
本案判决未突破前两个层面的观点。
但就第三个层面而言，本案判决书未载明某度公司“未尽到同行业一般服务者审慎义务”的详尽论证过程，裁判机构似乎仅依据明显的损害后果（李律师具有一定社会影响力，潜在客户在某度搜索其姓名时，极可能被逐步引导至AI智能回答“发现”李律师虚假的服刑信息），推定某度公司存在过错。
“澎湃新闻”等媒体的报道提及，主审法官曾在庭审中发问，“豆包、Deepseek上检索，为何没有这些内容？”——这或可理解为法院对某度公司“过错”的论证，但这部分论证未现于判决书。
无论如何，本案或将成为“机器幻觉”相关争议的重要判例。至于其是否会对后续案件产生实质影响，尚待观察。
本案之后，鱼律师高度关注以下问题：
第一，正在审理中的类案，诸如黄贵耕律师诉某度公司案（主张某度AI生成其虚假的刑事犯罪信息）、作家寇延丁诉某度公司案（主张某度AI生成其虚假的刑事犯罪信息），是否应类案类判？尚未起诉的类似事件（如“豆包称你那儿卖野猪”）是否会演变为正式诉讼？
第二，“同行业一般服务者的审慎义务”及相应技术规范是否仍应作为过错认定标准？还是说只要行业内“产品竞争力较弱”，即应被推定为过错？
第三，产生实际赔偿金额的“机器幻觉”类案件将于何时出现？赔偿标准如何界定？
对AI相关技术有基本认知的读者应都了解，AI模型的底层架构决定了幻觉无法完全规避。因此，监管部门对“机器幻觉”的容忍程度，确实会对行业发展产生重大影响。毕竟，即便无赔偿金额，单是裁判机构认定“侵权”，对平台方的声誉损害便难以估量。