全国首例AI幻觉案：司法破局与合规前瞻

时间

2026年3月

AI侵权归责的“第一块拼图”：

全国首例“幻觉”案的规则适用与实务启示

2026年1月，杭州互联网法院审结了一起备受关注的案件——梁某诉某科技公司网络侵权责任纠纷案。这是全国首例因生成式人工智能模型“幻觉”引发的侵权纠纷案，也被法律界称为“生成式人工智能幻觉第一案”。

该案入选2026年最高人民法院工作报告典型案例，标志着我国AI治理从宏观政策倡导走向微观司法定分止争的新阶段。本文基于法院官网公布的判决说理及司法部最新立法动态，对该案进行深度解析。

PART.01

案件背景：一次AI“幻觉”

引发的纠纷

（一）基本事实

2025年6月29日，原告梁某在使用被告某科技公司开发运营的生成式人工智能应用时，向该AI询问某高校报考信息。AI在回答中生成了一些不准确的信息。更为关键的是，AI在生成内容中还作出承诺：“若生成内容有误，将向用户提供10万元赔偿。”

梁某认为，AI生成的错误信息及赔偿承诺误导了其判断，遂将AI服务提供者诉至法院，要求被告承担侵权责任。

（二）裁判结果

杭州互联网法院经审理后，驳回了梁某的全部诉讼请求。

法院认为：被告作为AI服务提供者，在该案中不构成侵权。

但与此同时，法院在判决说理中系统阐述了生成式人工智能服务提供者的注意义务边界，为行业合规发展提供了重要指引。

PART.02

核心法律问题解析

1. AI的“承诺”是否产生法律效力？

法院观点：不产生。 法院从四个层面进行了论述：

· 人工智能不具有民事主体资格，不能作为意思表示的传达人、代理人或代表人；

· 被告并无通过AI模型设定或传达其意思表示的行为；

· 一般社会观念、交易习惯尚不足以使原告对该随机生成的“承诺”产生合理信赖；

· 无证据表明被告曾作出愿受人工智能生成内容约束的外在表示。

清华大学法学院程啸教授指出：“本案判决正确否定了人工智能可以代替服务提供者作出意思表示。理论界曾有人主张应当承认并赋予人工智能以法律人格，但这一观点依据现行法律不能成立。”

。

2. AI侵权应适用何种归责原则？

法院明确指出：生成式人工智能服务依据《生成式人工智能服务管理暂行办法》属于“服务”范畴，而非产品质量法意义上的“产品”。因此，本案适用《民法典》第一千一百六十五条第一款的一般过错责任原则，而非产品责任的无过错责任原则。

法院给出四点考量依据：

· 概念构成上：该服务缺乏具体、特定的用途与合理可行的质检标准；

· 危险性上：其生成的信息内容通常不具备民法典侵权责任编所指的高度危险性；

· 控制能力上：服务提供者缺乏对生成信息内容足够的预见和控制能力；

· 政策导向上：适用无过错责任原则可能不当加重服务提供者责任，限制AI产业发展。

PART.03

立法动向：从个案到人工

智能立法

LEGISLATION

该案的判决，为国家层面推进人工智能立法提供了鲜活的实践素材。

2026年3月12日，司法部部长贺荣在十四届全国人大四次会议第三场“部长通道”上明确表示：今年将进一步加强重点领域、新兴领域、涉外领域的法律法规制度供给，加快研究推进人工智能和低空经济等领域的立法。

结合该案反映出的问题，未来立法可能在以下方面作出回应：

LEGISLATION

· 分类分级监管：对于用于法律咨询、医疗诊断、金融投资等高风险场景的AI应用，可能设置更高的合规门槛；

· 透明度义务：强制要求AI服务提供者以显著方式告知用户内容的生成属性，并披露模型可能存在的“幻觉”风险；

· 注意义务标准：在过错责任原则框架下，通过司法实践不断细化“合理注意义务”的具体标准。

PART.04

对天津企业的实务启示

天津正大力建设国家数字经济创新发展试验区，人工智能是重点发展的方向。对于本地企业而言，无论是AI开发者还是AI使用者，该案都带来了明确的合规信号。

（一）

INSPIRATION

对于AI技术开发与应用企业：

1. 完善用户协议与风险提示：务必在协议中明确AI的“辅助工具”定位，在欢迎页、交互界面等显著位置进行功能局限提醒。

2. 建立纠错与投诉机制：根据《生成式人工智能服务管理暂行办法》，需提供便捷的投诉举报渠道，并建立及时的内容纠错机制。

INSPIRATION

3. 高风险领域设置护栏：如面向法律、医疗、金融等专业领域提供服务，建议增加“免责声明”强提示，并可考虑引入检索增强生成等技术措施降低“幻觉”输出率。

4. 关注算法备案要求：天津已建立大模型算法备案机制，提供生成式人工智能服务的企业需履行备案程序。

（二）

INSPIRATION

对于使用AI辅助经营的企业：

1. 严禁“全盘照搬”：内部应建立制度，禁止将AI生成的法律文书、财务数据、商业合同未经专业审核直接使用。法院明确指出，AI仅应是“文本辅助生成器”和“信息查询的辅助工具”，而非“决策替代者”。

2. 保留人工审核记录：如因AI建议导致纠纷，能证明自身已履行“合理审核义务”的记录，将成为抗辩的重要证据。

3. 关注数据合规：在使用AI处理客户数据或商业秘密时，需审慎评估数据安全风险，避免敏感信息通过AI模型泄露。

综上所述，全国首例AI“幻觉”案的审结，恰如司法机关在人工智能侵权责任领域拼上的“第一块拼图”。对于法律从业者而言，我们不仅是规则的适用者，更是规则的参与塑造者。每一个案件的精准分析、每一份判决的专业解读，都在为这块“拼图”添上自己的色彩。AI时代已来，法治的脚步从未停歇。第一块拼图已经落定，更多的拼图，正在路上。

2026年，随着人工智能立法进程的推进，以及更多司法判例的积累，人工智能领域的法律规则将日益清晰。对于身处这一浪潮中的企业与个人而言，唯有理解规则、善用规则，方能在人工智能的时代行稳致远。

供稿律师：张岩律师，民盟盟员，中国政法大学法学硕士，三级律师、二级心理咨询师专业职称，天津市五一劳动奖章获得者，深耕法律领域近二十年，主攻公司、合同、房地产、劳动纠纷、金融五大核心法律事务。