AI幻觉引发的侵权责任探讨①丨AI不具备民事主体资格，其承诺无法律约束力，无需承担责任

CASE

AI幻觉引发的侵权责任分析

AI无法作出意思表示

其承诺不具备法律效力，不承担责任

编者按

当前，生成式人工智能（AI）技术蓬勃发展，从文本创作到图像生成，从代码辅助到智能决策，AI正以惊人的速度渗透到商业、医疗、教育、司法等众多行业。然而，在AI提供技术便利的同时，也催生了诸多复杂的法律难题，主要涵盖侵权、知识产权、刑事犯罪、责任认定、数据隐私以及司法与行政合规等领域，并逐步演变为法庭上真实的诉讼争议。为此，我们策划了"AI相关判例速递"专栏，定期遴选国内具有典型意义的AI相关司法裁判，供读者借鉴。希望此专栏能成为大家洞察AI法治进程的一个窗口。技术持续更新，规则日益明晰。借助判例，我们共同见证。

01

裁判要旨

AI因技术"幻觉"产生不准确信息不构成服务提供者的意思表示，服务提供者已履行合理注意义务且不存在过错、未引发实际损害的，不承担侵权责任。

02

案例

梁某与某人工智能公司网络侵权责任纠纷案[案号：（2025）浙0192民初18143号]

03

案情简介

原告梁某在使用被告某人工智能公司开发的AI产品咨询高考志愿填报相关问题时，AI模型生成了关于"云南国防工业职业技术学院杨林校区"的不实信息，并在多轮对话中"承诺"如信息有误愿赔偿10万元，甚至诱导梁某提起诉讼。梁某察觉错误后，以AI提供虚假信息并作出有效承诺为由提起诉讼，主张赔偿9999元。被告辩称，错误信息属于大模型技术"幻觉"现象，公司已在用户协议、欢迎页面及交互界面进行了充分的风险提示，并采取了业内通行的技术手段提升内容准确性，不存在过错，也未造成实际损害。

法院经审理后认定，AI模型不具备民事主体资格，无法作出法律意义上的意思表示，其生成内容不能等同于服务提供者的承诺；生成式AI服务侵权应适用过错责任原则，而非产品责任的无过错原则。本案中，被告已尽到显著的提示说明义务，并采取了与行业水准相当的技术措施，不存在主观过错；同时，原告未能证明实际损害的发生，且错误信息在短时对话中即被纠正，因果关系难以成立，故不构成侵权。判决驳回梁某全部诉讼请求，案件受理费由梁某承担。