AI“信口开河”酿祸,责任该由谁负?——以全国首例生成式AI“幻觉”侵权案为视角

本文作者

罗强

重庆合纵律师事务所

高级合伙人

曾在法院任职，也曾担任重庆市璧山区第十八届人大代表、璧山区青年企业家商会副会长；同时担任璧山区委、区政府以及璧山高新区管委会、农业园区、青杠街道、大路街道等政府部门法律顾问。

2025年6月，一位考生家长梁某在使用某生成式AI应用咨询高考志愿填报信息时，AI给出了关于某高校校区的不准确信息。梁某发现后与AI多轮对话，AI不仅继续输出错误内容，还主动表示“如信息有误，将赔偿十万元”。梁某随后起诉AI的开发运营公司，要求赔偿损失9999元。这起案件被称为“全国首例生成式AI‘幻觉’侵权案”，杭州互联网法院最终驳回了原告的诉讼请求。AI“说谎”了，为什么不用赔？这背后涉及三个关键法律问题。

一、AI能“说话算数”吗？——意思表示的法律逻辑

很多人直觉上认为，AI既然说了“赔十万”，就应该兑现。但法律上的“意思表示”，是指民事主体将内心想要发生法律效果的意思表达于外部的行为。根据《中华人民共和国民法典》第一百三十三条，民事法律行为是民事主体通过意思表示设立、变更、终止民事法律关系的行为。这里的关键词是“民事主体”——只有自然人、法人和非法人组织才具有民事主体资格，AI不是“人”，不能独立作出意思表示。

法院进一步指出，AI自行生成的“赔偿承诺”也不能视为被告公司的意思表示。理由有四：第一，AI不能作为公司的代理人或传达人；第二，公司没有通过AI设定或传达这一承诺的行为；第三，一般社会观念尚不足以让用户对AI随机生成的“承诺”产生合理信赖；第四，没有证据表明公司曾表示愿意受AI生成内容的约束。因此，AI的“承诺”在法律上不产生效力。

二、AI出错，按什么标准追责？——过错责任原则

既然AI的“承诺”不算数，那AI生成错误信息本身是否构成侵权？这就涉及归责原则的选择。

法院明确，生成式AI服务属于“服务”范畴，而非《产品质量法》意义上的“产品”。因此，本案不适用产品责任的无过错责任原则（即不论有无过错都要担责），而应适用《中华人民共和国民法典》第一千一百六十五条第一款规定的一般过错责任原则——有过错才担责，无过错不担责。

法院给出四点理由：其一，AI生成信息服务缺乏具体、特定的用途与可行的质检标准，不符合产品责任的适用前提；其二，生成的信息内容通常不具备高度危险性，不宜采用无过错责任；其三，服务提供者对生成内容的预见和控制能力有限；其四，如果在技术发展初期科以过重责任，可能产生“寒蝉效应”，阻碍创新。

三、AI公司做到什么程度才算“尽到义务”？——动态注意义务

适用过错责任，核心问题就变成：被告有没有过错？法院采用“动态系统论”，阐述了AI服务提供者的三层注意义务：

第一层，对法律禁止的“有毒”、有害、违法信息负有严格审查义务，这是红线。

第二层，需以显著方式向用户提示AI生成内容可能不准确的固有局限，包括明确的功能局限告知、保证提示方式的显著性，以及在涉及重大利益的特定场景下进行即时“警示提醒”，防止用户产生不当信赖。

第三层，应尽功能可靠性的基本注意义务，采取行业通行的技术措施提高生成内容准确性，例如检索增强生成（RAG）技术等。

本案中，被告已在应用欢迎页、用户协议及交互界面的显著位置标注了AI生成内容存在功能局限的提醒，并采用了行业通行的技术措施提升准确性。原告未能举证证明被告的措施低于行业一般水平，因此法院认定被告已尽合理注意义务，不存在过错。同时，原告未能证明其遭受了实际损害，且AI的错误信息并未实质影响其报考决策，因果关系不成立。综上，侵权不成立。

四、给普通用户的启示

这个案件并非说AI“说谎”就完全没有法律后果，而是告诉我们：在现行法律框架下，追责需要满足过错、损害、因果关系等要件。用户在使用AI服务时，应注意以下几点：

第一，保持合理怀疑。AI生成的内容可能不准确，尤其是涉及教育、医疗、法律等重大利益的领域，务必通过官方渠道核实。

第二，善用工具功能。本案中，用户未开启“联网搜索”功能，这也影响了生成内容的准确性。合理使用AI提供的各项功能，有助于获得更可靠的结果。

第三，保留证据。如果认为AI的错误信息造成了实际损失，应及时保存对话记录、截图等证据，以便后续维权。

第四，理性维权。AI“幻觉”是当前技术发展的固有局限，法律在保护用户权益的同时，也为技术创新留出空间。维权时应聚焦于服务提供者是否尽到注意义务，而非单纯以“AI说错了”为由主张赔偿。

人工智能时代已经来临，法律正在动态回应技术带来的新问题。理解AI的法律定位和追责逻辑，既是对自身权益的保护，也是对这一新兴技术理性认知的开始。

END