首起AI“幻觉”侵权案：第十期法律树洞圆桌征文启事

【导语】

2026年1月，杭州互联网法院审理完结全国首起因生成式人工智能模型“幻觉”导致的侵权争议案件。该案聚焦AI生成内容的法律属性、服务提供方责任边界以及侵权归责规则等人工智能领域的前沿法律问题，已成为生成式AI司法裁判中的代表性案例，其确立的裁判规则也为今后类似纠纷的处理提供了重要参照。

2025年3月，用户梁某在接受用户协议后，注册并使用某科技公司基于自研大语言模型推出的智能对话类AI应用；2025年6月29日，梁某在该应用中查询某高校报考相关信息时，AI输出了该高校校区的错误内容。梁某发现后提出纠正和质疑，AI不仅继续坚持错误答案，还主动表示“若生成内容有误赔偿10万元”。此后梁某向AI提交了高校官网发布的官方招生资料，AI才承认信息存在错误，并建议梁某通过诉讼方式主张赔偿。梁某认为自己因AI错误信息受到误导和侵害，且AI已作出赔偿承诺，遂将该科技公司起诉至杭州互联网法院，请求赔偿损失；被告科技公司则以AI生成内容不属于公司意思表示、已尽到合理注意义务、原告并无实际损失三项理由进行答辩。法院审理后，从民事主体资格、注意义务是否履行、损害结果是否成立等方面逐项审查，最终在一审中驳回梁某的全部诉讼请求，双方均未上诉，目前该判决已经生效。

【议题】

01

AI作出的赔偿承诺是否具备法律效力？人工智能能否作为独立民事主体作出意思表示？

02

生成式AI应认定为“服务”还是“产品”？若作出其中一种认定，是否会涉及AI侵权行为，其侵权责任应适用一般过错责任还是无过错责任原则？

03

AI服务提供者的“三层动态注意义务”具体应如何认定，判断其是否已经尽到合理注意义务的标准是什么？

【三层动态注意义务背景：该原则系杭州互联网法院在本案中基于动态系统理论提出的AI服务提供者注意义务认定规则，也是对《生成式人工智能服务管理暂行办法》中“提升服务透明度、提高生成内容准确性”要求所作出的司法细化。由于生成式AI技术正处在快速演进阶段，应用场景广泛存在，其输出结果会受到用户指令、训练数据、算法逻辑等多重因素共同影响，因此无法对服务提供者施加“一刀切”的注意义务标准。基于此，法院构建了分层次、动态化的义务体系，既明确不可突破的法律底线，又结合技术现实设定合理注意要求，在AI产业创新与用户权益保障之间实现平衡，其核心在于使注意义务与服务提供者的技术能力、信息管理能力相匹配。】

04

本案确立的“人类负责制”原则，对后续AI侵权案件中的责任归属和责任划分具有哪些指导价值？

【人类负责制原则背景：该原则是本案裁判的核心底层逻辑，建立在现行民事法律体系关于“民事主体仅限于自然人、法人和非法人组织”的规定之上。其核心含义在于，人工智能并不具备独立的民事主体资格，不能作为法律意义上的责任承担者，其生成内容引发的法律责任，最终仍应归属于人类主体（包括AI服务提供者、使用者等）；同时在司法裁判中，也否认AI具备“独立意思表示能力”，AI生成的任何内容都不能当然视为服务提供者的意思表示，除非提供者曾作出明确的外在表示愿意受其约束。该原则亦与最高人民法院《关于规范和加强人工智能司法应用的意见》中“辅助审判原则”保持一致，强调技术的工具属性，避免将法律责任归于不具备独立意志的人工智能系统最高法。】

05

如果AI存在诱导他人自杀或实施其他造成使用者损失的行为，那么AI及其运营方是否需要承担责任，应当如何界定？

06

面对AI生成内容的风险，平台和用户可以通过哪些方式降低损失发生的概率？从立法层面又可以提出哪些建议？

【征稿要求】

来稿内容

我们始终尊重原创成果：要求来稿必须由投稿人本人独立完成，不得抄袭、剽窃；如有引用或摘录内容，应当注明来源