AI出错谁来赔？首案定调合规红线

2026

「AI出错谁来赔？

首案定调合规红线」

法小赛提示：AI时代，合规是硬道理

1

法院定责

2025年6月，一位普通用户使用某AI应用程序查询高校报考信息，AI却提供了某高校的不准确信息。

用户指出错误后，AI竟“硬刚”回应：“如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉。”

万万没想到，用户真的把它告上了法庭！

该案由此成为全国首例因AI“幻觉”引发的侵权案，迅速引发法律界和科技圈的广泛关注。

杭州互联网法院经审理作出一审判决，驳回了用户的诉讼请求。

但判决书中的论述，比结果本身更值得关注。

法院明确指出：AI生成的内容不能理解为平台的真实意思表示，人工智能不具备民事主体资格，不能成为法律责任的承担者。

更重要的是，法院借此案系统性地厘清了AI服务提供者的三层注意义务

第一层： 对违法有害信息，平台负严格审查义务，生成即违法。

第二层： 对不准确信息，平台须显著提示AI局限性，涉及重大利益时主动警示。

第三层： 平台须尽功能可靠性义务，采用检索增强生成等通行技术。

法院指出：生成式AI属于“服务”，适用过错责任。AI出错本身不构成侵权，关键看平台有无尽到义务。

2

代写追责

几乎是在同一时间段，杭州中院二审宣判了另一起具有里程碑意义的案件——全国首例AI代写“种草笔记”案。

涉案的“AI写作鹅”应用程序宣称可以“为你的小红书笔记生成充满点击欲的标题”“根据产品特点帮你生成符合小红书调性的分享文章”。

用户只需输入几个关键词，便可一键生成一篇声情并茂的小红书种草文案。

然而，这些文案全部虚构了用户的亲身体验。明明没吃过、没用过、没去过，AI却能生成一篇“我强烈推荐”“亲测有效”的笔记。

法院认定，这本质上就是虚假种草内容，违反了诚实信用原则和商业道德，构成不正当竞争，最终判令其赔偿原告10万元。

杭州中院在判决中明确强调：生成式人工智能服务提供者不能以“技术中立”为由免责。

使用AI技术生成虚假内容的效率更高、成本更低，带来的危害也更大。

如果服务提供者在主观上不“善意”，甚至默认、鼓励这种虚假生成行为，就必须承担相应的法律责任。

这起判决为“数字泔水”（即大量低质、虚假的AI生成内容）的治理划出了一条清晰的红线，也再次提醒所有AI创业者：技术创新不能以牺牲商业伦理和真实内容生态为代价。

AI可以辅助创作，但不能成为造假的帮凶。

3

合规三策

综合上述两起全国首例案件所确立的法律规则，法小赛为广大AI创业者和企业用户总结出三点核心合规策略：

· 审查有底线：杜绝违法、虚假内容。

· 提示做到位：醒目提示AI不准确性，重大利益时主动警示，并标识AI生成内容。

· 技术跟得上：采用通行技术提高准确性，涉及事实时引入权威