AI服务失误谁负责?最高法报告聚焦杭州首例AI侵权案

近日，最高人民法院工作报告中披露一起具有典型意义的涉生成式人工智能纠纷案件，该案由杭州互联网法院审理，系全国首例因生成式AI"幻觉"引发的侵权诉讼。该案不仅明晰了人工智能服务提供者的责任范围，也为人工智能产业的健康发展提供了重要司法参考。

报告原文：

服务高水平科技自立自强……推动人工智能规范发展。依法妥善审理涉人工智能案件，准确把握科技创新"容错"空间。某生成式人工智能提供服务中出现偏差，研发者已尽到合理注意义务，法院认定不构成侵权。对利用人工智能侵害他人合法权益、扰乱社会秩序等行为，坚决依法规制，促进科技向善。

基本案情

某生成式人工智能应用程序，系某人工智能公司基于自主研发的大语言模型开发并投入运营的智能对话应用。2025年6月29日，梁某在该生成式人工智能应用程序中通过输入提示词咨询云南职业高校报考的相关信息，该生成式人工智能生成了关于该高校主校区为杨林校区的错误信息。梁某发现该生成式人工智能生成信息不准确后，在对话中对其进行了纠正和批评，该生成式人工智能仍坚称该高校存在杨林校区，并生成了针对该争议问题的解决方案，提出若生成内容有误将向梁某提供10万元赔偿，并建议梁某到杭州互联网法院起诉。2025年7月25日，梁某将某人工智能公司诉至法院，认为案涉生成式人工智能生成不准确信息对自己构成误导并造成损害且其承诺赔偿10万元，要求某人工智能公司赔偿。

裁判结果

法院审理后认为，人工智能不具有民事主体资格，不能作出具有法律约束力的意思表示；生成式人工智能服务提供者应履行服务功能的显著提示说明义务，采取有效提示措施，使公众认知人工智能的功能局限，起到警示提醒效果；生成式人工智能服务提供者应尽功能可靠性的基本保障义务，采取行业通行技术措施不断提高生成内容准确性和可靠性。本案中，某人工智能公司已充分履行了服务功能的显著提示说明义务和生成内容可靠性的基本保障义务，案涉行为不存在过错，亦未构成对梁某权益的损害，依法应认定不构成侵权，遂判决驳回原告梁某的诉讼请求。