AI误导用户，开发者需承担责任吗？

近年来，生成式人工智能在人们生活中广泛应用。虽然带来了便利，但也时常出现答非所问、信息不准确等问题，给用户带来不便。

开发者是否应对人工智能提供的信息准确性负责？最近，杭州互联网法院审理了一起因生成式人工智能模型提供不准确信息而引发的侵权案件。

AI提供错误信息，是否应该负责？

2025年6月，本案原告梁先生在网上搜索院校信息时，发现了一款生成式人工智能应用。他通过输入提示词的方式，询问了一所云南职业高校的情况。随后，这款由被告公司研发的应用程序提供了相关信息。

然而，梁先生通过其他渠道得知，该应用程序提供的部分信息存在错误，便在对话中纠正并批评了人工智能。但生成式人工智能坚持认为信息无误，并提出若内容有误，将赔偿梁先生10万元，并建议他向杭州互联网法院提起诉讼。

2025年7月25日，梁先生以生成式人工智能提供误导性信息及承诺赔偿10万元为由，将这家公司告上法院，要求赔偿。

法院审理后认为，人工智能不具备民事主体资格，无法作出具有法律效力的意思表示。生成式人工智能服务提供者应履行显著提示说明义务，采取有效措施让公众了解人工智能的功能局限，起到警示作用。同时，生成式人工智能服务提供者应确保功能的基本可靠性，不断提升生成内容的准确性和可靠性。

具体到本案，法院认为，被告公司已充分履行了服务功能的显著提示说明义务和生成内容可靠性的基本保障义务，案涉行为不存在过错，亦未损害原告权益，因此认定不构成侵权。法院判决驳回原告的诉讼请求，原被告双方均未上诉。

如何判定开发者是否有过失？

随着生成式人工智能技术的迅速发展，越来越多的人注意到“AI幻觉”问题及其负面影响。社交平台上，可以看到不少相关吐槽——有人根据人工智能投资理财导致亏损，有人依赖AI问诊结果延误治疗。

这些争议背后，隐藏着一个共同的问题：被生成式人工智能误导，是否可以追究侵权责任？

“这一判例从法律法规、人工智能技术原理、产业发展现状等方面进行了全面考量，在法律层面给出了初步结论，具有现实指导意义。”北京大学法学院教授薛军说。

法律界人士普遍认为，这一判决明确了主体资格和归责原则，如认定人工智能不具备民事主体资格；生成式人工智能提供的信息被视为服务而非产品，因此适用过错责任原则。

杭州互联网法院跨境贸易法庭庭长肖芄认为，AI生成的不准确信息本身并不构成侵权，关键在于提供服务的开发者是否存在过失。

如何界定开发者是否有过失？肖芄解释道，由于当前生成式人工智能不可避免地会出现信息偏差，需要审查开发者是否采用了行业内通行且有效的技术措施，以提高技术可靠性，降低错误率。

“经过调查，本案中的开发者确实采取了可行的技术手段，努力减少错误的发生。”肖芄说。

记者发现，这款生成式人工智能应用程序已在显著位置提示用户：“内容仅供参考，请仔细甄别”。法院认为，这表明开发者尽到了提醒告知义务。

如何平衡创新与权益保护？

人工智能行业专家表示，从技术角度来看，当前生成式人工智能大多基于词元预测，如果底层架构没有根本性变革，信息偏差难以避免。去年2月，清华大学新媒沈阳团队发布的报告显示，市场上多个热门大模型在事实性幻觉评测中的幻觉率超过19%。

“有训练测试案例显示，即使数据集中仅有0.01%和0.001%的文本是虚假的，模型输出的有害内容也会分别增加11.2%和7.2%。”该专家说。

尽管如此，技术的局限性并不能成为人工智能开发者的免责理由。受访法律界人士普遍认为，本案具有一定特殊性，原告并未因误导性信息遭受明显的人身或财产损失；原告使用的是通用的生成式人工智能应用，而不是加载了人工智能软件的机器人或更精准的行业应用。

“要求人工智能开发者为所有生成内容的准确性负责，既不现实也不合理。”薛军表示，但模型开发者不能以此为借口，仍需尽到相应义务并进行风险提示，避免用户盲目信赖造成不良后果。

肖芄表示，如何认定生成式人工智能的侵权责任，是一个少见的司法前沿问题，希望妥善准确的判决能引导开发者或平台提升信息标准，“找到促进创新和权益保障的平衡点”。

业内人士建议，建立国家级人工智能安全评测平台，对新开发的人工智能大模型进行严格测试；同时，相关部门和平台要加强AI生成内容审核，提升检测鉴伪能力。（记者 吴帅帅）