生成式人工智能虚假信息的责任认定与规制路径

司法研究对于推动审判现代化、服务中国式现代化至关重要。长期以来，北京二中院高度重视司法研究工作，围绕理论实务前沿问题、案例培育解析等形成了一批兼具专业深度与实践价值的研究成果。为传播法治理念、弘扬法治精神，本公众号开设“明理”专栏，以“明理之辨”研讨前沿问题，以“明理之案”阐释裁判观点，让法理之光穿透专业壁垒，让司法智慧走进公众视野。

本期聚焦的话题是生成式人工智能虚假信息的侵权责任认定及其规制措施。

生成式AI技术进步虽带来便利，却也加剧了虚假信息的制造与传播。从名人被深度伪造到公共安全领域的虚假新闻，这类信息对人格权、生命健康及社会管理造成了叠加冲击，亟需在责任认定和救济上作出回应。

一、生成式人工智能引发虚假信息的风险

（一）生成式人工智能虚假信息的技术逻辑与风险属性

生成式AI的“黑箱”特性导致生成过程不透明，增加了责任追溯和真实性规范的难度。其诱发的虚假信息具有规模化扩散、低边际成本和隐蔽性特征，容易侵蚀人格利益和公共秩序。

（二）生成式人工智能虚假信息的应用场景及侵害法益

从法益角度看，主要涉及四类场景：一是侵犯人格权，如用深度伪造技术伪造公众人物影像，损害名誉、肖像等；二是危害生命健康，如医疗AI给出错误建议导致身体受损；三是扰乱社会秩序，如编造虚假新闻引发舆情；四是破坏市场秩序，如虚构企业破产导致股价波动。总体呈现公私法益交织、人格与财产侵权并发的格局。

二、生成式人工智能虚假信息侵权的法律适用难点

（一）关于侵权责任主体的界定

1.生成式人工智能服务提供者的法律定位困境

现行制度多将AI界定为“信息服务”，但《暂行办法》要求提供者承担内容生产者责任。实务中，服务方提供算法并加工内容，实质上具备控制力，更似“内容创作者”而非“信息传递者”。相关表述已突破传统平台中立性，应将其界定为网络信息内容提供者，从过错或严格责任角度探求归责路径。

2.多主体参与下的责任分担困境

生成AI内容涉及研发、部署和使用多环节。研发者负责模型架构与数据，部署者上线调控，使用者驱动输出。需结合技术实践，对各主体进行责任规范。

（二）关于侵权归责原则的确定

探讨AI算法侵权责任时，通常涉及技术中立免责、严格责任和过错责任三种标准。

服务提供者常以技术中立为由免责，但AI深度参与内容决策，非单纯通道，中立原则难适用。

严格责任虽能规避过错证明难，但在AI领域适用困难：一是政策导向需鼓励创新，无过错责任会增加合规成本；二是法理上，AI风险收益呈链条分散，与严格责任的前提（高度危险与收益集聚）不符。

排除上述路径后，过错责任更具合理性。它既能避免过重责任，又契合AI特征。过错责任通过考察各环节的注意义务，引导合规。判断标准是是否违反相应义务，并区分风险等级。若已采取措施预防、提示、识别和处置，一般无过错；反之则有。

三、生成式人工智能虚假信息侵权责任的规则构建

（一）人工智能价值链上的责任分配

1.以控制力与收益归属为判定标准

AI价值链指从开发到部署使用的价值分配。欧盟《人工智能法案》强调各主体对安全运行和权利保障的作用。结合产业现状，研发者、部署者与使用者均为主体。

责任分担应结合“控制力—收益归属”判断。控制力体现预防和纠正失实信息的技术组织能力；收益归属判断是否从算法运行中获利。

据此，研发者在算法和数据上控制力最强，应承担最严格的预防义务；部署者是风险集散中枢，应加强过滤和日志审核；使用者虽技术能力有限，但需善意使用和必要审核，故意制造传播则直接担责。

2.研发者与部署者共同侵权的责任承担

研发者和部署者的责任分担分两类：

一是若二者均有过错，形成技术协同和经济利益趋同，构成共同侵权。对外承担连带赔偿责任；对内根据控制力、收益和过错划分比例，若缺陷在研发环节，研发者主责，部署者分责。

二是仅一方有过错，参照产品责任不真正连带责任，对外连带赔偿，对内向过错方追偿。

（二）过错责任与风险分级下的注意义务梯度设定

1.以危害半径与侵害法益双重标准认定风险等级

生成式AI应用于写作、金融、医疗等场景，风险强度差异大。《暂行办法》规定包容审慎和分类分级管理。基于风险与责任匹配原则，应按危害半径和侵害法益划分风险等级。

危害半径衡量受众规模（使用者个人或第三人损害）；侵害法益包括人格、财产及公共利益。风险分为低、中、高三类：低风险（创意草稿等私域，传播范围小）；中风险（第三人/不特定公众，侵害财产/健康等，范围扩大）；高风险（公共安全/金融/政务，侵害公共利益，后果严重）。

2.依据风险等级认定注意义务

如前所述，仍适用过错责任。不同等级有不同义务标准：

低风险：标识与提示义务。提示用户“AI生成，仅供参考”，并添加显式/隐式标识。完成义务则无过错。

中风险：内容审核与及时处置义务。审核训练数据和输出内容；接到反馈24小时内下线，防止持续传播，算法纠错。

高风险：严格防范与先审后发义务。研发者做数据分级审查；部署者建立先审后发机制，提高阈值，审慎复核；使用者逐条核验，审慎发布。

（三）免责抗辩：现有技术水平抗辩

生成式AI受技术限制。“现有技术水平抗辩”指若按现有科技水平无法发现缺陷，要求生产者担责不利于研发。在AI场景下，即便采取措施尽到合理注意，因技术缺陷仍可能产生侵权内容，允许以现有技术为标准主张免责或减责。

（本文获评第二十届环渤海区域法治论坛优秀奖，仅代表作者个人观点，因篇幅限制有内容删改，为方便电子阅读已略去原文注释。）

作者

李天梅，北京市第二中级人民法院民二庭四级法官助理。曾获第二十届环渤海区域法治论坛优秀奖。