法治视角下AI"幻觉"侵权的规制路径

人工智能大模型的广泛普及，正催生一类新型侵权形态——AI"幻觉"侵权。所谓AI"幻觉"，系指大语言模型产出表面流畅合理，实则谬误乃至全然杜撰的内容。若此类虚假信息恰好映射现实世界的特定自然人或市场主体，便可能引致实质损害。譬如，个体的社会评价可能因一段从未发生的"陈年旧事"而遭到贬抑，企业的商业信誉可能因一则凭空捏造的"经营动态"而受到冲击。近段时间，多起由AI生成虚假信息所引发的侵权争议相继诉诸司法，引发公众高度关切，如何以法治手段予以回应，已成为亟需深入探讨的议题。

从既有案例观察，AI"幻觉"侵权的表现形式主要涵盖：编造重大负面不实信息，直接侵犯特定主体的核心人格权益，例如无中生有地捏造个人存在违纪违法情形，或虚构企业发生质量安全事故；还包括生成事实性误导内容，对正常的社会运行秩序形成一定扰乱，如错误陈述企业经营实况、捏造个人职业履历等。两类情形的共性在于，其并非源自主观故意侵权，而是算法在概率推演中出现偏差，却经由开放的信息渠道得以扩散，令受害方陷入无从预防的窘境。

与传统网络侵权多肇始于人为恶意相异，AI"幻觉"侵权通常植根于算法体系的技术固有缺陷。根据《生成式人工智能服务管理暂行办法》之规制，"提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德""尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益"。然而当受害方面对AI"幻觉"侵权背后的"算法黑箱"时，往往在寻求法律救济之际遭遇诸多障碍。其一，取证、举证障碍。传统网络侵权内容多以网页、图文等静态形态留存，受害方得以通过公证等途径固定证据。但生成式AI的输出呈动态、随机特征，同一用户于不同时 demographic 间输入同一提示词，所获回应可能截然相异。该技术属性令侵权过程具备瞬时性与不可复制性，侵权证据难以回溯追溯。其二，制止侵权障碍。AI"幻觉"侵权常发生于与搜索引擎、公共查询平台深度嵌合的场景。一旦底层模型将虚假信息固化，即会污染信息源头。即便在诉讼周期内，AI仍会持续向各查询者输出同一内容。在法院作出生效裁判前，受害方的合法权益或将持续受损。其三，损失量化障碍。无论是自然人的名誉权，抑或企业、组织的商誉，其损害主要体现为社会评价降低、公众信任流失等无形损害。此类损害往往难以精确折算为财产损害，进一步加大了受害方的救济难度。面对上述困境，有必要于现行法律框架内，从以下维度探索更具针对性的应对之策。

在责任判定维度，进一步明晰AI"幻觉"侵权的过错判定标准与举证责任规则。依据《中华人民共和国民法典》关于过错责任的一般性规定，以及《生成式人工智能服务管理暂行办法》关于服务提供者承担网络信息内容生产者责任之要求，AI"幻觉"侵权的责任主体通常为服务提供者，适用一般过错责任原则。司法实务中，法院在判定过错时，核心审查服务提供者是否履行了合理注意义务，涵盖是否设置风险警示、建立纠错通道、对严重不实内容实施拦截措施等。服务提供者未履行上述义务致损的，应承担侵权责任。在举证层面，AI"幻觉"侵权的技术特性决定了生成内容的机制与决策依据由服务提供者掌控，受害人难以知悉和取得。对此，在受害人提供初步证据证实侵权内容系由某AI服务生成且内容指向其自身后，法院可要求服务提供者就自身已履行合理注意义务承担举证责任。针对不同类别的生成内容，应构建差异化的注意义务标准：涉及恐怖主义、煽动暴力、侵害隐私或捏造犯罪事实等信息的，服务提供者应承担更高注意义务，未能有效拦截的，应承担法律责任；属于新闻误报、常识偏差等一般性不准确信息的，服务提供者已履行风险警示义务并提供纠错通道的，可认定其无主观过错。

在救济机制维度，构建事前预防与快速响应相融合的救济体系。在司法程序中，应充分发挥行为保全制度在AI"幻觉"侵权案件中的功能。法院可依当事人申请，于诉前或诉中责令平台暂停生成特定虚假内容，及时阻却损害蔓延。在平台治理层面，服务提供者应针对涉个人、涉企业的侵权信息建立快速响应机制，在接到权利人有效通知和初步证据后，及时对底层模型或知识库的相关信息输出进行人工核查与暂停，从源头防范侵权行为反复出现。在损害赔偿环节，法院可综合考量AI服务的影响力、虚假信息的传播范围、侵权内容出现的频次以及社会评价的实际变动等因素，酌情确定合理的赔偿数额，实质性填补权利人损失。

在制度配套维度，进一步落实生成式人工智能服务的信息记录留存要求。AI"幻觉"侵权之所以难以追溯，一个重要成因在于生成过程缺乏有效的记录与存证。《生成式人工智能服务管理暂行办法》第十四条第二款要求服务提供者发现违法内容的，应留存有关记录。在此基础上，有关部门可研究确立更为明确的存证技术要求，令每一次内容生成的关键要素均有迹可循。此类信息在涉诉时应按照法定程序调取和审查，为司法裁判提供可靠的事实基础。同时，网信、市场监管等部门应强化协同，建立侵权信息的快速受理和核查机制，畅通行政保护与司法保护的衔接。行业协会应推动制定风险防范的行业规范，引导服务提供者将AI"幻觉"侵权风险防控纳入合规建设，推动形成预防与治理相结合的工作格局。