司法领域人工智能的“幻觉”问题及其应对策略

在司法实践中，人工智能的“幻觉”现象正推动技术治理进程的加快，由此产生的纠纷与争议也愈发常见。例如，由人工智能起草的起诉状可能误判诉讼请求，或依据不完整事实与主观臆断进行论证，导致法律文书失真，这既加深了当事人对错误结果的“算法盲从”，也削弱了对司法机关的信任。2025年4月，厦门海事法院在一起确认仲裁协议效力案件中，作出裁定要求代理方全面公开人工智能的使用细节，此举标志着人工智能技术披露原则正式引入我国司法体系。杭州互联网法院审理了国内首例因人工智能幻觉导致的侵权案件，直面了幻觉生成内容的性质界定以及服务提供者责任等前沿议题。目前，针对司法人工智能幻觉的理论探讨尚显不足，尽管法答网已出现相关实践问题，但尚未形成体系化的裁判标准。因此，如何有效管控幻觉风险，已成为数字化法院建设进程中的核心议题。

一、司法领域人工智能“幻觉”的主要表现

1. 编造法律依据。未经法律专业训练的人工智能可能生成虚假的规范性文件，并附上格式化的文号、发布单位等详细信息，从而增强算法可信度并提高识别难度。例如，在查询刑民交叉案件的责任划分与处理规则时，人工智能可能杜撰一份名为“最高人民法院关于审理经济合同纠纷案件中涉及经济犯罪嫌疑若干问题的规定”的司法解释及错误文号，并总结出不相符的法律观点。当法律数据库更新不及时或覆盖不全时，人工智能可能通过文本拼凑、删减与概括等方式，生成看似合理实则虚假的“高仿”法条，或者错误解读和引用“过时”条款，以此增加错误信息的可信性。

2. 捏造司法案例。在案例检索方面，通用大语言模型多以网络公开信息为训练基础，若缺乏专业法律数据库支持，其处理复杂指令和混杂信息的能力有限，容易因用户指令模糊而生成形式规范但完全虚构的案号与案例详情。法律垂直领域的大模型则受司法文书格式化特点的影响，不仅可能虚构案号等基本信息，还容易错误生成裁判文书的细节内容，以形式上的真实性掩盖实质内容的失实。

3. 产出错误法律文书。通用大语言模型由于未经过司法文书专项训练，在“事实与理由”部分可能不当采用条目式叙述并片面界定争议焦点，从认知层面干扰法官的判断。其基于概率生成的运算机制难以应对法律语言的逻辑性与复杂性，导致无法准确理解但书、例外等专业表述，进而错误替换或调整法律术语，形成概率性的语言幻觉。

二、司法领域人工智能“幻觉”的治理难题

第一，算法盲从对司法权威的侵蚀。人工智能的算法认知本身存在固有偏见与刻板印象，而算法盲从会放大并扭曲这些风险。随着人工智能在司法领域的应用，部分人对其认知能力与客观性的过高估计，进一步强化了算法信任。相比于明确标注为人工分析预测的内容，有些人更倾向于将人工智能生成的信息误认为是可靠性更高的准事实或准法律意见。尤其在司法场景下，部分人基于对算法的信任而倾向于采信其输出的所有信息，其结果则是削弱了传统法律知识与司法裁判说理的专业性、稳定性与权威性。

第二，幻觉多样性与规则统一性的矛盾。人工智能预训练语料多通过自动化方式从开放网络获取，其中混杂着大量非权威、虚构、过时或带有偏见的法律信息，进而导致幻觉形式多样化。对此，部分法院通过裁定方式要求当事人披露人工智能使用情况，并提交验证生成内容准确性的证明，但零散化、碎片化的应对措施正逐渐影响司法程序的统一性和可预期性。目前，实践中也存在使用生成式人工智能大模型以及自主翻译、图文识别等类人工智能技术的情况，但前述裁定并未明确应披露的人工智能技术范围，导致当事人对诉讼程序的稳定性及自身的披露义务缺乏明确预期。

第三，幻觉隐蔽性与司法责任制的平衡。在司法责任制运行背景下，幻觉的隐蔽性不仅会加剧各责任认定环节的识别困难，也会影响“让审理者裁判、由裁判者负责”的司法责任制原则。例如，在因果关系证明上，幻觉的隐蔽性会导致归因偏差，即有些人倾向于将不利诉讼结果归咎于法官个人因素，而非诉讼风险、证据灭失、代理水平或法律条文局限等复杂因素。此外，还存在结果锚定风险，当预见到幻觉可能引发追责风险后，法官容易采取相对保守的策略，若因过度论证反而为公众质疑提供材料，则会形成回避价值判断、偏好调解的倾向，最终损害司法说理的功能价值。

第四，幻觉规制与司法成本的冲突。通过个案裁定应对幻觉的方式虽体现了司法系统对技术风险的预防意识，却因其碎片化、分散化、非协同性的特质，难以有效应对不同场景下的所有幻觉风险。实践中，法官发布司法裁定的速度和自主性远超系统性协调的步伐，导致各地法院在披露范围、证明标准、惩戒措施等具体要求上存在差异，当事人和不同地区的法官被迫耗费额外成本去了解并适应不断更新且可能相互冲突的裁定，反而制造了新的不确定性和额外的司法负担。

三、司法领域人工智能“幻觉”的治理对策

一是构建人工智能司法应用披露制度。首先，统一人工智能司法披露规则。针对人工智能应用频繁、风险突出的领域，可制定普遍适用的披露规则，明确生成式人工智能的适用边界与程序要求，回应定义模糊与范围争议等问题。其次，强化个案中人工智能使用责任的风险提示。在统一的披露框架下，对可能存在风险的个案，要求当事人及诉讼代理人就其人工智能使用情况履行说明义务，并告知其可能面临的虚假陈述风险及法律后果。此外，注重对诉讼当事人和代理人的规范引导。可通过官方网站、诉讼指引手册等渠道进行普法宣传，重点阐明当事人和代理人在提交司法文书时应披露的工具类型、内容范围等信息，并提醒其履行对事实陈述、法律主张及引证内容准确性的核实义务。

二是明确全主体共担的幻觉责任链条。将人工智能的技术提供方、模型设计方及技术使用方等共同纳入责任体系，构建覆盖全主体的责任框架，以此突破传统司法问责单一性的局限。首先，该框架并非将技术公司置于司法问责的“结果责任”地位，而是强化其在算法责任、技术伦理、幻觉抑制等维度的义务，将其协同纳入司法责任规制的整体架构之中。其次，应根据幻觉产生的具体情况厘清法官的责任边界，在婚姻家庭、劳动争议等价值判断复杂的案件中，法官应履行审查说明义务，在审理报告或内部文件中对采纳、修正或拒绝人工智能建议的理由进行阐释，防止幻觉渗透裁判说理。同时，法官在审查过程中如发现人工智能存在知识缺陷或技术问题，负有向设计方、维护者反馈的义务，以促进系统优化与风险防控。此外，诉讼当事人负有如实陈述与确保举证真实性的法定责任，代理律师应履行专业审查义务，确保人工智能辅助下提交材料的准确性，若存在故意诱导或隐瞒人工智能错误信息的情况，则需要承担民事诉讼法框架下有关虚假诉讼、扰乱法庭秩序以及诉讼代理人职业伦理惩戒等责任。

三是设计多样化的幻觉识别方案。司法领域的幻觉现象多集中于大模型缺乏相关法律知识、记忆错误司法信息、无法准确评估自身知识边界等应用场景，具备相应的知识素养是识别并规避幻觉的关键。首先，构建幻觉知识体系，法院系统应梳理司法实践中高频、高危的幻觉类型及其表现形态与诱发场景，并建立典型偏差案例库，通过真实或模拟案例展示幻觉如何导致裁判偏离或论证错误。其次，在“一张网”平台中增设人工智能生成信息的校验工具，明确对事实认定、证据评价、法律适用等不同诉讼环节的“幻觉清单”进行强制关键节点自检，在文书生成和校对阶段自动推送高度相似但结果差异明显的类案，强化内容真实性检验。此外，可制定人工智能司法应用指南，明确司法场景中人工智能的应用范围、责任主体、法律后果等内容，提升司法工作人员的技术素养，增强应用能力与风险意识。

综上，在数字技术赋能审判工作现代化的今天，对幻觉现象的治理已超越了单纯的技术性考量，更关系到数字社会中司法效率、司法信任乃至司法权威的维护。在司法应用中，对人工智能幻觉的识别、矫正乃至共存必将是一个动态、交互式的“螺旋上升”过程，这也将推动法律科技与司法应用的深度融合，助力中国式人工智能司法审判体系的构建与完善。