印度最高法院惊现AI伪造判例,审判庭竟自导自演
庭审中,银行律师举右手宣誓:这六份判例,我们从未引用过。
法官惊呆了。这六条判例明明白白写在下级法庭的裁定书里,被当作压垮一方当事人的关键依据。可现在,连递交材料的律师本人都当庭矢口否认,称这些材料压根没经过他的手。
它们是从哪冒出来的?
2026年7月2日,印度最高法院给出了答案,而这个答案,比任何人预想的都更荒诞。
案子本身并不复杂。查谟,克什米尔银行曾向一家公司提供信贷,Essel Infraprojects作为担保人签了字。借款方违约后,银行依据印度《破产与破产法》第7条,把Essel Infraprojects告上了国家公司法法庭,要求启动破产重整。
2024年8月,NCLT受理了申请。上诉到国家公司法上诉法庭后,2025年9月,二审维持原判。
案件本该就此终结,直到当事人一方的资深律师Madhavi Divan翻开判决书,发现了不对劲的地方。
判决里引用了六条“最高法院判例”,作为支撑裁定的关键先例。她一条条去查:
有的案名根本查无此案;有的案号是真的,但对应的其实是另一起完全不相干的案子;还有的案号、案名都对得上,可判决书里“引用”的那段话,翻遍原文都找不到。
六条判例,没有一条经得起核对。
▲ 印度法律媒体Bar and Bench在判决当日发布“BREAKING”通报:最高法院撤销Essel Infraprojects破产案中NCLT与NCLAT的裁定
按惯常剧本,这时候该轮到某位求胜心切的律师登场,用ChatGPT编几个判例糊弄法庭,然后被对方律师或法官当场戳穿。这样的故事,过去三年在全球法律圈已经上演过太多次。
但这一次,剧本被彻底改写了。
银行方的律师向法院提交了宣誓书,明确否认引用过这六条材料。最高法院自己去查记录,得到的结论是:这些所谓的“权威判例”,是审裁庭通过“自己的研究”取得的。
换句话说,往判决里塞进假案子的,压根没有律师插手,审裁庭自己“研究”出了六个从未存在过的最高法院判例,大大方方写进了自己的裁定书。
这一发现让整个事件的性质彻底变了。以往的AI幻觉丑闻,追责链条摆得明明白白:律师提交、对方核验、法官把关。可当把关人自己成了幻觉的源头,谁来核验裁判者本身?
The Wire的评论一针见血:如果零容忍只用来纪律律师,那审裁机关内部的AI幻觉,会不会反而留下一条“技术事故”的免责通道?
退休印度行政官员Ashok Khemka在社交平台上公开发问:NCLT的成员难道不该被撤职吗?公众的怒火,正对准一个此前很少被问及的问题,审判者用AI造了假,谁来担责。
最高法院的判决书开篇即毫不留情:这“又是”一起审裁庭把AI生成的不存在材料当作先例使用的案件。
又是,这个措辞已经把话挑明:此类案子早已不止一起。
▲ 大众财经媒体NDTV Profit将判决中的比喻和“零容忍”立场写进了简讯,一句判词修辞,就这样传遍了大众媒体的版面
为了说明危害有多深,大法官们在判词里用了一个极具冲击力的比喻:把在司法领域使用虚假、幻觉化的材料,比作在法律疆域释放异氰酸甲酯。
选用这个化学名词,法院显然经过深思熟虑。1984年,正是这种毒气在印度博帕尔泄漏,造成数千人死亡,是人类历史上最惨烈的工业灾难之一。法院用它来形容AI幻觉材料的渗透方式:看不见,暗中侵蚀,等到有人察觉,伤害已经无可挽回。
▲ 大众财经媒体NDTV Profit将判决中的比喻和“零容忍”立场写进了简讯,一句判词修辞,就这样传遍了大众媒体的版面
法院给出的处理原则近乎决绝:哪怕判决里只掺进了“iota”(一丝一毫)幻觉材料,这份决定在法律意义上就不算是决定,必须撤销,不管这条假材料是否真的影响了最终结论。
最终,NCLT与NCLAT的两级裁定被一并撤销,案子发回重审,法院要求两周内审结。最高法院同时下令:印度律师协会必须成立专门委员会,研究律师提交AI幻觉材料的问题,制定纪律后果。
法院也留了分寸:真正要打击的,只是把幻觉材料当真判例使用这件事,用AI辅助裁判依然被允许,前提是必须“人在环上”,对裁决过程保持完全与绝对的控制。
如果说这份判决只是一次孤立的意外,那还不足以让整个法律圈脊背发凉。真正令人不安的是,这类事情已经发生过太多次了。
早在2023年6月,美国的Mata v. Avianca案就已经敲响了第一声警钟:一名律师向法庭提交了ChatGPT编造的判例,被质疑后,他甚至再去问ChatGPT“这些案子是真的吗”,得到的回答是,放心,可以在LexisNexis和Westlaw上查到。
事实上根本查不到。这名律师最终被处以5000美元罚款,这起案子从此成了全球律师伦理培训的标准反面教材。
▲ 2023年的Mata v. Avianca案,是全球公认的“AI法律幻觉”起点案例,ChatGPT编造判例,律师信以为真提交法庭
而在印度国内,这样的剧情近两年一直在重复上演:安得拉邦一名初审法官在财产纠纷中引用了四份AI编造的“最高法院判决”;孟买高院曾撤销一份建立在不存在判例上的税务评估;ITAT班加罗尔也曾撤回过依赖假判例的裁定。
2026年2月,印度首席大法官Surya Kant所在的合议庭就公开表达过对律师用AI起草诉状、引用不存在判决的担忧。同一个月末,同样是这次判决的合议庭大法官Narasimha与Aradhe,处理过一起安得拉邦法官依赖AI假判决的案件,当时的定性用的就是“不当行为”四个字,比“决策失误”严厉得多。
到了7月2日这一次,同样的问题从“初审法官”升级到了“NCLT与NCLAT”这一级审裁庭,涉及的是真金白银的破产重整程序。
独立研究者Damien Charlotin维护着一个专门追踪“AI幻觉司法案例”的公开数据库。截至2026年7月中旬,仅印度一个国家,过滤出的匹配案例就有约12起,Pooja Ramesh Singh一案高居榜首。放眼全球,美国的记录数量已经逾千,加拿大、英国也各自留下了大量案底。
这个数字真正让人心慌的地方,在于它几乎肯定被严重低估了。法律圈本身的特点是诉讼冗长、案卷重复、逐字核验的人力成本极高,这恰恰是AI幻觉最容易藏身的土壤。选题源头,AI伦理研究者Luiza Jarovsky在她的帖文里提出了一个更让人后背发凉的假设:过去几年里,会不会已经有一些生效判决,建立在从未存在过的“先例”之上,只是至今没人发现?
她的判断目前还只是一种警示性推测,没有被计量证实。但结合这份数据库仍在持续增长的曲线来看,这种担忧显然并非空穴来风。
值得一提的是,连英国顶级律所Pinsent Masons都没能幸免,2026年的Cork v Smith案中,该所初级律师用AI研究破产法问题,产出了虚假的法条表述并写进了致法院的正式函件,被法官公开训诫,律所事后不得不主动向监管机构自我报告。印度最高法院在判决脚注里专门引用了这起案例,意思很明白:再大的招牌,也挡不住AI幻觉。
面对越来越密集的幻觉案例,印度司法系统这几年已经多次亮出制度回应。2025年11月,最高法院发布过一份《人工智能与司法》白皮书,把“编造案件与幻觉”列为主要风险。目前,一份《2026年法院使用人工智能条例》草案正在公开征求意见,原则划得斩钉截铁:AI可以辅助检索、摘要、翻译、起草,但不能替代裁决本身;一旦出错,责任要由提交材料的人来扛,“AI这个技术工具”担不起这个锅。
这句总结,或许是整起事件最值得记住的一笔:AI可以加速研究,但责任不能自动化。
法律行业依赖判例、依赖可核验的权威