AI伪造虚假判例，印度最高法院怒斥：司法界的博帕尔毒气

2026年7月2日，印度最高法院的开庭陈述便将整个法律界推向了风口浪尖。

"这是一起典型的审裁庭盲目依赖人工智能生成的不实材料进行裁决的案例。"

判决书中反复出现的“又”字令人警醒，此类事件并非孤例，而这次尤为荒唐：一起涉及数十亿卢比授信担保的公司破产案，竟因几份“查无此判”的判例，被最高法院当庭撤销重审。

▲ 印度最高法院可报告判决首页，案号2026 INSC 668，案名 POOJA RAMESH SINGH 诉 JAMMU AND KASHMIR BANK LTD.,首段开宗明义指出审裁庭依赖AI生成的不存在先例。

案情其实并不复杂。 Essel Infraprojects陷入破产程序，查谟和克什米尔银行是债权人之一。 这类案子在印度公司破产与重整体系(IBC)里每天都在发生，走的是国家公司法审裁庭(NCLT)→国家公司法上诉审裁庭(NCLAT)→最高法院的三层结构。

真正让此案载入史册的，是NCLT在裁定中引用的六份所谓的“先例”。

法院逐一核实后揭示：这六份材料毫无根基。 有的案号对应的判决在数据库里根本查无此文；有的引用是真的，但判决书里的段落是编造的；还有的干脆把一起真实判例的案号，贴到了另一起完全不相关的案名上。

更令人啼笑皆非的是，银行律师随后书面声明：这六份材料根本未经过他们之手。 也就是说，伪造先例这件事，发生在审裁庭“自行研究”的过程里。 NCLAT二审时，也没有一个人把这六份先例打开原文核对过。

最高法院制定了一套近乎严苛的裁判标准，业内后来称之为**“iota测试”(iota即“一丝一毫”)**，只要有一丝一毫的幻觉材料混进了决策过程，这份裁判在法律意义上就等于不存在，必须撤销。 法院根本不认“主要理由站得住就该放过”这套逻辑，当庭祭出零容忍。

▲ 案号、日期与法院要点的结构化摘要:律师未经核验引用构成职业不当行为;法官依赖构成严重失职;只要裁判受假先例丝毫影响即应撤销;法院同时澄清并不反对合法使用AI。

案件至此，最令人费解的问题浮现：若律师未提交，这些材料源自何处？

答案指向审裁庭内部，是他们在“研究”过程中生成的。 换句话说，污染没有发生在律师递交材料这一环，而是发生在法官/助理团队的研究，起草，签署这条内部链条里。

这暴露了一个鲜少公开讨论的责任真空。 此前全球范围内被曝光的AI幻觉判例丑闻，几乎都是律师把ChatGPT的回答原样粘进诉状，吃罚单的也是律师。 但这起案子里，律师没做错什么，污染源头却在法院内部。 最高法院的纪律指引目前主要指向律师执业不当，可如果制造假先例的是审裁机构自己，谁来对这条内部链条负责？

法律媒体The Wire的质问直击要害：假AI案例已经进了破产裁定，最高法院也撤销了，但“到底该谁负责”这个问题，至今悬而未决。

最高法院在判决中用了一个极其罕见的比喻来形容AI幻觉对司法系统的威胁，

"...like releasing methyl isocyanate into the domain of law and justice ， invisible, insidious, and catastrophic."

“如同向法律与正义的领域释放甲基异氰酸酯，无形、隐蔽,而且是灾难性的。”

甲基异氰酸酯，正是1984年博帕尔惨案里泄漏致上万人死亡的剧毒气体。 法院选这个词绝非信口一提，它想说的是：假判例进入司法系统的过程,和毒气泄漏一样,你闻不到、看不见,等真正察觉的时候,伤害已经造成了。

在判例法体系下，“先例”是法律推理的骨架。 假先例意味着骨架本身是虚构的，判决书读起来依然逻辑严密、格式规范,像模像样地引经据典,但撑住这一切的权威根本不存在。 这种伪装性,正是它比普通错误更危险的地方。

▲ 网友@RaghavNC将法院的比喻转化为公众语言:假判决无形而隐蔽,发现时已是灾难;AI已经进了法庭,剩下的问题是“我们要如何让它进来”。

MediaNama在裁决次日发文，标题写着“10 cases that show Indian courts have an AI hallucination problem”。 潜台词摆得很明白：7月2日这起，只是压垮骆驼的最后一根稻草，前面早就压了好几根。

回溯过往，类似剧情已多次上演：

▲ BBC报道：一名初级民事法官在维杰亚瓦达物业纠纷中引用了四份后被认定为AI生成的假判决，当时的高院以“法律原则适用正确”为由未予撤销，埋下了7月裁决升级处理标准的伏笔。

从“善意错误可以放过”到“一丝幻觉也要撤销”，印度最高法院用不到半年时间，把标准从宽松一口气拉到了行业里最严的一档。

若仅是印度法院的个案，这条新闻的分量会轻很多。 但把镜头拉远到全球，会发现同样的剧本正在不同法域反复上演。

美国：2023年的Mata v. Avianca案早已是这个议题的经典案例。 原告律师在联邦法院书状中引用了多份ChatGPT生成的假判例，对方律师核查时发现，这些“案例”根本查不到，但恰好可以在ChatGPT里问出来。 纽约南区联邦法院最终对涉事律师及律所处以制裁。

美国律师Rob Freund当时在社交媒体上的评论，放到今天读依然刺耳：

"How does this keep happening?"

“这种事怎么会一而再、再而三地发生？”

英国：2025年6月，英格兰与威尔士高等法院也发出了严厉警告。 在一起涉及卡塔尔国家银行、索赔金额约8900万英镑的案件中，当事人提交的45处判例引用里，18处被证实是彻头彻尾的虚构。 首席大法官Dame Victoria Sharp直言，AI误用已经严重冲击司法行政与公众信心，呼吁律师公会紧急行动。

美国的路径偏向事后制裁，英国的路径偏向行业紧急治理，而印度这一次走得最远，它把“污染即无效”写死在了最高法院的裁判标准里，并且第一次把矛头对准了审裁机构自身，不再只盯着律师。

判决书中有一段话值得所有法律人反复咀嚼：AI没有执照，不能被吊销资格证，签字的是律师，起草的是法官与助理。 责任永远落在人的身上，这是这场风波里最不容置疑的一点。

最高法院同时把话挑明：它针对的从来是伪造权威这件事，AI这个工具本身没有原罪。 检索、翻译、转录、日程管理，对已经拿到手的真实材料做摘要和整理，都是相对安全的用法。 真正危险的，是那一句看似无害的指令，“给我找几个支持某某观点的判例”。 一旦模型开始“凭记忆”作答，幻觉率就会陡然上升。

最高法院已要求印度律师理事会(BCI)尽快就此制定成文纪律规则，同时法院系统内部也在起草AI使用规章草案，方向包括要求披露AI辅助起草、禁止把“这是AI写的”当作免责理由、建立审计与责任链条文档化机制。 但截至目前，这些规则大多还停留在草案阶段。

AI治理研究者Luiza Jarovsky在这起判决曝光后，把讨论推向了更尖锐的层面：

"...the elephant in the room: millions of lawyers may be using AI, some citations will hallucinate, and most legal proceedings lack built-in fact-checking mechanisms."

“房间里的大象是，全球数百万律师可能都在用AI,一部分引用注定会产生幻觉,而绝大多数司法程序根本没有内建的事实核验机制。”

▲ AI治理与隐私研究者Luiza Jarovsky(@LuizaJarovsky)的推文将印度这起裁决推向更广泛的讨论：她呼吁各国效仿印度采取零容忍标准，并要求AI产业正视对司法系统的外溢风险。

她的担忧，正是此案最令人不安之处，这次是被抓住了，因为涉案金额够大、争议够激烈，惊动了最高法院。 可全球每天有多少冗长、重复、没人逐字核对的诉讼材料正在流转？那些没被抓住的假判例，可能已经在悄悄影响着某个中间裁定、某场调解的走向，甚至某个人的一生。

印度最高法院用“iota测试”筑起了一道严密的防线。 防线之外，AI已步入全球法庭，而“如何安全引入”这道题，才刚刚开始有人认真作答。