首例AI‘假律师’案：OpenAI或赔千万

AI违规执业

他采纳了ChatGPT的建议解聘律师，随后利用AI撰写了44份法律文书，其中一份引用了虚构的判例“Carr v. Gateway, Inc.”。保险公司为应诉耗资30万美元，最终起诉OpenAI，索赔金额超1000万美元。

这并非虚构情节，而是2026年真实发生的“AI违规执业”首案。

01 一个“AI建议”引发的连锁反应

2022年，一名长期伤残保险受益人与保险公司达成和解，并签署了永久免责协议。但两年后，他对和解结果不满。

律师回应称协议已生效、不可反悔。当事人将律师邮件复制粘贴至ChatGPT，询问是否遭遇“煤气灯效应”。ChatGPT分析后认定律师存在情感操控，并开始提供法律建议、协助起草诉讼文书。

在ChatGPT的鼓励下，他解雇了律师，完全依赖AI自行起诉。此后，他向法院提交了44份由ChatGPT生成的动议和通知，全部被驳回。其中最致命的是：一份法律文书中引用的判例“Carr v. Gateway, Inc.”——完全是AI编造的。

02 诉讼指控：AI“违规执业”

保险公司NIPPON于2026年3月4日向法院提起诉讼，这是全球首例针对AI公司因提供法律服务而提起的违规执业诉讼。

诉讼指控的核心有三点：ChatGPT怂恿当事人撕毁和解协议；AI生成虚假文件滥用司法程序；OpenAI从未取得任何州的律师资格，却提供法律分析、案例研究和文书起草。

索赔金额包括约30万美元的应诉律师费，以及1000万美元的惩罚性赔偿，总计约1030万美元。

面对指控，OpenAI回应称：其使用条款已明确规定用户不得将ChatGPT用于法律或医疗建议。但这引发了更深层的问题——一份藏在产品协议中的免责声明，能否成为AI逃避责任的“挡箭牌”？

03 法律信息的“两条红线”

此案的核心法理争议，在于AI输出的是“法律信息”还是“法律建议”。前者是受言论自由保护的公开知识；后者则是律师资格考试、执业许可、职业伦理约束才能提供的专业服务。

在2025年“Walters v. OpenAI”案中，法院曾认定ChatGPT对生成的诽谤性内容不承担直接责任。但在违规执业语境下，“定制化建议”与“信息输出”的边界截然不同——本案中的当事人获得了针对性的法律分析，并被直接用于法庭文件。

此外，保险公司还援引了各州禁止“未经授权执业”（UPL）的法律。根据这些规定，只有持证律师才能提供法律建议、起草诉状——AI显然不在许可范围内。

04 律师的“AI翻车”也来了

AI“违规执业”不仅困扰普通用户，法律从业者同样频频“翻车”。

在北京通州法院审理的一起股权代持纠纷中，原告代理人向法院提交了一份书面意见，其中引用了“最高法院某案例”和“（2022）沪01民终12345号案件”。从描述来看，这两个案例与本案事实“高度契合”，堪称“完美佐证”。

承办法官出于职业敏感进行了检索核实，结果真相大白：所谓的“最高法院案例”子虚乌有；“（2022）沪01民终12345号”实际是一起民间借贷纠纷，与代理人描述的事实完全无关。最终，代理人承认是用AI大模型生成后直接复制提交，未作任何核实。

判决书明确对代理人提出批评，其代理意见未被采纳。法院强调：律师是法律服务的最终责任人，AI使用过错责任不可转移。

05 “信息”与“建议”的模糊地带

本案的核心在于厘清“信息”与“建议”的边界。AI可以输出“离婚财产一般均分”这类法律信息，但如果针对具体案情分析“你的情况适用均分还是照顾原则”，就跨越了专业建议的红线。

法律服务的门槛设定有其深层逻辑：律师需要通过资格考试、遵守职业伦理、承担受托责任、接受监管约束。而AI没有“身份证”，无法被吊销执照，也无法被送进伦理委员会。这是AI无法跨越的资质壁垒，也是本案追问的根本问题。

值得关注的是，就在本案发生一个月后，最高人民法院在2026年工作报告中明确表态：AI辅助审判系统必须“稳慎研发”，“司法责任主体只能是法官”，AI不能替代裁判，人类须为最终结果担责。宁夏律师协会也发布了行业首份《律师使用生成式人工智能指引》，明确要求律师对AI输出结果承担独立审查和最终责任。

AI正以惊人速度渗透法律服务领域。当一位非法律专业人士把AI的法律建议直接提交法庭，当一位律师把AI“编造”的判例塞进诉讼文件，我们不得不思考：当AI开始“给人断案”，人类制定的法律，该如何给AI“定罪”？