AI造谣,谁来负责?
谷歌败诉:慕尼黑法院判决,宣告AI‘避风港’时代终结
2026年5月底,德国慕尼黑。
两家小型出版公司的老板,像往常一样打开电脑,在谷歌搜索公司名称。结果他们傻眼了。
搜索结果顶部,赫然出现一个AI自动生成的摘要框,用极其权威的学术口吻宣称:这两家公司声誉极差,涉嫌诈骗、设置订阅陷阱、伪造发票催款,收钱却不提供数字内容。
老板们震惊:我们从未做过这些事!
他们立即查看摘要下方的‘参考链接’,逐一点开,寒意袭来——所有链接内容均无任何相关指控,一字未提。
这些捏造的罪名,完全是谷歌AI凭空编造。它可能在爬取网络数据时,将其他公司的黑历史、无关的律师警告信,通过一套晦涩的概率模型,强行嫁接到这两家无辜企业头上。
公司随即起诉谷歌,案号:26O869/26。
这场诉讼不仅让谷歌遭遇AI搜索时代最耻辱的败诉,更撕下了AI行业长期披着的‘免责外衣’。
谷歌法务团队一上庭,便熟练搬出两层防御话术。
第一层:‘避风港原则’。谷歌称:我们只是搜索引擎,仅作为用户与第三方网站的中介,不对网络内容负责,如同邮递员递送勒索信,不能因此追究邮递员责任。
第二层:‘用户自担风险’。律师强调:AI摘要下方附有参考链接,用户有手有眼,点开即可发现内容不符,自然能判断AI出错。我们早已提示:AI信息不可轻信。
这套说辞,谷歌过去二十年屡试不爽,用于应对版权与虚假信息纠纷。
但在慕尼黑法庭,主审法官直接将其驳得体无完肤。
法官的判决逻辑堪称降维打击:当谷歌仅提供蓝色链接时,它确实是中介——用户点击后阅读的是第三方内容。但AI摘要不同,它不是搬运,而是用自己的语言、逻辑和结构,重构了一段全新文本。
这就像邮递员不仅拆了你的信,还擅自篡改内容,再以自己的名义广播。你还能说自己只是个‘中立传递者’吗?
法院明确裁定:AI摘要中的内容,即为谷歌的言论。既然是你主动输出的,你就是作者、出版者,不再享有中介豁免,必须对内容真实性负全责。
至于‘用户应自行核实’的借口,法官直击要害:你们推出AI摘要的初衷,不正是为了让用户免于点击链接、直接获得答案吗?如果用户看完AI还要逐一点开链接核对真假,这功能还有何意义?
这不是谷歌第一次耍这套把戏。
此前,加拿大航空也栽过同样跟头。一名乘客因祖母去世需紧急购票,向加航AI客服咨询退款政策,AI斩钉截铁回复:‘先买全价票,90天内可随时退款。’
乘客照做。事后持死亡证明申请退款,却被拒。官方条款写明:仅限出行前申请,出票后不退。而AI说的‘90天退款’,纯属虚构。
加航辩称:AI是‘独立法律实体’,其言论不代表公司;用户未点链接核实,责任在用户。
加拿大法官怒斥:你们为省人力、显科技感,主动将AI挂上官网,用户因信任你们品牌才与之互动。怎能一边享受AI红利,一边把它的胡言乱语当空气?
最终,加航被判按AI承诺全额赔偿。
两案并观,全球法律界正形成共识:谁放狗咬人,谁赔钱。无论这狗叫‘算法’还是‘大模型’,只要是你推向市场、代表你与用户沟通的产品,其法律后果必须由母公司承担。
谷歌反复强调:这只是‘个别、偶然的错误’,技术仍在迭代,BUG难免,不能因一两个错否定整体架构。
但懂大模型的人都清楚——‘幻觉’不是偶发BUG,而是基于概率预测的Transformer架构的基因缺陷。
大模型的本质是什么?它不是理解语言的超级大脑,只是一个豪华版的文字接龙。它说‘出版公司搞诈骗’,不是因为找到证据,而是因为这个词组合在概率模型中最‘顺口’。
谷歌在未解决幻觉问题前,就将半成品强行推向全球数十亿用户。其产品设计深谙人性——
免责声明藏得多深?需手动点‘显示更多’,再在极小字号中寻找‘AI可能出错’。更离谱的是,部分浏览器中,这段文字直接消失。而虚假内容却被精心排版,甚至伪造编号引用,伪装成权威信息。
谷歌心知肚明:用户懒。它要的,正是用户盲目信任AI答案,从而牢牢锁定在平台。
这无异于允许药企将未经临床测试、吃死人不赔的假药,摆在药店最显眼处,瓶底用0.5毫米字体印‘研发阶段,概不负责’。
天底下哪有这种好事?
慕尼黑法院不吃这套。判决谷歌败诉,立即停止传播虚假信息,并承担80%诉讼费。
谷歌已上诉,游说全球。其核心论调充满威胁:若每条AI生成内容都要按传统媒体担责,整个生成式AI产业将停滞,响应速度如牛车,答案沦为废话。
翻译过来:挟技术以令天下。
但这种恐吓正失效。互联网生态中,各方对巨头‘既要流量、又要光环、绝不担责’的做派忍无可忍。这场判决背后,站着全球‘苦谷歌久矣’的内容创作者——过去二十年,他们至少还能分流量;如今,谷歌用他们数据训练AI,反手用AI截杀其流量,还毁其声誉。
更讽刺的是,谷歌在AI摘要中使用低质量模型,原因极其现实——算不起账。
科技播客实测:即便搜索‘testing’,不同地区、刷新后,AI输出的定义全不同,引用剑桥词典却与原文不符。为何不缓存?因AI搜索算力成本压得喘不过气,为应付每日百亿次请求,只能部署轻量、快速但逻辑粗糙的阉割模型。
过去,他们靠让公众当免费小白鼠分担风险。如今法院将风险原封不动砸回企业脸上。若真想降低错误,就必须部署参数更大、逻辑严密、带事实核查的顶级模型——但这意味着每次搜索的电费、服务器折旧、冷却成本将几何级飙升。对谷歌而言,这是能拖垮财报的无底洞。
颤抖的不止谷歌。Perplexity、微软Copilot、一众AI搜索初创公司,底层逻辑与谷歌无异:白嫖网页内容,再用AI洗稿。既然法院能判定谷歌AI内容为‘第一方言论’,同理明天就能起诉全球任何AI搜索平台。
这些靠数亿美元融资、估值翻数十倍的AI新贵,如今面临残酷现实:他们以为自己卖的是效率工具,法律却视其为随时可能因造谣破产的高风险自媒体。
硅谷CEO最爱在发布会描绘大模型全知全能,一上法庭,面对法官与索赔,立刻哭诉‘技术不成熟’‘模型智商低’,求社会包容创新。
慕尼黑法院用判决宣告:法律不听故事,只看事实。你有能力将产品推上舞台、赚取百亿流量与估值,就有责任控制它的行为。若技术做不到AI百分之百不说谎——你就没有资格把它当成熟商品出售。
当法律红线终于划定,AI行业,是被迫戴枷锁,还是被迫真正长大?