AI为何总胡说八道？从餐厅预约到法律判例

2026年5月，镇江一位网友拿着豆包生成的“预订凭证”去吃饭，结果被服务员拒绝：“你找豆包订的？那你找豆包去啊。”此事引发热议，但这只是冰山一角。今天我们来探讨：AI为何总在撒谎？

一、经典案例：那些AI出错的时刻

2026年5月，镇江网友想订“永安鱼庄”，懒得打电话，直接问豆包。

豆包发来一张“预订凭证”，看起来挺正规——餐厅名、时间、人数，全都有。

网友拿着手机去店里，服务员看后说：“你找豆包预约，那你找豆包啊。”

后来豆包客服解释：豆包没有餐厅预订功能，但“可能会提供一些不真实、不准确的信息，这些是AI随机生成的。”

通俗点说：AI自己编的，它自己也不知道。

2026年初，美国一名律师用AI辅助起草法律文件，AI“自信”地引用了6个根本不存在的案例。

法官发现后，该律师被罚5000美元，整个行业受到震动。

这并非个例。据统计，2025年以来，美国已有超过20起律师因引用AI编造的案例而被处罚的案子。

AI不是律师，但AI能让律师丢饭碗。

某媒体用AI辅助撰写社会新闻，AI“创作”了一段详细的犯罪描述，包括嫌疑人姓名、作案手法——全是编造的。

文章发布后，被“嫌疑人”本人看到，差点引发名誉侵权诉讼。

早期某AI健康咨询产品，在回答“如何预防感染”时，给出了“适量饮用稀释消毒水”的建议。

如果这条建议真的被人照做，后果不堪设想。

开发者让AI写一段登录验证代码，AI写得又快又好——但代码里藏着一个严重的SQL注入漏洞。

如果这段代码被部署到生产环境中，整个数据库都可能被拖走。

要理解AI幻觉，先要理解AI的工作原理。

AI大模型本质上是一台“概率预测机器”。

它做的事情很简单：给定前面的文字，预测下一个字（token）最可能是什么。

它并不“知道”什么是真、什么是假。它只是根据训练数据中的统计规律，输出“看起来最合理”的文字。

这就带来一个根本问题：AI没有“不知道”的概念。

当你问它一个它不知道的问题，它不会说“我不知道”——它会自动生成一个“听起来像答案”的答案。

就像你考试时不会做的选择题，你也会蒙一个——区别是你知道自己可能在蒙，而AI不知道。

因为幻觉不是AI的“bug”，而是AI的“feature”。

AI的能力恰恰来自于它的“生成性”——它能创造新内容、组合新想法。但生成性和幻觉是一枚硬币的两面。

你不可能让AI既能“创造性生成”又不“偶尔编造”——这就像要求一个人既能即兴发挥又从不犯错一样，不现实。

目前业界降低幻觉的方法主要是：

但这些方法只能降低幻觉率，不能消除。

AI是“生成”答案，不是“查找”答案。对于事实性问题（日期、数据、人名、地址），必须自己验证。

不要只问“是什么”，要问“为什么”和