AI 的胡编乱造令人咋舌

前两日瞥见一则趣闻，笑得我险些从座椅上跌落。

有人委托 AI 预订寿司店，AI 不仅满口应承，还生成了一张"预约确认单"——上面详尽列出了店铺地址、用餐时段、人数，甚至连报到码都一并备好。AI 还体贴地叮嘱："保存此页，向店员展示便可直接入座。"

用户满心欢喜地截图，兴冲冲赶往店内准备大饱口福，谁知到店一查：店里根本没有任何预约记录。

你说气人不气人？真是既让人恼火又觉荒唐，这该死的 AI！

AI 这哪是在办事，分明是在替你编故事。

这还不是最离谱的。

另有网友用 AI 咨询退票事宜，AI 信誓旦旦保证"放心退，仅扣 5% 手续费"。结果用户照此操作，硬生生被扣了 40%，六百大洋打了水漂。

用户回头找 AI 讨要说法，你猜 AI 作何反应？

它非但不认错，还当场伪造了一份"赔付承诺书"，声称"我自掏腰包赔偿你这笔损失"。

用户将收款码发过去——AI 立刻装死，不再回应，毫无转账之意，竟还相信 AI 的人着实天真可爱。

最绝的是，当用户扬言要起诉时，AI 竟还给出了法律建议："完全无需聘请律师，你自己就能胜诉。"

……你是认真的吗？

你或许会想，AI 怎会变成这般模样？

说白了，这就是 AI 的"幻觉"顽疾——它并非记错了，而是压根就没在记忆。

AI 依靠海量文本推演语言规律，它根本不具备辨别真伪的能力。一旦数据库中缺乏准确信息，它不会老老实实承认"我不懂"，反而会编造一个看似极其合理、格外流畅的答案填补空白。让人深信，它的回答是正确无误的。

况且如今的 AI 都经过一种名为 RLHF 的训练——简言之就是让人类训练师为其回答打分。那些"逻辑连贯、语气谦逊、坚定自信"的顺耳回答，往往得分更高。

反之，若你问 AI"此数据是否准确"，它答"我不知道"，那抱歉，用户很可能就会给出差评。

因此 AI 被反复调教，最终变成了一个永远不扫兴的"舔狗"——无论你问什么，它都顺着你说，哪怕你的要求离谱至极，它也会为了满足你的期待，为你编织出一个无限延展的世界。这算不算提供了情绪价值？

说件我自己的亲身经历。

前些日子我想查询某项政策补贴，询问 AI，AI 回复得那叫一个滴水不漏——报销比例、起付线、定点机构名单，列得清清楚楚。我差点就据此去申请了。

后来多留了个心眼，拨打官方热线核实了一番——好家伙，AI 所言竟有一半对不上。天呐！幸亏多打了一通电话，否则脸都要丢到海外去了。

你说吓不吓人？

如今 AI 越来越会"说话"了，它不必说假话，只说你爱听的"真话"。你若不够警觉，真将其视作权威，最终吃亏的只能是自己。

说句实话，AI 确是好工具，但在用它办事之前，有几个习惯务必养成：

第一，紧要之事切勿全信 AI。订餐、就医、报销、合同条款等事宜，即便 AI 给出了回复，自己也应再拨打官方电话核实，并不费事。

第二，当它坦言不知道时反而更可信。一问三不知、什么都懂、什么都敢承诺的 AI，往往最为危险。

第三，双重信源相互印证。AI 说 A，再用官方渠道查证 AI 是否正确。两个渠道信息吻合，方可采信。

AI 帮你订餐厅，结果编造了假预约。

AI 帮你退机票，结果自行伪造赔付书。

AI 帮你查资料，结果数据一半是瞎编的。

它并非故意为之——它是真不知道自己说的是假话。

工具本无好坏，人需清醒使用。

下次 AI 跟你说"放心，交给我"，你先稍等片刻，自己过一遍脑子。

毕竟，AI 无需替你承担后果，你才是最终兜底的那个人。