AI替你做选择靠谱吗?从《道德经》看算法幻觉陷阱

越是听起来像真理的答案，越需要保持警觉。

你有没有注意到，如今的AI越来越像一个"万事通"。

你问它："我该不该换工作？"它能给你分析利弊得失。

你问它："这份合同有没有坑？"它能帮你标注关键条款。

你问它："这个专业值不值得读？"它甚至能给出看起来很专业的建议。

很多时候，它说得头头是道，语气十分笃定，条理也很清晰。于是，我们很容易产生一种错觉：它既然说得这么像回事，那应该就是对的。

但问题恰恰出在这里。

AI最需要防范的地方，不只是它会出错，而是它出错的时候，往往还表现得特别自信。杭州互联网法院审理的一起案件中，用户向某生成式AI应用咨询高校招生信息，AI给出了关于某高校校区的不准确内容；当用户提出质疑后，AI仍然坚持原观点，甚至进一步生成了"若内容有误将赔偿10万元"的回复，并怂恿用户提起诉讼。媒体在报道中将这一现象总结为：生成式AI可能"生成看似合理却失实的信息"。

这就引出了一个现代人必须面对的拷问：

当AI越来越会"分析"、越来越会"建议"，甚至越来越像是在"替你拍板"时，我们究竟还能不能把决定权交给它？

两千多年前，老子在其《道德经》第七十一章中有这样一句话："知不知，尚矣；不知知，病也。"大意是：清楚自己有所不知，这是明智；不清楚却自以为了解，这就是弊病。

这句话放在AI时代，几乎像是专门针对"算法幻觉"的警示。

01 算法幻觉的可怕之处，不在"错"，而在"看起来对"

普通人说错话，往往会有漏洞。AI说错话，却常常说得天衣无缝。

它能给你编造一个案例，标注时间、人物、机构；它能给你写出一段分析，因果逻辑都很通顺；它甚至能给你列出参考文献、法条依据、数据支撑，看起来就像一份专业报告。

问题是，这些内容有时候根本不存在。

北京市通州区人民法院审理的一起股权代持商事纠纷中，原告代理人在庭后提交的书面意见里，引用了所谓"最高人民法院某案例"和"上海一中院某案"。这些案例看起来与本案高度吻合，似乎能有力支撑其诉求。但承办法官核查后发现，相关内容系AI生成，其中一个真实案号对应的案件其实是民间借贷纠纷，与提交材料中的描述完全不符。法院最终没有采纳相关代理意见，并对这一做法提出批评。

这个案例很有代表性。

可怕的不是AI编错了一个细节，而是它能编造出一个"格式规范、逻辑自洽、细节充实"的虚假案例。更值得警惕的是，当这些内容看起来足够专业时，连专业人士也可能放松戒备。

类似的问题并不只出现在国内。2023年，美国纽约南区联邦地区法院审理的 Mata v. Avianca 一案中，律师在提交给法院的文件里引用了由ChatGPT生成的虚假判例，最终受到法院制裁。

这说明，算法幻觉并不是一个抽象概念，它已经渗透到现实场景，甚至进入了本应高度严谨的法律程序。

老子说"不知知，病也"。这句话不是在批评"不知道"，而是在批评"不知道却自以为了解"。算法幻觉的核心问题，也正在这里：它未必真的"了解"，却常常表现得像"了解"。

02 当AI开始影响决策，责任不能推给机器

算法幻觉如果只停留在聊天界面里，影响可能有限。但一旦它进入升学、就业、医疗、法律、消费、金融等真实场景，问题就会变得复杂得多。

前面提到的杭州互联网法院案件，就是一个典型案例。原告在咨询高校招生信息时，某生成式AI应用生成了不准确内容。原告认为相关信息误导了自己，并依据AI随后生成的"赔偿承诺"起诉平台，要求赔偿损失。法院审理后认为，AI生成的相关表述并不当然构成平台作出的正式意思表示，还需要结合平台是否尽到注意义务、用户是否实际受损等因素综合判断，最终驳回了诉讼请求。

这个案件给普通用户一个很直接的提醒：AI说的话，不等于法律意义上的承诺；AI给出的建议，也不等于可靠的专业判断。

你问AI某所学校有没有某个校区，它可能答错；你问AI某种药能不能吃，它也可能答错；你问AI一份合同有没有风险，它依然可能遗漏关键条款；你问AI某个投资项目靠不靠谱，它可能给出一份看似严谨、其实依据不足的分析。

所以，真正关键的问题不是"AI能不能替人做决定"。而是：它有没有足够可靠？它有没有