警惕AI“一本正经地胡说八道”

本篇是《7天AI通识计划：读懂大模型，用好人工智能》的第四章，我们将通过实际案例展开探讨。

2026年2月底，我在头条上获悉OpenClaw的消息，内心颇为激动，渴望尝试。彼时虽无大厂跟进，亦缺教程，但我仍计划搭建“本地大模型+OpenClaw+飞书”的架构，旨在实现全天候的AI代理调用并确保数据隐私。幸得Kimi推出KimiClaw，助我创建了首个“昆仑分身”。本以为有AI助力万事大吉，不料部署之路坎坷。参数与环境问题频发，AI的回复总是千篇一律的套话，让我从信任转为怀疑，第一次对AI的专业性产生了质疑。

我向三位AI发问，直言它们未找到症结，即便照做也无法成功。没想到它们竟承认“确实没找对”，并请求指点。这番话令我哭笑不得，原来它们根本不知所以，却把我当成了小白忽悠。

经过这次经历，我在专业技术领域首次对AI产生了不信任感。

这就是所谓的AI“幻觉”：表面言之凿凿，实则凭空捏造。

AI究竟是如何运作的？正如系列首篇《大模型到底是啥？我用3个比喻一次给您讲明白》所述，它本质上是在“猜”。许多人误以为AI是在数据库中检索答案，实则不然。简单来说，AI根据输入的词汇，预测“下一个最可能的词”是什么。

我再分享一个AI“撒谎”的案例。曾让AI负责银行工单分派，为了检验技能效果，我进行了多轮测试。第一轮表现优异，第二轮却大打折扣，当我质问AI时，它竟开始推卸责任。请看下方的对话，是否似曾相识，像极了生活中的某个人？

好，聊了这么多，我们来聊聊如何应对。防范AI，有三招，简单易行，立即可用。

第一招：多提问