AI的"幻觉"现象解析
欢迎继续阅读三火的AI学习笔记。上期我们介绍了AI的基础知识，本期我们探讨一个更有趣的话题。 你是否遇到过这种情况：向AI提问时，它回答得非常自信，但仔细检查后发现内容纯属虚构。 先别急着指责它撒谎。今天我们来深入探讨，AI为何会"胡言乱语"。 ## 一、那个考试时瞎猜答案的同学 想象一下，班上有个同学叫小智。 小智博览群书，但有个特点——遇到不会的题目从不空着，一定要填满。 比如老师问："《红楼梦》中林黛玉葬花用的是什么器具？" 小智其实不确定，但他想葬花应该需要容器。于是写道："黛玉手持碧玉小铲，将花瓣轻收入锦囊。" 老师一看，描述很有画面感，但原著中根本没有这情节。小智并非有意欺骗，而是真的不知道自己不知道。 AI也是如此。 你问它"2024年诺贝尔文学奖得主是谁"，如果没学过，它不会说"我不知道"，而是根据"知识储备"，编一个看似合理的答案。 这种现象，学术界称为"幻觉"（Hallucination）。 听起来很神秘？其实就是：AI在编造，而且编得自己都信。 🤔 ## 二、AI为什么会幻觉？因为它是个"超级接龙玩家" 要理解幻觉，先要明白：AI如何生成回答。 你可以把AI想象成词语接龙高手。 你说"今天天气真"，它接"好"。你说"我想吃"，它接"火锅"。它不是真的"知道"什么，而是在计算——根据前面的词，下一个最可能出现的词是什么。 问题出在"最可能"上。 有些问题答案唯一。比如"地球是圆的还是方的"，AI见过无数次"地球是圆的"，所以能准确回答。 但有些问题答案多样。比如让你写秋诗或编科幻故事——这时没有标准答案，AI只能"猜测"。 猜对了叫创意，猜错了就是幻觉。 AI幻觉的本质，就是它在概率世界中迷失了方向。 ## 三、温度参数：AI的"放飞自我"开关 你可能听说过，有些AI工具有个叫"温度"（Temperature）的设置。 别误会，不是空调温度。🌡️ 这个温度，控制AI"有多敢猜"。 还是用小智举例。 温度低时，小智很保守。只写百分百确定的答案。遇到不确定的，宁可说得平淡，也不冒险。 这时的AI，回答特别稳，特别准确，但也特别无聊。 温度高时，小智就放飞了。敢于写六七成把握的答案，甚至尝试全新组合。 这时的AI，创意十足，金句频出，但也更容易出错。 你让AI"写合同"，肯定希望温度低——合同不需要创意，需要准确。 你让AI"写段子"，那就把温度调高——段子要的就是出其不意，太稳反而不好笑。 所以你看，幻觉不是bug，某种程度上，它是AI创造力的副产品。 你想要AI有创意，就得接受它偶尔会做梦。💭 ## 四、创造性和准确性，为什么难以兼得？ 很多人会问：能否让AI既靠谱又有创意？ 说实话，这就像让你班上的小智——考试时既能写标准答案，又能写出莎士比亚级别创意的作文。 不是完全不可能，但确实很难两全。 因为背后有个根本矛盾。 准确性要求AI只说最确定的话。就像问路，你希望对方告诉你"往前走200米右转"，而不是"随便走走，说不定就到了"。 创造性要求AI敢于尝试不确定的组合。就像让朋友推荐没去过的餐厅，你希望他说"有家新开的fusion菜，虽然我也不知道好不好吃，但听着挺有意思"。 准确性和创造性，就像天平两端。你往这边多放一点，那边就翘起来了。 这不只是AI的问题，人也是一样。 你让学者写论文，他引用每句话都要标注出处，严谨得很。但让同一个学者写小说，你还让他每句话都标注出处？那小说就没法看了。 所以，别怪AI偶尔幻觉。那是它在努力给你整点新活儿。 当然，整砸了的时候也不少。🤷 ## 五、那我们该如何与AI相处？ 聊了这么多，核心就一句话：把AI当成一个知识渊博但偶尔会瞎编的朋友。 它大部分时候靠谱，但你不能完全信任它。 特别是那些你也不确定的事情。AI说"某某科学家1823年发明了时光机"，你得心里咯噔一下——这事儿我得自己查查。 有几个实用的小建议： 第一，重要的事，自己核实。AI写的代码，跑一下看看对不对。AI给的数据，去源头确认一下。AI推荐的方案，自己过过脑子。 第二，学会调温度。需要准确的时候，把温度调低（如果工具有这个选项的话）。需要创意的时候，大胆调高。 第三，别把AI当搜索引擎。搜索引擎给你的是已有信息，AI给你的是"生成"的内容。一个是在复述，一个是在创作，本质不一样。 用AI最聪明的方式，是让它帮你干活，然后你自己当监工。 ## 快速复习 咱们用一场考试把今天的内容串起来： 幻觉，就是那个考试时从不留白、遇到不会的题就瞎编的同学小智。他不是坏，是太想答满了。 温度参数，就是小智的"胆子大小"。胆子小，只写确定的答案，稳但无聊。胆子大，敢猜敢编，有创意但容易翻车。 创造性和准确性，就像考试的两种题型——选择题要准，作文题要活。你很难在两道题上都拿满分。 所以记住：AI会做梦，但你可以选择让它在什么时候醒着。 😴 ## 关于我，以及为什么会有这个号 我是个普通的产品经理。几年前AI刚火的时候，我也就是个围观群众——知道几个名词，但具体怎么回事，说不上来。后来我逼自己去学，去试，去用AI从零搭建一个系统。结果你猜怎么着？我一个人，用了一周，上线了。 这件事让我意识到：AI没有我们想象的那么遥不可及。它就是一个工具——一个普通人花几天时间就能上手的工具。 所以我想做这个号。我会每天写一篇，从最基础的概念讲起，到工具教程、实战案例、避坑指南。所有内容，保证说人话，保证你看得懂。 而且这个号有个特别之处——大部分内容都是AI写的。我负责选题和把关，AI负责执笔。如果写得好，那是AI的功劳；如果写得不好……那一定是AI的问题，不是我的。 咱们下一篇见。 往期精选 你问我什么是AI？我在教外星人做中餐 关注我们 赢得未来 无论您有多忙，请花1秒钟时间把它放到你的圈子里！可能您的朋友也需要！谢谢！
你问我什么是AI？我在教外星人做中餐
关注我们 赢得未来