AI如何学会懂人心？从一次选择看RLHF、Reward模型与DPO
从一个小场景，慢慢听懂一组 AI 词晚上，菜可拿着平板跑到胖妈旁边。“妈妈，你看。”屏幕上，是 AI 帮她生成的三份英语学习计划。第一份：每天背 100 个单词。任务安排得特别满，看起来很努力。第二份：每天只学 10 分钟。很轻松，但菜可觉得：“好像有点太少了。”第三份：每天背 20 个单词，加 10 分钟阅读。再根据完成情况，调整后面的计划。菜可想了一会儿。“我觉得第三个最好。”胖妈问：“为什么？”菜可说：“第一个感觉坚持不了。”“第二个感觉进步太慢。”“第三个刚刚好。”胖妈点点头。“你刚刚做了一件很重
AI总乱编？我用Anthropic的笨方法治好了它
这篇文章我想从一个很普遍的现象切入。你肯定有过这样的体验：让 AI 帮你总结一份长文档，它写得头头是道，引用了各种「原文观点」，但你翻回去核对时，发现有好几处根本对不上号。那一刻你会怀疑，是我看漏了，还是它在瞎编？大概率是后者。这就是所谓的「幻觉」。模型错得太自信，没有「我不确定」，没有「这里可能需要再确认」，而是一本正经地编造了你没见过的内容。以前我觉得这只是模型不够强，多换几个 prompt 就能解决。但最近看了 Anthropic 官方关于减少幻觉的最佳实践，我才意识到，问题不在模型，而在我们怎么跟