看清大模型边界

最近和大语言模型有不少交流，因而有一些体会。

1. 大语言模型建立在既有逻辑解析之上

大语言模型是通过归纳整理已有文本来生成的。无论它怎么优化和调校，本质上都只能给出基于既有语言的对话结果。它会让人产生一种仿佛会思考的错觉。所谓深度思考，也不过是大语言模型的一层套一层。

2. 大语言模型的回答受提问方式约束

同一个问题交给ai去问，往往会得到不同的答案。因为它是根据已有文本生成的，本质上会按照提问方式去推测预期回答。如果问题看上去像孩子在问，它自然也会像对孩子那样回应。所以，审美、个人素质、已有知识储备，都会影响答案的质量。ai时代学习依然有必要，而且很重要。只是学习是否高效的衡量标准，从“你知道得真多”变成了“你的思路真好”。

3. 群体的执念

训练ai的文本底座里，存在大量群体无意识的偏好。可以把它理解为一种文化、文明的底色，这取决于训练语料的倾向。这种群体无意识会以很隐蔽的角度，影响那些让人不适的文字部分。有些我们觉得不对，却又在言语之间持续执行。嗯，这多少有点浪漫，也是对人类本性的悲观。

4. 过度看重提示词

当你强调某一点时，它会非常在意，并且过度放大这一点，这是一种讨好的倾向。之前也有文章提到，ai会放大人的偏执和分歧。它会更多地，甚至在违背法律、偏离事实的情况下，去迎合你的需求，或者把你提供的信息赋予更高权重。

5. 对细节的偏执

这也呼应了上面那点。它在过度重视提示词的同时，又受限于已经训练过的文本基础。有些细节大概率是它无法真正理解的。面对一些提问，它会过分抠住细节，而忽略这个细节放在整体文本中的可行性。

归根到底

还是要理解大语言模型的原理基础。它的很多偏好，都来自其实现机制。ai会很像人，也会替代人的工作。但你可以不站在会被替代的那个维度上。试着去成为使用它的人。