AI 的“金鱼脑”：对话压缩的代价

引语看似没删数据，实则每次压缩都在遗漏信息，且 AI 从不主动告知它已遗忘。使用 AI 工具时，AI 并非真正记住了所有过往。每次回复时，它都会将你的提问连同历史记录一同发送给模型处理。对话越久，所需携带的历史数据就越多，而历史记录的容量是有限的——这正是你常听到的“1M 上下文”或“200K 上下文”窗口大小的限制。当存储空间即将耗尽时，AI 会自动对之前的对话进行“总结”——即你常看到的“正在自动压缩”。尽管压缩听起来是无损的，但实际上每次都在丢失细节，且每压缩一次，信息便减少一分。下面通过一段对话模