AI上下文窗口：AI的“阅读极限”

演进之路

GPT-3（2020）：2K——仅能撰写800字短讯，当时大众普遍认为AI存在“阅读障碍”。

GPT-3.5（2022）：4K——容量翻倍，足以阅览本科毕业论文，这对学生而言是福音。

GPT-4（2023）：32K（约50页）——可阅读中篇小说，人们开始利用它进行财报解析。

Claude 3（2024）：200K（约50万字）——媲美《三体》全集，业界为之震动，用户能直接输入全书并询问细节。

国内Kimi/阿里通义（2024-2025）：1M（约百万Token）——竞争白热化，号称能解析《红楼梦》全本。

技术原理：由O(n²)优化至FlashAttention-2，引入MoE（混合专家）架构，使算力不再是限制窗口扩张的“绊脚石”。

1.物理上限：决定了能否一次性读完《三体》第一部（约20万字，即20多万Token）。

2.算力风向标：窗口越大，显存需求越高，推理速度越慢。因为每增加一个Token，计算量呈指数级增长（尽管已优化，但仍较为沉重）。

3.应用边界：4K窗口仅限日常问答；200K窗口适用于法律合同审查；1M窗口能处理海量财报分析。确实实用，有了这样的容量，便能解决工作中大量的文本难题。

1.滑动窗口：聊天时为防超限，仅保留最近10轮对话，自动“遗忘”更早的内容。

2.截断：输入超长文档时，模型仅读取首尾各几百字（部分早期模型处理方式较为生硬）。

3.长文本专用模型：专为“大海捞针”测试打造，如Kimi、Claude 3，主打“我能吞下整本书，随意提问细节”。