AI的“注意力中枢”并不无限

狐狐/ AI使用 · 第2篇人脑中有一块区域叫前额叶，主要负责注意力分配、专注维持与决策判断——也就是决定当下该看重什么、忽略什么。它是人类认知控制的重要中枢，但它能承载的信息量并不无限，所以我们很难把注意力同时平均放在很多事情上。2017年，Google发布了一篇论文，Attention Is All You Need，中文可直译为《注意力就是全部》。这篇论文提出了Transformer架构，也为如今所有大语言模型打下了核心基础。[1]Transformer最关键的机制叫"自注意力"。从