大模型与智能体的核心局限及关键应对

大模型存在三个根本性局限：①产生幻觉②知识存在截止点③缺乏个性化认知。大模型仅包含训练数据，缺少用户个人数据。模型无法辨别「已知信息」与「推测内容」，当面对训练数据中未涵盖的事实时，只能进行预测——这等同于虚构。真正的解决方案是向其提供准确数据（例如RAG）。上下文窗口再大也是单次有效，每次开启新对话便会重置。大模型本身不具备记忆功能。当大模型表现不佳时，首要任务是补充数据，而非更换模型。人工智能的能力上限=数据质量×模型能力+流程编排。智能体不仅能理解与生成语言，还拥有感知环境、制定决策并执行行动的能力