大模型面临的上下文腐坏挑战

在AI应用初期，人们普遍认为精心编写提示词能让AI更精准、高效地完成任务，从而获得理想效果，甚至催生了“提示词工程师”这一职业。然而，时代变迁迅速，随着Agent等新技术的兴起，这一职位如今鲜少被提及，但这并不意味着提示词失去了价值。这就好比炼钢技术进步后，虽然对铁矿石的要求不再那么严苛，但优质矿石依然备受青睐。不过，技术始终在演进，随着各类新概念技术的出现，AI领域目前产生了一种新观点：提示词已难以完美描述业务需求，转而应通过上下文来阐述。换言之，上下文的重要性如今愈发凸显。究竟何为上下文？众所周知，若