人工智能的利与弊

大型语言模型的运作机制依赖于对海量历史文本进行预先训练，从而建立一个能预测下一个字出现几率的分布模型，并基于此产生语义流畅的内容，这带来了三个限制：第一，缺乏稳定性，每次输出可能都不尽相同；第二，欠缺深度分析能力，生成型AI的运作方式更偏向快速直觉系统，而非理性思考系统，因而容易产生AI臆想问题；第三，不可避免地会逐渐退化，因为大模型采用的训练数据和语料都是过往信息。这让我联想到犹如学生遇到不会解的题目，不愿调动大脑🧠运转来思考，直接照搬答案，而答案也可能出错，且几率极高。同时，我们的人脑🧠也形成习惯性模式，动不动就依赖AI，只停留在浅层的思维系统，不再让自己静下心来先思索，从而难以进入缓慢的理性思维系统。万物皆由阴阳两面流动组合，因此要让自己变得聪慧，还需每日反思，多停下来思考，审视一番。