人工智能的利与弊

大型语言模型的运作机制依赖于对海量历史文本进行预先训练，从而建立一个能预测下一个字出现几率的分布模型，并基于此产生语义流畅的内容，这带来了三个限制：第一，缺乏稳定性，每次输出可能都不尽相同；第二，欠缺深度分析能力，生成型AI的运作方式更偏向快速直觉系统，而非理性思考系统，因而容易产生AI臆想问题；第三，不可避免地会逐渐退化，因为大模型采用的训练数据和语料都是过往信息。这让我联想到犹如学生遇到不会解的题目，不愿调动大脑🧠运转来思考，直接照搬答案，而答案也可能出错，且几率极高。同时，我们的人脑🧠也形成习惯性模