AI时代：普通人如何理解AI运作原理与核心常识

最近，关于字节跳动禁止内部蒸馏开源模型的新闻引发了热议。那么，字节为何要封禁内部蒸馏开源模型呢？我们用大白话来解读：首先，什么是“蒸馏”？为什么叫“蒸馏”而不是“模仿”？蒸馏，即知识蒸馏，是Hinton在2015年提出的一个概念，借用化学蒸馏的比喻，与普通的“模仿”有着本质区别。化学蒸馏：混合原料加热，提取精华成分并冷凝，丢弃杂质，得到浓缩物，而非复制整个桶的原料。对应AI蒸馏：大模型（教师）中包含海量冗余信息。我们不复制整个大模型，而是提取其核心认知、判断倾向和概率分布，迁移给小模型（学生）。小模型的参