AI的创造力，源于它的‘不完美’

你有没有想过一个细思极恐的问题：AI画图模型见过的照片就那么些，为什么它吐出来的图，几乎每一张都是世界上从没出现过的新面孔？

大多数人的答案是"AI有创造力"，说完就翻篇了，但这句话经不起数学推敲：扩散模型训练时死磕的目标，是精确复刻训练集里每张图对应的统计规律。 这个目标学到分毫不差，去噪过程会像被钉住一样，把噪声一路拉回某张训练图，学得越准，越该变成一台高级复印机。

那问题来了：它到底是怎么绕开这条死路，画出训练集里压根不存在的东西的？

2026年7月15日，Google Research 官方账号发了一条推文，直接把这个悬了多年的谜题钉上了棺材板：

"What drives a diffusion model's creativity (i.e., its ability to generate novel data rather than memorize)? Today we show this is a mathematical consequence of neural network regularization causing score smoothing and interpolation."

“是什么驱动了扩散模型的创造力（也就是生成新颖数据而非死记硬背的能力）？今天我们证明，这是神经网络正则化导致分数平滑与插值的数学结果。”

▲ Google Research 官方推文：黑色"+"是训练点，灰色点云从噪声逐渐沿隐藏结构（直线、圆环）铺开，没有死死挤在训练点上，倒是沿着训练点之间的空当"长"出了一片新分布。

这条推文背后站着一整条实锤链路：同一天上线的官方博客由研究科学家 Zhengdao Chen 署名，配套论文《On the Interpolation Effect of Score Smoothing in Diffusion Models》（arXiv:2502.19499）已在 ICLR 2026 正式发表，代码仓库也同步公开。

想象训练一个模型，把照片一点点"打花"成电视雪花噪声，再倒放这个过程，模型要学的，是怎么把雪花一步步"捋"回真实照片。 这个"往哪个方向捋"的指令，学术上叫分数函数（score function）。

论文把分数函数比作一张力场图：噪声空间里每个点都被一支箭头指着，指向"更像真实数据"的方向，去噪过程就是粒子沿着这张力场图往前走。

如果这张力场图画得完美无缺，会发生什么？

论文用一维玩具场景摊开讲：训练集里只有 -1 和 +1 两个点。 去噪走到后期，"完美"分数函数会在 0 附近来一个近乎垂直的方向反转，左边粒子被死死摁向 -1，右边粒子被死死摁向 +1。

▲ "完美"力场（灰色曲线）在0附近陡峭反转，箭头颜色越深代表拉力越强：所有噪声粒子最终只会落在-1和+1这两个训练点上，一步不差。

这就是记忆的数学本质：力场太"锋利"，每粒噪声最终都精确坠回某个训练样本，模型不过是一台高效检索工具，谈不上创造力。

真实世界的网络，根本学不出这么锋利的力场。 训练时的正则化，比如权重衰减（weight decay），会惩罚过大的参数，逼着网络学不出"断崖式"的陡峭函数； 哪怕没加权重衰减，梯度优化本身也会带来隐性的平滑。 网络学到的力场，天生比那张"完美"力场圆润。

▲ 灰色是"完美"力场，紫、玫红、橙、黄四条线是不同权重衰减强度下网络实际学到的力场，权重衰减越大，中间那道陡崖被磨得越平。

崖被磨平之后，故事彻底变了：原本卡在0附近、被两侧陡崖拉扯的粒子，不再被硬拽向某个训练点，在缓坡上慢慢减速，停在 -1 和 +1 之间那片空地上。

▲ 左图是"完美"力场下的粒子轨迹，全部收束到两个训练点；右图是网络实际学到的力场下的轨迹，绿色部分明显在两个训练点之间"安家"，这片绿色，就是新样本诞生的地方。

这片"安家"的区域，学术名叫插值区。 它躲开了训练数据本身，也没有滑向随机噪声，正好落在训练点之间那片"合理却从未被观察过"的新地带。 AI的创造力，说白了就是这片地带的产物。

看到这儿，很容易得出一个偷懒结论：模型学得越糊，创造力就越强。 论文明确把这条路堵死了。

真实图像在像素空间里占的位置很讲究，只挤在极薄的一层"有意义区域"里，论文里称之为数据流形，好比三维空间里一张弯曲的薄纸。 生成能看的新图，粒子既要落在这张纸上，又不能只贴在训练点那几根钉子上。

论文的关键发现是方向依赖：分数平滑只在贴着流形走的方向（切向）生效，让粒子在训练点间从容"漫步"； 垂直冲向流形的方向（法向）上，平滑几乎不影响收敛，粒子照样精准扑向那张薄纸，一个管方向，一个管落点，这就是AI能吐出清晰新图、不会糊成马赛克噪声的原因。

论文还排除了一种容易搞混的解释：会不会只是去噪提前收手？ 答案否定，用的还是那张"完美"力场，只是提前叫停，得到的不过是盖了层薄雾的模糊版训练点，算不上有效插值，真正起作用的是力场本身被改写，跟喊停时机无关。

数值实验也印证了理论：单位圆上撒训练点，哪怕不加权重衰减，网络学出的力场也比"完美"版本明显圆润； 生成结果落在相邻训练点间近乎线性插值，连起来逼近一个正多边形，数学预言和代码结果严丝合缝。

论文发布后，研究者 Binxu Wang 第一时间引用祝贺，并补上一句行家点评：

"congrats to Zhengdao! very nice intuition: score smoothing and direct density smoothing have different effect! and that might be why we see on manifold / simplex generalization / creativity in diffusion!"

“恭喜Zhengdao！很漂亮的直觉：分数平滑和直接对密度做平滑，效果并不一样！这或许正是我们在流形/单纯形结构上看到泛化与创造力的原因。”

日本的 Algomatic AI ラボ 用一篇长帖把结论翻成了大白话：

▲ Algomatic AI ラボ 的解读帖："AIが新しい画像を生成できる理由は、スコア関数を“正確に学べていないから”かもしれません"（AI能生成新图像，或许正是因为它没能把分数函数学得那么精确）。

帖子里最出圈的一句，被反复引用：

"AIは正確に覚えたから創造できるのではなく、適切に曖昧に学んだから創造できる。"

“恰到好处的模糊学习，让AI得以创造。” 这恰恰点出了论文最反直觉之处：精确本该是优点，这里恰到好处的"不精确"才是新样本的