小红书AI治理：平衡创意与真实

4月27日，小红书在北京举办了首届AI治理开放日，首次公布了平台在AI治理方面的立场和原则，并邀请了优秀的内容创作者分享他们的创作理念。

此次发布会的背后，一个不容忽视的现象是：数据显示，中国动画微短剧市场规模在2025年预计将激增276.3%，同时，已播出的AI生成剧集数量已突破12万部。与此同时，中央网信办已要求六大平台清理了超过3.7万条违规视频，AI生成内容正以前所未有的速度占据数字空间。

当人们开始质疑“屏幕对面是否还是真人”时，内容平台赖以生存的信任基础便开始动摇。

小红书此次选择主动发声，旨在回应所有内容平台都面临的难题：AI究竟是激发创意的催化剂，还是制造虚假信息的流水线？那些曾经以“真实分享”为基石的社区，又将如何应对这一挑战？

既不排斥，也不放任

在内容至上的时代，AI却带来了“虚假、侵权、低质内容”等新的挑战，它正在悄悄地侵蚀着人与内容之间的信任壁垒。仅在2026年以来，小红书就处理了超过百万例涉及AI的不当行为，其中包括超过80万个由AI托管的账号以及近15万篇由AI生成的虚假笔记。一篇精心创作的内容，很可能被一套AI模板迅速复制，并通过算法推荐挤压原创者的生存空间。

更令人担忧的是“AI托管账号”这一灰色产业链。部分账号的注册、发布和互动完全由AI工具完成，其主页上的所有公开笔记都由他人代为发布。用户以为自己点赞的是一个富有魅力的账号，实际上与之互动的是一段没有情感的代码。例如，曾被网安部门预警的OpenClaw，仅需自然语言指令，就能自动生成内容并进行社交互动。小红书认为，这种行为是对社区根本价值观的严重违背。

当公众不再轻易相信“眼见为实”，谁会从中受益？答案是，无论是用户还是平台，都不会是受益者。问题的根源并非AI本身，而是一个正在加速发生的悖论。

AI能力的提升，很大程度上依赖于海量高质量数据的持续输入。然而，高质量数据的稀缺性已成为行业普遍担忧的问题。自AI诞生之初，低质量、同质化的AI生成内容便开始充斥互联网。用这些内容反复训练AI，研究表明可能导致模型性能下降，输出结果愈发单一、重复且失真，这种现象在学术界被称为“模型塌陷”。理解了这一逻辑，结论便不言而喻——真正源于人类经验、独立思考和原创表达的内容，其价值正变得前所未有的珍贵。

因此，小红书在本次AI治理主张中指出了关键点：平台不应在“完全拒绝AI”和“放任AI发展”之间做出非此即彼的选择，而应在效率与真实、工具与底线之间找到平衡。这句话之所以重要，是因为它承认了平台不能回避问题，也不能假装AI不存在。治理AI，本质上是在人工智能泛滥的时代，重新为人的价值设定一条底线。

一个主张，两份清单

在这次AI治理主张中，小红书鼓励AI作为创意的增强工具，反对其作为虚假信息和低质内容的制造者，并要求所有AI生成或合成的内容必须主动进行标识。平台通过“鼓励什么”和“反对什么”两份清单，旨在降低创作者的理解成本，这种清晰的立场在行业内并不常见。

核心内容并不复杂：鼓励的内容包括如实标注AI参与和AI创意、利用AI提升信息价值或进行角色创作、以及提高视觉审美水平；重点鼓励的三个方向是AI信息价值、AI角色创作和AI视觉创作。明确禁止的行为则包括AI造假、AI低质内容生产、AI侵权以及AI账号扰乱社区秩序。

这套治理框架的核心理念是将AI定位为“创意的放大器”，而非“创意的替代品”。

技术层面如何实现落地？小红书方面在发布会上透露，平台已构建了多重识别能力：例如，持续提升对图像和视频中AI生成、深度伪造及异常创作痕迹的自动识别能力；结合历史审核数据和账号信息，判断同类风险是否重复扩散；通过日常巡查和风险预警机制，实现“早发现、早拦截”。

当然，仅依靠技术对抗并非万无一失，AI生成模型的迭代速度极快，尤其是深度伪造技术。小红书的识别能力能否长期领先于规避手段，仍有待时间检验，所谓的“道高一尺魔高一丈”的局面可能长期存在。此外，“主动标识”的有效性很大程度上依赖于创作者的自觉性，平台后续的审核压力依然巨大。

行业典范，平台的答卷

专注于宋代院体画的央美国画毕业生“一方”，其一幅作品耗时近一个月完成。传统国画精细的笔触和晕染效果，使得画面动态化几乎不可能。自2024年末起，她开始尝试使用多款AI视频生成工具，将静态画作输入，配合简单的分镜指令，便能让国画自然地“动”起来。在“一方”看来，画面的构思、原创性和整体想法仍需手工完成，AI仅作为最后阶段的增强工具。

这个案例恰好印证了小红书的治理主张：AI不应被用来取代创作过程，而是用来拓展创作者原有能力范围之外的想象力。更重要的是，“一方”并未隐瞒AI的使用，她主动进行了标识并坦诚分享，这种态度本身就对社区的真实性起到了积极的强化作用。

从行业视角来看，小红书的策略提供了一种可借鉴的样本。它既没有对AI采取全面封杀，也没有任其自由发展，而是在效率与真实之间开辟了一条中间道路，并率先提出了态度鲜明、规则清晰的治理原则，这本身就对整个行业起到了推动作用。

对于其他平台而言，小红书的方案提供了一个可供参考的模板。这套方案固然未必完美，但至少直面了一个核心问题：平台的未来形态，取决于它如何与AI共存。如果平台在治理方面长期缺位，其结果必然是劣质内容驱逐优质内容。

对于普通创作者而言，此次治理主张传递了一个明确的信号：只要坚持原创，并合理使用AI工具，不仅不会受到负面影响，反而会获得更清晰的发展方向。

正如“一方”所说，AI只能呈现瞬间的成果，无法替代绘画过程本身的治愈感。毕竟，人们最终会聚集在一个社区，并非仅仅因为那里信息最丰富，而是因为那里有最真实的人。AI将持续进化，平台所能做的，就是确保“在场”的人们被看见，同时让那些“不得不存在”的机器不至于喧宾夺主。