AI内容泛滥：平台应当“把关”还是“失声”？

最近逛社交平台，发现不少笔记旁都多了个“AI生成”的标记。有人用AI让古画里的猫变得更灵动，也有人借助数字艺术家与AI打造带东方神话气质的短片；与此同时，靠机器批量吐内容的账号也陆续被平台限流，甚至直接下架。

当AI进入内容生产环节，平台到底更该站在什么位置？是只当旁观者、双手插兜，还是主动出面成为守夜人？近日，小红书首次系统推出AI治理主张：鼓励AI作为创意放大器，反对它沦为造假工具或低质内容的批量生产机器。这样的立场，正好戳中互联网内容生态当下的普遍痛点。

“数字泔水”四处蔓延，治理不能停在“可选项”

AI工具正在重塑内容创作的方式。过去想完成文案撰写、配图生成、视频剪辑，往往要受过训练、投入数小时；现在只需短短几分钟就能呈现成果。门槛显著降低，也确实让不少创作者更容易跨过创作瓶颈。

比如央美毕业的一方专攻宋代院体画，往往一幅作品要花近一个月。自2024年末开始，她尝试用AI让画作呈现动态：让“小龙猫”角色能够实现穿云而过的效果。原本静止的国画因此更有“呼吸”，传统文化的表达也被打开了新的传播出口。

创作者@一方画猫呢 借助AI让国画动起来的视频截图

但便捷背后，也带来了秩序的松动。有人用AI换脸伪造名人视频做带货；有人批量生成“真人测评”笔记来组矩阵；还有人将聊天记录、消费凭证等截图经AI改造后，冒充“亲测”经历发布；更有人依靠AI“托管”账号实现全自动发文、回帖与互动。像流水线一样灌装的“数字泔水”，稀释了真正分享的空间。当虚假内容先扩散再处理，等删帖封号时，人工审核往往已经跟不上机器的速度。

面对这种趋势，仅靠被动补救远远不够。国家层面，国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》，自2025年9月1日起施行，提出要“规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益”。随后，中央网信办又部署“清朗·2026年营造喜庆祥和春节网络环境”专项行动，要求网站平台集中整治借AI生成传播“数字泔水”等垃圾信息问题。

从制度搭建到专项整治，国家释放的信号非常明确。这也意味着，平台的AI治理不应再停留在“哪里出了问题就补哪里”的零散规则，而要向体系化的顶层设计推进。

既要有刻度，也要有温度

AI治理最关键的，是形成“该鼓励什么、该禁止什么”的清晰态度。在鼓励方面，小红书支持用AI把复杂知识转成更易理解的可视化科普，支持创作者独立设计的原创虚拟角色，也支持具备审美与叙事逻辑的短片。公域流量将更倾向于那些能带来审美提升、叙事增量与真实信息价值的优质内容。同时，要求AI生成内容必须主动标识，并引入社区用户参与监督，还开通了专属申诉通道：一方面把知情权交还给用户，另一方面也给合规创作者留出发挥空间。

相对地，也对应着四条清楚且可操作的行为红线。小红书明确制止四类情况：AI违规运营（包含利用AI教唆做号、以及AI与第三方托管实现的批量运营账号）；AI造假（如仿冒名人、编造人设信息、伪造经历、魔改经典、低差营销）；AI侵权（侵犯肖像权与著作权）；以及低质创作（传播不良价值观、制造猎奇内容、批量生成同质化内容）。

实际上，治理AI乱象从来不只靠个别平台单打独斗。进入今年以来，行业共识正不断落地：微信在二季度处置了大量AI自动化创作内容，对机器批量灌装的营销号采取梯度处罚；红果短剧在一季度下架违规漫剧1718部，以硬性门槛托底内容质量；小红书则通过密集迭代规则，在2月明确AI生成内容要主动标识、在3月重拳整治AI托管账号，并对全自动运营、冒充真人互动等行为持续打击。各平台看似路径不同，落点却一致——通过从源头压缩劣币的生存空间，把良币的成长环境守住；在保障用户知情权与创作者权益的同时，也牢牢守住内容社区“真人、真心、真分享”的核心根基。

治理的重点从来不是AI工具本身，而是那些把“AI当替代品”，用来消解真实的行为。对于能够辅助真实表达、提升创作效率的AI应用，平台保持开放态度；而对缺少真实经验支撑、可被批量复制、并持续侵蚀用户信任基础的内容，则会持续清理。

AI治理也不存在适用于所有场景的统一模板。短视频、资讯类、长视频平台的用户构成各不相同，因此治理方案也不可能一刀切。但无论形态如何变化，行业底线是共同的：不能让机器生成的内容把真人创作彻底淹没。只有用清晰规则引导技术向善、以主动作为守护生态底色，技术才能真正服务于人的创作与表达。

技术仍会奔涌不息，内容生态的治理挑战也必然长期存在。小红书这次发布AI治理主张，是一次以“真实”为核心竞争力的线上内容社区，对技术边界进行的主动探索。当更多平台从被动应对转向主动立规，行业才更可能在创新与秩序之间找到可持续的平衡。

归根结底，技术或许能生成无限接近完美的“画布”，但只有真实的人生经历与真诚的情感表达，才能让作品在画布上长出温度与生命力。