AI内容激增，平台应做守护者还是旁观者？

近期浏览社交平台时，不少笔记新增了“AI生成”标识。有的用户借助AI让古画中的猫儿翩翩起舞，也有数字艺术家通过AI创作东方神话主题短片；与此同时，一些依靠机器批量制造内容的账号正被平台限流或封禁。

在面对AI技术时，平台应承担何种角色？是选择冷眼旁观，还是主动担当守夜人？近日，小红书首次系统提出AI治理理念，倡导将AI作为创意增强工具，反对将其用于造假和低质内容的生产。这种明确的立场，直击当前互联网内容生态的普遍难题。

“数字垃圾”泛滥，治理已非“选修课”

AI工具正在重塑内容生产的整体格局。以往需要专业训练、耗时数小时才能完成的文案、配图、视频制作，如今几分钟即可实现。创作门槛的显著降低，确实帮助许多创作者突破了瓶颈。

例如毕业于央美的创作者一方，专攻宋代院体画，一幅作品往往需耗时近月。自2024年末起，她开始尝试用AI为画作赋予动态，使小龙猫角色能穿云而过，静态国画因此有了生命力，传统文化的表达也找到了新路径。

创作者@一方画猫呢 利用AI让国画动起来的视频截图

但技术便利的背后，是失序的蔓延。有人用AI换脸伪造名人视频带货，有人批量生成“真人测评”笔记做矩阵号，有人将聊天记录、消费凭证等截图用AI篡改后当作“亲测”经历发布，还有人靠AI“托管”账号实现全自动发文、回帖、互动。流水线批量生产的“数字垃圾”，稀释了真实分享的空间。等到虚假内容传播再删帖封号，人工审核根本追不上机器的脚步。

面对这一趋势，被动应对已远远不够。国家层面，国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》，自2025年9月1日起施行，明确“规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益”。此后，中央网信办部署“清朗·2026年营造喜庆祥和春节网络环境”专项行动，督促网站平台集中整治借AI生成传播“数字垃圾”等垃圾信息问题。

从建章立制到专项行动，国家层面的信号已经清晰，这也意味着，平台的AI治理不能再停留于“头痛医头”的零散规则，必须走向体系化的顶层设计。

要刻度，也要温度

AI治理的核心价值在于“有所鼓励、有所禁止”的清晰态度。在鼓励方向上，小红书支持用AI将复杂知识转化为可视化科普，支持创作者独立设计的原创虚拟角色，以及有审美、有叙事逻辑的短片。公域流量将优先倾斜给那些具备审美、叙事与真实信息增量的优质内容。同时，要求AI生成内容必须主动标识，引入社区用户参与监督，还上线了专属申诉通道，既把知情权还给了用户，也为合规创作者留出了空间。

与之对应的，是四条清晰、具体的行为红线。小红书明确制止四类行为：AI违规运营，包括利用AI教唆做号、AI及第三方托管批量运营账号；AI造假行为，包括仿冒名人、虚构人设信息、伪造经历、魔改经典、低差营销；AI侵权行为，侵犯肖像权和著作权；利用AI进行低质创作，传播不良价值观、生成猎奇内容、批量生产同质化内容。

事实上，对AI乱象的治理并非个别平台的单打独斗。今年以来，行业共识正在加速落地：微信在二季度批量处置了大量AI自动化创作内容，对机器批量灌装的营销号实施梯度处罚；红果短剧一季度下架违规漫剧1718部，用硬性门槛为内容质量托底；小红书通过密集迭代规则，在2月明确AI生成内容须主动标识、3月重拳整治AI托管账号，对全自动运营、冒充真人互动的行为予以严格打击。各平台看似打法不同，实则殊途同归——从源头压缩劣币驱逐良币的生存空间，在保障用户知情权与创作者权益的同时，牢牢守住内容社区“真人、真心、真分享”的核心根基。

治理的重点从来不是AI工具本身，而是那些“用AI替代真实、消解真实”的行为。对于能辅助真实表达、提升创作效率的AI应用，平台持开放态度；对缺乏真实经验支撑、可以批量复制、不断侵蚀用户信任基础的内容，则持续清理。

AI治理从来没有放之四海而皆准的统一模板。短视频、资讯类、长视频平台的用户构成各不相同，治理方案自然不能一概而论。但无论形态如何变化，行业底线是共通的：不能放任机器内容淹没真人创作。唯有以清晰规则引导技术向善，以主动作为守护生态底色，才能让技术真正服务于人的创作与表达。

技术奔流不息，内容生态的治理挑战也将长期存在。小红书此次发布 AI 治理主张，是一次以“真实”为核心竞争力的线上内容社区对技术边界的主动探索。当越来越多的平台开始从被动应对走向主动立规，行业才有可能在创新与秩序之间找到可持续的平衡。

归根结底，技术可以生成无限趋近完美的画布，但唯有真实的人生经历与真诚的情感表达，才能在画布上绘就真正有温度、有生命力的作品。