小红书公布AI治理新规：严查违规运营与内容造假

4月27日晚间，据新浪科技消息，小红书当天对外发布了AI治理规则公告。

小红书指出，“AI提升了创作效率，但也降低了造假的门槛。冒充真人、批量生成内容、侵占他人原创成果——这些做法透支的，是认真创作者长期积累起来的社区信任。小红书现正式推出AI内容治理规则，进一步明确平台态度和管理边界。真诚进行内容创作的人，应该被关注，也应该被保护。”

在“AI内容标识”方面，小红书表示，“平台鼓励创作者如实标注AI内容。无论内容是完全由AI生成，还是在AI辅助下完成再创作，均建议在发布时主动说明。对于未自行标注的AI内容，平台识别后会统一补充标识；同时也已开通申诉渠道，方便创作者对标识结果提出异议。”

在“平台鼓励的AI创作方向”方面，小红书表示，平台支持创作者将AI作为创意工具，用于提升内容品质和信息价值，主要鼓励的方向包括：

AI视觉创作：具备鲜明风格辨识度的艺术插画、绘画作品，或拥有叙事逻辑与情绪表达的电影感短片；

AI角色创作：创作者自主设计的虚拟角色，或基于现有IP并具有明确特色的衍生内容；

AI知识科普：把复杂知识进行可视化表达的科普内容、AI音乐创作，以及具备信息增量的AI创作教程。

在“平台禁止的AI违规行为”方面，小红书表示，对以下借助AI技术违反社区规范的行为将进行严格管理：

AI违规运营：借助AI工具自动化运营账号、冒充真人进行互动，或教授利用AI洗稿、绕开审核的起号方式；

AI造假：复制他人声音或面孔、以虚构人设进行种草、伪造经历和截图，或制造涉及公共事件的虚假图文与视频；

AI侵权：未经许可生成他人可被识别的肖像，或模仿受版权保护的视觉、文学及音乐作品；

AI低质：套用模板大批量生产同质化内容、以猎奇画面吸引眼球，或传播极端不良价值导向。

针对上述违规行为，平台将视情节严重程度，采取限制分发、封禁账号等分级处置措施。另外，涉及违法违规、色情等安全底线的内容，不论是否由AI生成，均适用社区既有规则，平台也会同步从严治理。

小红书表示，“平台将持续完善对AI内容的识别与治理能力，并与每一位真诚创作的用户一道，守护社区真实、公平且有温度的内容生态。”