小红书发布AI治理准则，明确创作界限

4月27日，小红书首次全面阐述了平台对于人工智能生成内容的管理原则，并于北京举办了首届AI治理开放日活动。此次AI治理原则涵盖了“平台所倡导的AI内容与行为”以及“平台所反对的AI内容与行为”两大方面，旨在为内容创作者提供明确的指导方向。

小红书阐述了其在面对AI相关现象时的核心立场：以内容的真实性与原创价值为AI内容治理的根本衡量标准。平台鼓励AI作为提升创意的工具，反对其被用于制造虚假信息或生产低质量内容。所有涉及AI参与创作的内容，都要求进行主动的标识。

鼓励AI成为创作者的创意放大器

所有AI参与创作内容均需标识

本次发布的AI治理原则，其核心要点之一在于清晰界定“平台鼓励的内容类型”，重点指向那些创作者借助AI作为创意放大器，从而生产出兼具美感、叙事性和真实信息增量的优质内容。

具体而言，小红书欢迎创作者在以下几个方面运用AI：第一，通过AI提升内容的价值，例如将复杂的知识转化为更易于理解的可视化科普内容，使晦涩的信息变得直观；第二，利用AI创造具有独特辨识度的虚拟角色，或对现有知识产权进行有亮点的二次创作；第三，借助AI进行视觉艺术创作，产出具有美感和故事性的优秀作品，包括艺术插画、绘画，以及具备情节逻辑的电影风格短片。

小红书AI治理主张摘录

“发布AI治理原则并非旨在限制创作，而是为了给予创作者更清晰的创作指引。” 小红书用户信任中心负责人吉吉表示。她介绍，平台密切关注了创作者和普通用户使用AI的各种方式，并与大量创作者进行了深入访谈，了解他们在AI使用过程中的困惑、尝试和顾虑。基于社区一贯秉持的“真诚分享”理念，小红书首次系统性地阐述了其对AI的态度，期望为创作者和用户提供明确的行为指南。吉吉透露，平台将优先将优质内容推向公域流量。

在小红书所鼓励的方向上，已有不少创作者探索出了富有价值的AI创作路径。毕业于中央美术学院国画专业的@一方画猫呢 就是其中一位。她擅长宋代院体画，每一幅作品都需要近一个月的精细打磨。然而，在AI技术出现之前，由于缺乏动画制作能力，这些精美的静态画作难以被生动地呈现。如今，AI帮助她克服了“画作无法动起来”的技术难题，显著提升了画面的丰富度和观赏性。“当我画的小龙猫能够实现穿云而过的效果时，感觉就像拥有了一个动画制作团队。”一方在开放日活动现场分享道。在她看来，AI是创作后期视觉效果的放大器，而作品的原创性、核心创意以及每一笔手绘，仍然由她本人亲自完成。

创作者@一方画猫呢 视频截图

此外，AI治理原则再次强调了创作者有义务对涉及AI参与创作的内容进行主动标识。对于未进行标识的AI内容，平台将在识别后统一添加AI标识贴纸。吉吉表示：“鼓励AI标识的目的是为了保障用户的知情权。对于非违规内容，AI标识贴纸不会影响其流量分配。目前，小红书已开通针对AI笔记贴纸提示的申诉渠道，创作者如对AI贴纸有异议，可通过该渠道进行反馈。”

坚决反对破坏社区真实底色的AI行为

在明确“鼓励的AI内容”的同时，小红书也梳理出了四类平台明确反对的AI行为：利用AI进行违规运营、利用AI进行虚假信息制造、利用AI进行侵权行为，以及利用AI进行低质量内容创作。

具体来说，平台反对利用AI进行全自动账号托管、AI辅助批量注册账号等扰乱社区秩序的行为；反对AI制造虚假信息的行为，包括利用AI模仿名人形象、捏造人物背景、虚构个人经历、编造不实信息，或是对经典作品进行恶搞、借热点事件进行低劣营销；反对利用AI侵犯他人肖像权、著作权的行为；同时，也反对利用AI批量生产同质化内容、生成猎奇或博取眼球的极端画面，或是传播不良价值观等低质量创作行为。

“小红书社区是真实个体之间建立连接的平台。AI侵权、制造虚假信息等行为，不仅损害了社区真诚分享的根本基石，也挤压了原创真实创作者的生存空间。”吉吉在分享中强调，平台将根据违规的严重程度采取分级处理措施，包括限制内容曝光、发出警告、直至永久封禁账号；对于明确由AI进行托管运营、缺乏真实人类参与的账号，平台将予以封禁。据悉，今年以来，小红书已累计处理各类不良AI行为超百万例，其中包括AI托管账号超过80万个，以及近15万篇AI制造的虚假笔记。

AI科普创作者@大师的AI小灶 在开放日活动上表示，在AI技术飞速发展的时代，普通大众面临着许多不容忽视的现实问题和潜在风险。他深入剖析了AI“幻觉”现象、AI造假等议题。“AI的发展速度非常快，但人类的辨别能力和平台规则的更新需要与之同步，这个时间差正是普通人需要警惕的风险区域。”他指出，平台对AI内容的系统性治理，并非一个可有可无的选择，而是必须履行的责任。

今年以来，小红书在AI治理方面持续加大投入：1月19日发布了《社区公约2.0》，明确反对虚假信息，鼓励用户主动标识AI生成内容；2月12日发布了关于加强自主标记AI生成合成标识的公告；3月10日发布了打击AI托管运营账号的治理公告；4月27日首次全面阐述了AI治理原则，为创作者和用户提供了完整的行为指导。

对小红书而言，此次AI治理原则的发布，既是社区“真诚分享”价值观在AI时代的延伸，也是与社区内创作者进行的一次有效沟通。当越来越多的平台开始审慎思考与AI的关系时，内容生态才有可能在技术进步的浪潮中，坚守“人的价值”的根本。