在AI技术日渐深入参与内容创作的当下，创作者得以借助AI工具突破瓶颈、激发创造活力，同时也产生了造假、侵权、低质内容泛滥等问题。为规范AI内容生态治理，引导创作良性发展，小红书于4月27日首次公布AI治理主张，系统阐释了该平台对AI内容创作与治理的核心态度和基本原则，即以真实性与原创价值作为AI内容治理的根本标尺，鼓励AI作为创意放大器，反对AI作为造假工具与低质内容生产机器，所有AI参与创作的内容均需主动标识。

鼓励AI赋能优质创作 明确标识保障知情权

小红书AI治理主张的核心亮点之一，是清晰界定了平台鼓励的AI内容及行为，鼓励创作者以AI为创意的放大器，生产出的有审美、有叙事、有真实信息增量的优质内容。一是利用AI提升作品的信息价值，例如将复杂知识变得更具可视化的科普内容，让难懂的信息变得直观易懂；二是利用AI创作有辨识度的虚拟角色，或对已有IP进行有亮点的二次创作；三是借助AI进行视觉创作，产出有审美、有叙事的好作品，包括艺术插画、绘画，以及具备剧情逻辑的电影感短片。

图为小红书AI治理主张摘录。资料图片

“发布AI治理主张不是为了限制创作，而是为了给创作者提供更清晰的方向。” 小红书用户信任中心负责人吉吉表示。她介绍，平台观察了创作者和普通用户使用AI的各种方式，访谈了大量创作者，听取他们在使用AI过程中的困惑、尝试和担忧。基于社区一贯坚持的“真诚分享”原则，小红书此次公布AI治理主张是希望给创作者和用户一个清晰的指引。

例如，中央美术学院国画学院花鸟系毕业生一方专攻宋代院体画，这种画风技法繁复、工序精细，一幅作品需要近一个月的打磨。在AI出现之前，因为缺少动画制作能力，这些静态的精美画作无法被更生动地呈现，如今，AI帮她突破了“画不能动”的技术瓶颈，让画面丰富度和可观赏性大幅提升。“当我画的小龙猫可以实现穿云而过的效果，一下子就像来了一个动画团队。”一方分享道。在她看来，AI是创作最后阶段的视觉效果放大器，但画面的原创性、核心想法和每一笔手绘，仍需由自己完成。

图为创作者一方的作品视频截图。资料图片

此外，小红书的AI治理主张也强调了创作者应对AI参与创作的内容进行主动标识，未进行标识的AI内容，平台将在识别后统一添加AI标识贴条。吉吉表示，鼓励AI标识是为了保障用户的知情权。目前，小红书已上线针对AI笔记贴条提示的申诉通道，创作者如果对AI贴条有异议，可通过该通道反馈。

坚决抵制不良行为 守护内容真实底色

在明确鼓励方向的同时，小红书聚焦破坏社区真实生态、侵害用户与创作者权益的核心问题，划定AI创作的“红线”。

具体来说，平台反对的不良行为包括：一是利用AI违规运营，如全自动托管账号、AI教唆做号等扰乱社区秩序的行为；二是AI造假，如利用AI仿冒名人、虚构人设、伪造个人经历、编造虚假信息，或是恶搞经典作品、借热点进行低质营销；三是利用AI侵犯肖像权、著作权的行为；四是利用AI批量生产同质化内容、生成猎奇博眼球的极端画面，或是传播不良价值观等低质创作行为。

“小红书社区是真实的人与人之间的连接。AI侵权、AI造假等行为破坏了社区真诚分享的基础，也挤压了真实创作者的空间。” 吉吉在分享中表示，平台会根据违规程度采取梯度处理，包括限制曝光、警告、封禁等；对于明确由AI托管运营、无真实人类参与的账号，平台将予以封禁。据悉，今年以来，小红书累计处置各类AI不良行为超百万例，其中AI托管账号超80万个、AI造假笔记近15万篇。

治理持续加码 构建良性内容生态

小红书平台AI科普创作者“大师的AI小灶” 坦言道：“AI跑得很快，但人的辨别意识和平台规则需要同步跟上，这个时间差正是普通人需要警惕的风险空间。” 他认为，平台对AI内容的系统治理，不是可有可无的选择题，而是必须做的功课。

小红书在AI治理领域的探索早已启动，今年以来更是持续加码，逐步完善治理体系：1月19日发布《社区公约2.0》，明确反对虚假内容，鼓励用户对AI内容进行主动标识；2月12日发布加强自主标记AI生成合成标识的公告，进一步细化要求；3月10日发布打击AI托管运营账号的治理公告，聚焦违规运营；4月27日首次公布AI治理主张，形成对创作者和用户的完整指引。

在AI技术快速迭代、内容创作模式不断变革的背景下，唯有明确治理边界、引导正向赋能，才能让“真诚分享”理念延续，才能让内容生态在技术进步中守住“人”的价值。