小红书封禁AI托管账号，平台开始为“真人分享”设防

3月10日，小红书官方账号“薯管家”发布《关于打击AI托管运营账号的治理公告》，宣布即日起对“纯AI托管账号”开展专项治理。

根据规则，平台将对不同类型的违规行为采取分级处理：

1.若普通账号偶发使用AI托管进行代写、代发或虚假互动，将根据情节给予警告、限制分发等处罚；

2.通过AI工具完成注册、发布、互动等全流程运营，或主页公开笔记全部由AI代发的账号，则将被直接封禁。

这一治理标准与国家《人工智能生成合成内容标识办法》中 “禁止机器冒充真人运营” 的核心要求一致。

内容平台进入“AI运营监管”时代

从平台表态来看，此次治理直指近期快速蔓延的“AI托管”产业链。

平台监测发现，一些用户借助OpenClaw（俗称“龙虾”）等AI工具，将账号注册、内容生成到评论互动实现自动化运营，并以批量生产“伪体验”笔记的方式进行种草引流，甚至通过私信导流、虚假互动等方式变现。

这类账号通常呈现出明显的模板化特征：语气统一、配图模式相似、评论互动高度机械化。

短期来看，这种批量生产模式会迅速占据内容分发空间；但从平台生态角度看，其对“真实分享”的社区基础构成了直接冲击，甚至已经出现用户因AI笔记误导消费而产生权益纠纷的情况。

为配合此次治理，小红书同步开放了专项举报入口。用户可在笔记页面通过“分享-举报-对他人造成困扰或危害-AI 造假”进行反馈，也可以在账号页通过“右上角（···）标识”进行举报，发起投诉。平台同时强调，本轮治理的重点并非限制AI技术使用，而是划清边界：AI可以作为内容生产工具参与创作，但不能替代真人进行账号运营与互动。

据悉，公告发布后，部分从事批量“养号”的灰产团队已经开始删除内容、注销账号，而真人创作者普遍表达支持，认为平台正在重新保护真实创作的流量空间。

业内人士分析认为，小红书对“AI托管”的明确禁令，或将成为平台治理AI内容的重要分水岭。随着 AI 深度参与内容生产，平台需要在鼓励技术效率与维护生态秩序之间寻找平衡。一方面，AI 已经成为创作者的重要工具，可以用于选题、写作、剪辑甚至数据分析；另一方面，如果 AI 可以完全替代真人进行账号运营，内容生产的规模与速度将远超平台生态能够承受的范围。

目前抖音、快手已经开始整治AI虚拟人带货和低质批量视频，B站、知乎也在强化AI内容标识机制。随着生成式AI深度进入内容生产环节，“允许AI辅助创作、禁止AI替代真人运营”很可能逐渐成为平台之间形成共识的治理原则。与此同时，这一政策也将直接冲击“AI起号”“批量卖号”等灰色产业链，推动内容平台重新强调真实体验与真实表达的价值。

AI时代，真人社区成为平台价值的护城河

更进一步讲，我们也能从此次事件中观察到更加深刻的行业走向变化：随着AI内容的日渐泛滥，社群反而成为当今最稀缺的资源。

这听起来像是一个悖论，技术正在变得越来越先进，为什么还要关注原来这些低效率的内容生产方式？但如果我们把目光投向海外，就会发现类似的做法并不罕见。在海外大模型发展如火如荼的今天，Open AI、Google等公司，都在将目光投向Reddit等论坛平台，寻求与这些有着大量真人产生的文本内容的平台合作。

合作的直接原因，是大公司希望这些有着真人语料的平台能够为大语言模型的训练提供支持。大语言模型的训练，本质上是一个统计规律提取的过程。模型通过海量文本学习词语共现的概率、句法结构的模式、语义关联的规则。从这一底层逻辑出发，可以说，想要训练一个优秀的大语言模型，需要两种类型的数据：

通用文本数据：包括网页、图书、新闻报道等，这类数据规模大、覆盖面广，主要提升模型的泛化能力；

专用文本数据：包括多语言内容、科学论文、代码等，提升模型完成专项任务的能力。

而社群语言恰恰处在这两者的中点。它既有通用文本的多样性，又在特定话题上具有深度。更重要的是，社群数据包含了一种AI生成内容永远无法提供的东西，也就是互动中的语境。

一篇Reddit帖子或者小红书笔记之所以有价值，不仅在于主贴内容，还在于评论区里的追问、反驳、补充。这种多轮互动中蕴含的”对话逻辑“，用户之间如何澄清歧义、如何回应质疑、如何基于上下文推进话题，这些都是训练模型理解真实对话的核心素材。

同时，有研究尝试用RAG（检索增强生成）框架分析Reddit社区，发现结合真实社群数据的模型在分类任务上F1分数达到0.99以上，显著优于传统基线模型。这说明，真实社群的对话结构本身，就是一种高质量的”训练教材“。而另一方面，也有研究指出，AI生成文本可以作为数据稀缺时的补充，但绝对无法替代真实数据。当训练集中AI生成内容占比过高时，模型就会出现崩溃的风险。

但是，如果仅仅是为了有利于大模型的训练，显然不足以成为小红书大力整治AI的理由。更关键的问题在于社群自身。试想，如果小红书的平台上充斥着AI生成内容，那么用户有什么理由停留在小红书而不是去直接与AI大模型互动呢？而这一潜在的风险正在随着大语言模型带来的内容爆炸式增长而不断提高。而这也根本性的扭转了过去十年移动互联网时代内容平台的竞争逻辑。在过去十年里，哪个平台的内容多，就能让用户在平台上消耗更多的用户时长，平台也因此可以从这些数据中获益。

但这种模式正在随着内容的泛滥而失效。在AI内容大量充斥平台的情况下，当用户发现自己关注的“宝藏博主”其实是一个AI账号，当评论区里的“热心网友”其实是自动回复的程序，当种草笔记里的“亲身体验”全是AI编造，平台与用户之间的信任基础就会崩塌。而这种信任，一旦崩塌就极难重建。

小红书的治理，标志着平台竞争从“流量逻辑”转向“信任逻辑”。流量可以靠技术堆砌，信任只能靠时间沉淀。一个平台上如果全是AI，它可以在短期内产出海量内容，但长期来看，它只是一座数据工厂，而不是一个社区。社区的价值，不在于“产出”，而在于“连接”。 而连接的前提，是双方都知道自己在和真人对话，而这也是小红书得以在过去几年中快速崛起的关键。

总而言之，小红书的策略绝非是过度反应。AI可以是工具，可以是助手，可以辅助创作、提升效率；但它不能成为替身，不能冒充真人，不能侵蚀社群最核心的信任资产。

展望未来，AI与真人社群的关系不是取代，而是互补。AI将承担越来越多的内容生产任务，释放人类的创造力；但真正的社群价值，将越来越聚焦于那些AI无法复制的东西。正是这些看似“低效”的连接，构成了人类社会的底色。而能够承载这种连接的平台，将在AI时代找到新的成长方向。

本文来自微信公众号“wj00816”（ID：Morketing），作者：Saltie，编辑：Wen，36氪经授权发布。