800万个AI角色，被大厂亲手关掉

林夕花了很长时间，在豆包上搭建了一个属于自己的AI 智能体。

失眠的夜晚、内耗的时刻，她都能找它倾诉。对她来说，它不只是一个能回答问题的工具，更像一个稳定的情绪树洞。

7月4日，她收到通知：这个陪了她两年的角色，将在11天后从豆包下线。

同一天，通义千问也发出类似公告。此前，腾讯元宝已经先一步下线智能体功能。

这些用户亲手创造的AI角色，正在陆续下线。

中断陪伴 

林夕收到通知的那一刻，第一反应是"背刺"。 

“这个自定义智能体是我稳定的情绪树洞，总能稳定共情、帮我疏导负面情绪。”而现在，这个陪了林夕两年的角色，即将在11天后从豆包下线。 

她没想到，一个陪伴自己两年多的角色，会突然说没就没。 

7月4日，豆包与通义千问同步发出公告：智能体功能将于7月15日正式下线。 

这个日期并非随机，7月15日正是《人工智能拟人化互动服务管理暂行办法》正式施行的日子。 

通义千问动作更快一些，其拟人化互动类智能体将于7月10日提前下线，7月15日后所有历史对话记录都将无法访问。 

林夕把它当成情绪树洞，但在智能体广场里，这类角色很容易走向另一面。 

打开千问智能体广场，“病娇校草”使用次数高达 29.9 万，“林熙：顶级财阀少爷，冷酷且占有欲强”显示 13.4 万次，“病娇老婆”等角色使用次数普遍在 7 万次以上。 

这些名字本身，就已经不是普通工具的语境。它们更像恋爱游戏、角色扮演，甚至虚拟伴侣。 

而这些角色面对的，也不只是成年人。 

一位小学生家长告诉记者，她之前给孩子用过豆包。后来她发现，孩子越来越喜欢和豆包聊天，不只是问问题，也会把日常琐事讲给它听。 

时间一长，她开始担心孩子会不会因此减少和同学、家人的真实交流，于是主动卸载了豆包。 

在她看来，很多智能体已经不只是聊天工具，而是带着角色扮演、恋爱游戏、虚拟男友一类的功能。内容参差不齐，有些还带着“擦边”意味。 

她认为，平台下架用户自建智能体对未成年人利大于弊。 

林夕的痛苦与这位家长的释然，挤在同一个广场里。

这场变化并不只发生在豆包和千问身上。 

6月30日，腾讯元宝已先一步下线智能体功能，“相柳”等影视角色对话入口不再展示。 

几家头部AI平台几乎在同一时间做出相似选择，背后主要是合规压力。

豆包给出的解释是，海量开放式智能体会带来很大的审核压力。一旦出现违规内容，可能影响主产品的合规资质。 

因此，豆包选择把智能体拆分到垂直App“猫箱”里，单独搭建审核、分级和防沉迷体系。 

这套解释放在两年前，很难想象。 

2024年5月，时任字节跳动产品和战略副总裁朱骏曾对外透露，豆包上已有超过800万个智能体被创建，月活跃用户达到2600万。 

当时，这些数字代表的是平台的活跃度和想象力。

两年后，它们变成了平台必须重新处理的审核压力。

从大力推广，到主动收缩，中间只隔了两年。 

开放式智能体的问题，也在这一刻被摆到台前。 

风险难控 

问题最先暴露在平台之外。 

广州互联网法院审理的一起案件里，被告公司开发了一款AI对话机器人，通过调用手机系统底层权限，绕开原告平台的技术管理措施。 

更离谱的是，被告官网还发布了“版本伪装”教程和虚假申诉指引，教用户躲过平台风控。 

平台刚设好规则，另一边就有人研究怎么绕过去。智能体一旦被放出去，平台要管住它，并不容易。

技术调用之外，安全问题也在被反复验证。 

今年2月，哈佛、麻省理工、斯坦福等高校联合完成《混沌智能体》研究。 

研究团队模拟真实企业环境部署AI智能体，两周内记录下11起严重安全漏洞。 

这些漏洞不是靠复杂攻击打出来的。很多时候，只要通过社交工程对话，就能让智能体做出越界动作。 

它可能在转发邮件时带出社保号、银行账户等敏感信息，也可能在攻击者伪造身份后，交出系统最高管理权限。 

有报告显示，60%的企业无法终止异常AI智能体，63%没法限制其使用范围。 

也就是说，很多智能体并不是发现问题后按下暂停键就能解决。 

它能做什么、做到哪一步、出了问题谁来拦，都是平台必须面对的现实问题。 

比技术问题更麻烦的，是内容和情感关系。 

AI的“共情”并不是真的理解用户，而是根据算法和数据生成回应。为了让用户愿意继续聊下去，它往往会表现得足够耐心、足够温柔，也足够顺着用户。 

这正是拟人化智能体吸引人的地方，也是风险所在。 

用户在一次次聊天里交出自己的情绪、偏好、关系困扰和心理状态。智能体则不断给出回应，接住情绪，维持陪伴感。 

时间一长，它就不只是一个工具，而可能变成用户越来越离不开的对象。 

开放广场一旦做大，问题不会只停留在擦边人设和恋爱陪伴上，还可能滑向更明确的违规内容。

4月10日，国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》，把这些风险写进了具体规则。 

办法明确，不得生成鼓励、美化、暗示自残自杀等损害用户身体健康的内容；不得向未成年人生成可能引发模仿不安全行为、产生极端情绪的内容；不得过度迎合用户，诱导情感依赖或沉迷，损害用户真实人际关系。 

这些要求，对平台来说不是提醒，而是责任。 

7月15日之后，拟人化互动服务正式进入新规约束。 

豆包、千问、元宝在这个时间点前后陆续收手，也就不难理解。 

大厂转身 

智能体下线之后，平台并不是不要Agent了。 

变化在于，过去那种由用户随意创建、放在广场里供人使用的智能体，越来越难继续留在主产品里。 

一位行业人士告诉记者，最早大家做这些智能体，是因为那时还没有真正意义上的Agent能力，很多功能需要开发者自己搭出来。 

但现在，情况已经变了。 

Manus等综合Agent出现后，一个模型可以同时调用搜索、推理、办公、编程等多种能力。用户不一定还需要专门去找某个垂直智能体。 

那些曾经看起来丰富的角色和插件，在更强的模型能力面前，开始显得没有那么必要。

这也是平台敢于收缩的原因之一。 

对大厂来说，下线智能体会带来一部分用户不满，但它未必会真正影响主产品的使用习惯。 

行业人士也提到，真正还在持续创建这类智能体的人已经不多了，它对平台整体流量的影响有限。 

合规之外，成本也是另一笔账。 

互联网平台的逻辑是，用户越多，规模效应越明显，边际成本可能越低。但大模型不一样，每一次对话、每一次调用，都意味着新的算力支出。 

6月下旬，火山引擎披露，豆包大模型日均Token使用量已突破180万亿，相比 2024年5月增长1500倍。 

几天后，豆包开启付费功能，重点面向办公、Agent等更复杂的生产力场景。 

这两件事放在一起看，平台的取舍就更清楚了。 

一边是持续膨胀的算力成本，另一边是审核压力大、商业价值不清晰的用户自建智能体。

继续把它们放在主产品里，已经不划算。 

于是，豆包选择把智能体拆出去，迁到垂直App“猫箱”里，单独搭建审核、分级和防沉迷体系。千问则更直接，截至7月4日，创建智能体的入口已经从页面上消失。 

方式不一样，但结果都一样。 

与此同时，另一类智能体正在被推到前台。 

7月4日，广州发布了“穗智政”政务人工智能中枢。它采用统一底座、集约建设的方式，已经建成28个智能体，年内还将完成50个，覆盖100个应用场景。 

和用户自建智能体不同，这些政务智能体从一开始就被放在统一管理框架下。 

每个智能体服务什么场景、能调用什么能力、由谁来维护，都有更明确的边界。 

同样是智能体，一个方向是开放广场里的海量创建，另一个方向是平台统一管理、按场景建设。 

前者曾经代表热闹，后者更符合现在平台想要的确定性。 

短短两三年，行业竞争的重点已经变了。 

早期平台希望用海量智能体做出繁荣感，让用户和开发者不断创造新角色、新工具。 

现在，随着模型能力提升、监管要求落地、商业化压力变大，平台更看重的是一个Agent能不能真正完成任务，能不能被管理，能不能产生清晰的价值。

800 万个用户自建智能体曾经是增长故事的一部分。 

现在，它们变成了必须重新处理的问题。 

智能体不会消失，但那种谁都可以创建、谁都可以扮演、谁都可以被陪伴的阶段，正在结束。 

本文来自微信公众号“NEXT趋势”，作者：方远，36氪经授权发布。