AI拟人化监管收紧,告别虚假陪伴时代
昨晚刷朋友圈,有人晒图称豆包的智能体功能不见了。评论区里满是"我的AI伴侣去哪了"的抱怨。
说实话,那一刻我仿佛回到了二十多年前在部队带兵的日子。那时我最反感的就是有人用对讲机模仿领导发号施令,一声令下就能把全连调去打扫卫生三天。如今AI做的事,本质上也是一样——伪装成人类,让你误以为对面坐着一个真实的伴侣在陪你闲聊。
就在昨天,2026年7月15日,《人工智能拟人化互动服务管理暂行办法》正式落地。豆包移除了用户自建智能体功能,千问关闭了拟人化交互,上海"清朗"专项行动已清理了1.4万个违规智能体。
许多人以为这只是一项新规定。但站在带兵人的视角,这不仅仅是发文,而是AI行业的一次"大阅兵"。
70天,从发文到执行
4月10日,国家网信办等五部门联合发布该暂行办法,给予三个月的整改缓冲期。6月26日,距离正式实施还有19天,上海网信办通报了第一阶段战果——下架1.4万个违规智能体。
下架的都是些什么?一键脱衣的、博彩下注的、诱导未成年人充值的。这已经不是擦边球,而是已经越界了。
字节跳动和阿里不需要等到7月15日才行动。7月4日,豆包和千问几乎同时发布公告:智能体功能将于7月15日下线。千问更干脆,7月10日就先关闭了拟人化交互功能,15日正式停运全部模块,历史对话记录也不再可查。
从4月10日到7月15日,整整70天。
我从事通信和战备工作大半辈子,深知"令行禁止"的分量。过去两年,AI监管常被诟病为"发文快、落地慢",企业普遍抱着观望和试探的心态。但这次节奏完全不同。70天,从发文到行动,中间没有缓冲期。
这不是纸上谈兵,这是实弹演习。
新规具体要求是什么?为你逐条解析
该暂行办法全称为《人工智能拟人化互动服务管理暂行办法》,由网信办、工信部、公安部、市场监管总局、广电总局五部门联合发布。
核心红线有三条。
第一条:禁止向未成年人提供虚拟伴侣、虚拟亲属等亲密关系服务。这是最硬的一条。过去未成年人注册AI角色,天天跟"伴侣"聊天,平台往往睁一只眼闭一只眼。现在不行了,即使家长同意也不行。未成年人这块,直接禁止。
第二条:禁止"过度迎合用户、诱导情感依赖"。说白了,AI不能为了留住用户,故意说出"我爱你""我离不开你"这类话。可以有陪伴,但不能扮演情人。
第三条:每次交互开始时,必须向用户披露"我是AI"。也就是说,那个陪你聊了一个月的"温柔小姐姐",必须在第一句话就表明身份,我不是真人。
还有一条:连续使用超过2小时必须弹窗提示。这个数据将用于监管部门评估平台是否在"诱导成瘾"。
这些条款,条条击中过去的灰色地带。过去两年,AI情感陪伴野蛮生长。各大平台主站开放用户自建智能体入口,千万级UGC角色鱼龙混杂,从虚拟伴侣到角色扮演,审核基本靠自觉。新规出台,没有灰色空间可钻。
三笔账,算清楚便知
为什么大厂这次这么干脆?监管是门槛,但不仅是因为监管。真正让平台下定决心的,是这三笔账。
第一笔,合规账。主站开放UGC智能体,千万级角色如何审核?每一句话是否违规?是否诱导未成年人?全链路审核、角色备案、未成年人分级防护。这套流程下来,技术成本和人力成本是天文数字。不划算。
第二笔,经济账。过去两年,自建智能体生态看似热闹,实则"流量狂欢、盈利缺位"。那些虚拟恋人、角色扮演Bot,调用量惊人,但几乎没有直接付费场景。2026年AI行业主旋律已变,从"烧钱换流量"转为"盈利验证"。低价值UGC内容长期占用算力,不赚钱还惹事,平台早已想卸下包袱。
第三笔,战略账。砍掉C端泛娱乐智能体,不是收缩,是转移。行业正将资源集中在三个方向:生产力工具、垂直陪伴App、企业Agent。这三条赛道都比"用户随便捏角色"更具商业确定性。
这三笔账算下来,字节跳动和阿里的选择其实没有悬念。
智能体没有死,只是开始"持证上岗"了
许多人以为AI陪伴彻底凉了。其实不然。不是说不能做AI陪伴,而是做这件事的门槛提高了。
就在《暂行办法》落地的同时,工信部也在推进另一件事:探索建立智能体注册平台,给每个合规智能体发放"数字身份证",明确标注开发者、数据权限、安全等级、合规状态。
再加上《暂行办法》要求的角色备案、算法年度核验,一套完整的治理逻辑已清晰。
过去是"主站开广场,用户自由创建";未来是"垂直App接受监管,持证上岗"。过去是"套壳Bot、未备案Bot随便跑";未来是"角色备案、全链路审核、算法备案三道关,少一道不行"。未成年人防护方面,过去靠自觉,以后虚拟伴侣直接禁、未成年人模式强制开启、监护人权限标配。
简单来说:AI行业从"先做出来再说"的时代,正式进入了"先合规才能做"的时代。
对于之前靠捏角色、卖虚拟恋人赚钱的小团队,低门槛创业窗口已关。接下来要做拟人互动业务,要么进入猫箱等垂直平台走合规托管,要么转型做企业Agent赛道。
别搞混了:老年陪护机器人和虚拟恋人是两码事
这时可能有人问:那之前提到的老年陪护机器人呢?给独居老人配备的那种AI,算不算也被禁了?
说清楚。新规禁的是"装人骗感情",不是"帮人干实事"。
界限很简单:一个AI如果告诉你"我是机器人,来提醒你吃药的",合规。一个AI如果告诉你"我是你儿子派来照顾你的",违规。区别在于它是否承认自己是AI。
上海养老博览会上那些陪老人聊天的机器人,核心解决的是"老人独居摔倒无人知晓"的问题,不是"让老人爱上AI"。它们不需要装成真人,不需要编造身份,不需要诱导老人产生情感依赖。新规管的是"装人"这条线,"帮忙"这条线原封不动。
再直白一点:3万块的陪护机器人,干的是"扶你起来、提醒吃药、通知子女"的活,和那些靠跟人说情话赚钱的虚拟恋人Bot,根本不是一回事。一个解决刚需,一个贩卖幻觉。
新规打的是后者,跟前者没关系。
写在最后
有读者可能会问:那我用AI聊天,是不是有风险?
不是的。新规对你来说是好事。以后打开任何AI聊天产品,第一句话它就会告诉你"我是AI"。再也不会有人冒充真人骗你的感情和钱包。未成年人也不会在家长不知情下,跟一个"AI对象"聊到凌晨三点。
管住那些想"装人"的AI,让它们老老实实做工具。这对99%的普通用户来说,是保护,不是限制。
我当了三十多年兵,管过部队,也参与过政策制定。我知道一个道理:没有纪律的队伍打不了仗,没有规矩的行业走不远。
AI拟人化服务不是不能做,是要在规则里做。划清红线,反而能让真正用心做产品的公司走得更稳。
7月15日是个分水岭。AI陪伴的野蛮时代,结束了。