AI拟人功能关停背后的合规警钟

2026年7月4日，阿里巴巴通义千问（Qwen）与字节跳动豆包（Doubao）几乎同时向用户推送通知：将于2026年7月15日终止平台内用户自建智能体及拟人化对话功能。此前，腾讯元宝已先行关闭同类服务。此举并非业务收缩，而是一次精准的合规响应，直指由国家网信办、发改委、工信部、公安部、市监总局联合发布的《人工智能拟人化互动服务管理暂行办法》（简称《暂行办法》），该规章将于2026年7月15日正式生效。

对咨询机构及所有AI应用企业而言，这标志着中国AI监管已从“内容标识与算法备案”迈入“情感模拟与人格仿生”的深度监管阶段。

《暂行办法》第二条清晰界定了适用范围，直接决定哪些业务需暂停或整改：

核心概念

定义与范围（英文/解释）

适用/排除情形

拟人化互动服务 (Anthropomorphic Interactive Service)

通过AI技术，向公众提供模拟人类人格、思维与沟通方式的持续性情感交互服务，涵盖文字、图像、音视频等形式的情感陪伴、关怀与支持。

适用《暂行办法》：如虚拟伴侣、虚拟亲属、角色扮演智能体（如“中学教师”“模拟面试官”）、情感倾诉AI等。

非拟人化工具服务

不涉及持续情感交互，以功能导向、任务执行为主的AI应用。

不适用《暂行办法》：智能客服、知识问答、工作助手、教育学习、科研辅助等。

律师点评：千问与豆包下线的核心，是用户自建智能体中大量存在的角色扮演与情感陪伴类功能。此类UGC服务因难以实现全链路实时审核、角色备案及未成年人保护，平台选择“一刀切”下线，实为规避合规风险的务实之举。而未涉及情感互动的工具型助手，若边界清晰，理论上可豁免，但需严防功能混淆。

咨询机构在为客户做合规审查时，须重点关注以下三条红线：

《暂行办法》第二十二条规定，出现以下任一情形，服务提供者须开展安全评估并向省级网信部门报备：上线或新增拟人化互动功能；使用新技术导致服务重大变更；注册用户超100万或月活用户超10万；存在危害国家安全或公共利益的风险。

数据对比：Quest Mobile显示，豆包MAU约3.45亿，千问约1.66亿，远超10万阈值，合规成本呈指数级攀升。2. 未成年人“禁区”

绝对禁止：不得向未成年人提供虚拟伴侣、虚拟亲属等虚拟亲密关系服务。

严格授权：向14岁以下未成年人提供其他拟人化服务，须取得监护人明确同意。

强制机制：必须设置未成年人模式，含每2小时弹窗提醒、时长限制、敏感角色屏蔽等功能。

禁止诱导依赖、情感沉迷（防“认知降伏”）；禁止生成自残、自杀、暴力、泄密等内容；配合“清朗·整治AI应用乱象”行动，严查“一键脱衣”“AI占卜”“色情陪聊”等违规功能。

面对拟人AI的紧急刹车，咨询机构应协助科技企业、文创平台及传统数字化部门采取以下措施：

业务定性隔离

梳理现有AI功能，明确区分“工具型AI”与“互动型AI”。若主平台混杂大量UGC拟人智能体，建议参照阿里、字节做法，将互动功能剥离至独立主体或暂行下线，避免主站合规受损。

安全评估预案

若用户规模已达10万/100万阈值，立即启动内部安全评估，覆盖训练数据、防沉迷、未成年人保护、应急响应等，并准备省级报备材料。

数据留存与告知

如千问、豆包所示，下线前须通知用户备份对话记录，明确数据删除规则（依据《个人信息保护法》），防范信任危机与法律纠纷。

转型AI Agent工具化

头部平台正将重心转向AI Agent（能自主感知、规划、调用工具的系统，区别于情感型角色）。咨询机构可引导客户将“情感陪伴”转为“任务执行”，如“自律购物助手”“行程规划Agent”，剥离情感属性，落入豁免范围。AI曾试图成为“最懂你的朋友”，如今法律要求它先别做“最危险的伴侣”。从千问、豆包的同步关停，可见法律对技术伦理的强力纠偏。对专业人士而言，“拟人化”不仅是技术亮点，更是法律雷区。未来AI架构中，“去拟人化”或“合规隔离”将比算力更具战略价值。

【附录：拟人化互动服务合规自查表（咨询机构用）】

检查项

合格/应对标准

风险等级

业务定性

明确服务是否构成“持续性情感互动”；工具型AI是否有独立标识与功能边界？

极高

用户规模

MAU是否超10万/注册用户超100万？如是，是否已准备安全评估报告？

极高

未成年人保护

是否向未成年人提供虚拟伴侣？14岁以下是否获监护人同意？是否设未成年人模式+2小时提醒？

极高

UGC管理

用户自建智能体是否逐一审核？是否存在一键脱衣/占卜等违规角色？无法全覆盖审核是否考虑下线？

高

数据处置

功能下线或调整时，是否提前告知用户、提供数据导出、明确删除时限？

高

【引用与参考】

国家网信办等五部门，《人工智能拟人化互动服务管理暂行办法》（2026年4月10日公布，2026年7月15日施行）。

中央网信办，《关于开展“清朗·整治AI应用乱象”专项行动的通知》（2026年4月30日）。

阿里巴巴，《千问智能体服务下线提醒》（2026年7月4日）；字节跳动，《豆包智能体功能下线通知》（2026年7月4日）。