AI拟人互动监管新规将至,5天内完成合规准备
自2026年7月15日起,五部委联合发布的“AI拟人化互动”服务管理新规将正式启动——违规企业将面临10至20万元罚款,并可能被强制终止服务。虚拟恋人、数字分身、AI心理辅导类产品将正式被纳入严格监管范围。
值得注意的是,留给企业的准备时间仅剩5天。
4月10日,国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局共同发布《人工智能拟人化互动服务管理暂行办法》,规定自2026年7月15日起正式生效。
该办法的监管对象并非所有AI产品,而是专注于“拟人化互动服务”——即运用AI技术模拟自然人的人格特征、思维模式与沟通风格,提供持续性情感交流的服务。
AI恋人、AI伴侣、AI心理咨询、AI聊天助手、AI情感陪护……凡是采用“模拟人类情感和沟通方式”的AI服务,一律纳入监管范畴。
该办法共30条,涵盖算法备案、安全评估、未成年人保护、老年人权益保障、服务退出机制及法律责任等内容,实现全链条监管。这不是征求意见稿,而是已正式发布、即将实施的法规。
原文链接:
办法第14条明确规定三条绝对禁止的红线:
1. 禁止向未成年人提供虚拟亲属、虚拟伴侣服务
无论产品定位为“AI男友”“AI女友”还是“AI知己”,一旦向未满18岁用户开放,即构成违规。
2. 14周岁以下未成年人须经监护人同意
向14岁以下未成年人提供任何拟人化互动服务,必须获得父母或其他监护人的书面授权。同时必须设立“未成年人模式”——包括定期现实提醒、使用时长管控、监护人风险预警、角色屏蔽、消费限制等功能。
3. 必须强制识别未成年人身份
平台需在保护用户隐私的前提下,主动识别未成年人用户,识别后自动切换至未成年人模式。
直接受影响的产品类型:
这些产品的共同特征:用户规模庞大、未成年用户占比高、容易形成强情感依赖。
办法第30条是真正的核心条款——罚款金额分为两个档次:
需要关注两个关键细节:
1. “强制停止服务”为标准处罚
无论罚款1万元还是20万元,“责令停止提供相关服务”几乎必然随之而来。对于AI产品而言,停止服务意味着用户流失、收入中断、品牌受损——相比之下,10万元罚款反而是较小的损失。
2. “涉及生命健康危害”的界定标准并不高
办法第13条规定,当发现用户“明确表示实施自残自杀等威胁生命健康的极端情况”时,平台必须采取干预措施——这意味着只要平台存在极端情绪识别机制失效、或干预不及时导致不良后果的情况,将直接适用10至20万元的重罚档次。
再加上第22条的安全评估要求——注册用户超过100万,或月活跃用户超过10万,或上线新功能、或因使用新技术导致重大变化的情形,必须进行安全评估并向省级网信部门提交报告。
国内头部AI情感陪伴产品的月活数据动辄百万级别,绝大多数都将触发强制安全评估门槛。
这并非从零开始的新规——清朗·整治AI应用乱象专项行动已率先启动。
7月6日,中央网信办通报:自2026年4月专项行动启动以来,第一阶段累计处置违规AI产品1.4万余款,清理违法违规信息600余万条,处置账号2.6万余个,下架违规AI商品1300余个、违规开源数据集9个。
专项行动第二阶段已启动,重点整治“利用AI技术制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动”等突出问题——与拟人化新规的监管方向高度一致。
更值得关注的是头部平台的先例:
4月28日,网信部门依法查处“剪映”“猫箱”App及“即梦AI”网站——这些产品(剪映全球月活8亿、猫箱基于豆包大模型的AI互动娱乐、即梦AI字节系AI创作平台)因未有效落实AI生成合成内容标识规定,被采取约谈、责令改正、警告、从严处理责任人等措施。
7月4日晚间起,陆续有用户在社交平台反映,豆包App中的“发现”页智能体列表无法加载,自定义创建按钮消失;通义千问的“百宝袋”分区降级为官方固定工具集,第三方智能体全部清理;腾讯元宝则直接移除了“智能体中心”,并停止了对开放API的Agent托管服务。
7月5日,三家平台均在用户社区发布了“智能体功能暂时下线,升级后重新上线”的公告,但未给出明确时间表。一场由多方压力汇聚而成的“智能体大撤退”,就此拉开序幕。
注意:剪映/猫箱/即梦AI被查的是AI生成内容标识问题(去年的《标识办法》),不是这次拟人化新规。但这说明网信办的执法节奏已经形成——7月15日之后,违反拟人化新规的执法力度只会更强,不会更弱。
原文链接:
距离7月15日只剩5天,AI开发者按这6条清单自查:
□ 1. 算法备案 按《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销手续,网信部门对备案材料实施年度核验(办法第26条)。
□ 2. 安全评估 注册用户100万以上、或月活跃用户10万以上、或上线新功能、或使用新技术导致重大变化的,必须开展安全评估并向省级网信部门提交报告(办法第22条)。
□ 3. 生成内容标识 按《人工智能生成合成内容标识办法》及配套强制性标准,显式标识 + 隐式标识双落实。剪映/即梦AI就是栽在这条上。
□ 4. 未成年人模式
□ 5. 2小时强制弹窗 + 退出机制
□ 6. 极端情绪识别 + 干预 发现用户极端情绪、自残自杀倾向时,必须生成安抚内容、联络监护人或紧急联系人、采取必要援助措施(办法第13条)——这是触发10-20万重罚的核心雷区。
最后一句:
新规不是要给AI行业泼冷水,是要给狂奔的情感陪伴赛道装方向盘。备案、标识、未成年人模式、退出机制、极端干预——5件事,5天窗口期,谁先跑完谁先合规。
你的产品,准备好了吗?
参考