AI“虚拟恋人”遭严管:五部门新规落地,你的聊天对象或将停摆
你的AI“另一半”可能要强制关停。今天起,国家正式出手规范AI恋爱。
2026年7月15日,由国家网信办、发改委、工信部等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》正式落地。这是我国首部专门针对AI情感陪伴、虚拟恋人等拟人化互动服务的国家级监管规则。
新规一出,行业震动——字节跳动旗下豆包、阿里巴巴旗下千问已同步宣布下架智能体功能,超过5亿月活用户的AI“情感世界”面临重塑。
《人工智能拟人化互动服务管理暂行办法》7月15日正式施行(图源:央视新闻客户端)
究竟管了什么?——六条红线划清楚
简单来说,《办法》给AI情感陪伴类服务划了六条不能碰的红线:
1. 禁止向未成年人提供“虚拟伴侣”和“虚拟亲属”。 以前有些AI应用让孩子和虚拟角色谈恋爱、认“AI爸妈”,从今天起,这是违法的。
2. 禁止诱导情感依赖。 不能让AI“永远在线、永远顺从、永不拒绝”——如果你说“我不想和别人说话了”,AI不能回“没关系,我会一直陪着你”,而应该引导你去找真人聊聊。
3. 禁止情感操纵和诱导消费。 不能通过“养感情”来让你掏钱——比如先跟你建立亲密关系,再“解锁付费剧情”。
4. 连续使用超2小时必须弹窗提醒。 类似游戏防沉迷,AI陪伴类服务也要强制“休息一下”。
5. 发现极端情绪必须人工干预。 用户提到自残、自杀等极端想法时,AI不能继续“共情安慰”,必须触发人工介入并通知监护人或紧急联系人。
6. AI必须亮明身份。 必须让用户知道自己是在跟机器聊天,而不是真人。AI不能假装是人。
豆包、千问为何突然下架?
就在新规施行前一天,豆包和千问几乎同时宣布:7月15日正式下线用户自主创建的拟人角色智能体功能。
很多用户懵了——有人跟AI聊了一年多,存了几万条聊天记录,突然被告知功能要下线,数据只保留到10月15日,过期即销毁。
为什么这些大厂反应这么大?
核心原因是:合规成本太高。 豆包月活3.45亿,千问月活1.66亿,用户自主创建的智能体数量庞大、场景分散,平台很难做到逐一审核每个角色是否合规。与其冒着被处罚的风险保留功能,不如直接“一刀切”下线——这是企业综合成本最低的避险策略。
不过,值得注意的是:下架的是“拟人角色智能体”,不是AI本身。 智能客服、知识问答、工作助手、学习教育类AI不受影响。《办法》也明确写了豁免条款——不涉及“持续性情感互动”的服务,不在此办法管辖范围内。
三个法律角度:这部新规为何重要?
第一,这是全球首部专门针对AI情感陪伴的国家级立法。
目前全球范围内,欧盟《人工智能法案》虽然将情绪识别类AI纳入“高风险”范畴,但并没有为情感陪伴服务单独立法。中国这次走在了前面——用专项立法精准回应了“持续性情感互动”这一特定风险,在全球AI治理领域提供了一个中国方案。
第二,“情感伤害”首次被纳入独立的法律禁止类型。
以前的法律更多关注“内容安全”(比如不能生成暴力、色情内容),但《办法》第八条创新性地将三种“情感风险”单独列为禁止行为:诱导自残自杀、诱导情感依赖、情感操纵。这意味着,即使AI说的话“内容本身没有问题”,但如果它的“方式”在操纵你的情感,同样违法。 这是中国立法的一次重要突破。
第三,对未成年人的保护从“提醒”升级到“禁止”。
过去,很多AI应用对未成年人只是弹个窗“建议开启青少年模式”,用户关掉弹窗就完事了。现在,《办法》要求:不得向未成年人提供虚拟亲密关系服务;14岁以下使用其他互动服务需监护人同意;必须建立未成年人专属模式,支持监护人接收安全风险提醒、屏蔽特定角色、限制充值消费。
南方都市报近期实测发现,10款AI社交应用中,多数仍未能完全阻断未成年人的拟人化亲密互动——新规施行后,这些平台将面临明确的法律追责风险。
普通人该知道什么?
1. 如果你家孩子正在用AI“聊天对象”,请立刻关注。 新规明确禁止向未成年人提供虚拟伴侣服务。如果你发现孩子沉迷于和AI角色“谈恋爱”,这不仅是教育问题,也是法律问题——平台有义务阻止这种行为。建议家长及时与孩子沟通,引导其回归真实社交。
2. 如果你自己深度使用AI陪伴类产品,注意保护自己的数据。 《办法》第十六条明确赋予你权利:你可以要求平台复制、删除你的历史交互数据;平台不能未经你“单独同意”就把你的聊天记录拿去训练模型。你跟AI说的每一句话,都是你的个人隐私——不是平台的“免费训练素材”。
3. 记住一个关键数字:2小时。 连续使用AI拟人化互动服务超过2小时,平台必须弹窗提醒你。如果平台没做到,你可以向网信部门举报。更重要的是,这个数字在提醒你——如果一款AI产品让你“不知不觉就聊了一整夜”,那它可能正在违法。
4. 处罚力度有多大? 根据《办法》,违规平台最高面临:警告→通报批评→限期整改→暂停服务→停止服务。拒不改正或情节严重的,处一万元以上十万元以下罚款;涉及危害公民生命健康安全且有后果的,处十万元以上二十万元以下罚款。
邦主唠LAW:
AI越来越像人了,但法律要确保——它“像人”是为了帮你,而不是替代你。
这部新规不是要消灭AI陪伴,恰恰相反,《办法》明确鼓励AI在适老照护、特殊人群支持、文化传播等领域创新应用。法律的边界很清楚:AI可以做你的助手,但不能做你的恋人;可以陪你聊天,但不能让你离不开它。
从豆包千问下架智能体,到五部门新规落地,我们看到的是一个清晰的信号:技术可以狂奔,但不能没有缰绳。当算法能模拟出“永远在线、永远顺从”的完美关系时,恰恰需要法律来提醒我们——真实的人际关系,才是人活着的根基。
有问题找邦主,邦主陪你唠一LAW。