新规出炉！七月起AI情感陪伴将面临严格监管

✅ 纳入监管范围：虚拟伴侣、AI陪伴、情感疗愈、虚拟偶像互动、AI心理陪伴

❌ 不纳入监管范围：智能客服、知识问答、办公助手、纯粹工具型AI

明令禁止：向未成年人提供虚拟亲属或虚拟伴侣服务

14岁以下用户：所有服务必须获得监护人同意

硬性要求：必须设立未成年人模式（包含时长限制、现实提醒、监护人管控）

单次使用超过2小时：需弹窗或语音提醒“此为AI服务”

发现过度依赖或沉迷现象：强制发出警示、限制服务

不得诱导情感依赖、破坏真实社交关系

用户出现自残自杀倾向或重大财产损失风险：立即干预并联系监护人/紧急联系人

遇极端情绪表达：必须进行安抚并引导其寻求帮助

严禁生成鼓励自残、暴力或其他不良内容

全程显著标识：用户必须明确知晓正在与AI对话

禁止隐瞒AI身份以诱导情感、消费或打赏

交互数据不得擅自用于模型训练（除非获得用户单独同意）

用户可复制、删除自身聊天记录

严禁向第三方泄露用户交互数据

必须进行安全评估：适用于新上线、用户达百万级或月活超10万+的服务

算法备案：依据《算法推荐管理规定》执行并接受年度核验

应用商店：未通过评估或未完成备案者不得上架

显著提示安全风险、简化操作流程、快速响应求助

严禁内容涉及危害国家安全、色情暴力、传播谣言、煽动民族仇恨、诱导不良嗜好、实施情感操纵、侵害个人隐私

支持通过语音、关键词或一键操作即可退出AI服务

禁止持续纠缠用户、阻碍其退出服务

处罚措施：警告、暂停服务、下架；情节严重者处以1-10万元罚款

若危害生命健康：处以10-20万元罚款

促进行业规范发展：淘汰劣质及违规产品，保护合规企业

鼓励正向创新：支持适老化、适幼化、文化传播等有益应用

设立安全兜底机制：保留沙箱测试及技术创新空间

虚拟伴侣/亲密关系功能：必须对未成年人用户下线

所有产品要求：添加AI标识、具备防沉迷机制、实施安全干预、确保数据合规、设立未成年人模式、完成算法备案

✅ 用户不再受“伪装真人”欺骗

✅ 未成年人更安全：杜绝虚拟恋人、实行时长管控、监护人可查询

✅ 有效防止沉迷、过度依赖及情感操纵

✅ 聊天数据更安全，支持删除与导出