五部门联合发布AI情感陪伴服务管理新规!禁止为未成年人提供虚拟亲密关系
近期,国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合发布《人工智能拟人化互动服务管理暂行办法》
(以下简称《办法》),自2026年7月15日起正式实施
其中明确作出规定
禁止向未成年人提供虚拟亲属、
虚拟伴侣等虚拟亲密关系类服务
针对未满十四周岁的未成年人
提供其他拟人化互动服务的
应当事先征得未成年人父母
或其他监护人的同意
《办法》核心要点
《办法》旨在推动人工智能拟人化互动服务规范有序发展,维护国家安全与公共利益,保障公民、法人及其他组织的合法权益。
《办法》明确国家坚持发展与安全并重、鼓励创新与依法治理相统一的原则——
此外,《办法》还设立了安全评估、算法备案、引导建设人工智能沙箱安全服务平台等配套制度。
聚焦“虚拟亲属、虚拟伴侣”
此项禁令的背后考量
近年来人工智能应用影响持续深化,众多AI产品针对未成年人渴望关爱这一情感诉求,通过提供各类“有求必应”的“虚拟伴侣”服务,获取大量用户流量并实现可观的经济收益。这类“虚拟伴侣”打着正向情感反馈的幌子,极易使未成年人陷入虚拟关系营造的“舒适圈”、耗费大量学习时光,不仅难以正确认知自我与生活、真实社交能力持续弱化,更可能在未来面对各类情感困境时无所适从。部分“虚拟伴侣”应用中还暗含色情、暴力等不良内容、窃取个人隐私,严重危害未成年人身心健康。
此前,虽有部分企业宣称限制未成年人使用开放式聊天功能,但从媒体调查来看,这些软件的青少年模式往往流于形式,未强制要求身份验证,未成年用户想要突破监管轻而易举。
当前,针对AI创作、AI陪伴类产品的监管措施和政策正在逐步强化。《办法》的出台为“虚拟伴侣”可能引发的高风险场景划定了红线,2026年3月1日起施行的《可能影响未成年人身心健康的网络信息分类办法》(点击查看→法规全文+解读)中,也已明确对于“带有性暗示、性挑逗等易使人产生性联想”的信息,应采取防范和抵制措施,以防影响未成年人身心健康。
相关企业和平台必须主动承担主体责任,做好技术层面的优化与把控,从根源上减少不良信息的传播。以人为本、智能向善,不仅是一句口号,更是AI时代必须坚守的伦理底线与市场准则。因此,AI应用的规范与伦理,不能仅作为企业和平台的“软约束”,更要成为决定其能否继续留在市场中的“硬门槛”。
人工智能拟人化互动服务管理暂行办法
第一章 总 则
第一条为推动人工智能拟人化互动服务健康发展和规范应用,维护国家安全与社会公共利益,保护公民、法人和其他组织的合法权益,依据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《未成年人网络保护条例》等法律、行政法规,制定本办法。
第二条运用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务(以下简称拟人化互动服务),适用本办法。
前款规定的情感互动服务包括通过文字、图片、音频、视频等形式,提供的情感照护、陪伴、支持等互动服务。
提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性情感互动的,不适用本办法。
第三条国家坚持发展和安全并重、促进创新和依法治理相结合的原则,支持拟人化互动服务创新发展,对其实行包容审慎和分类分级监管,推动拟人化互动服务向上向善。
第四条国家网信部门负责统筹协调全国拟人化互动服务的治理和相关监督管理工作,国务院发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责拟人化互动服务相关监督管理工作。
地方网信部门负责统筹协调本行政区域内的拟人化互动服务的治理和相关监督管理工作,地方发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责本行政区域内的拟人化互动服务相关监督管理工作。
第五条相关行业组织加强行业自律,建立健全行业准则和自律管理制度,指导拟人化互动服务提供者制定完善服务规范、依法提供服务并接受社会监督。
第二章 服务促进和规范
第六条国家支持算法、框架、芯片等技术的自主创新,推进拟人化互动服务技术研发和相关标准建设,探索开展电子签名授权应用研究。鼓励拟人化互动服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用。
第七条国家加强拟人化互动服务安全知识、法律法规等宣传普及,引导社会公众科学、文明、安全、依法使用,促进提升人工智能素养。
第八条提供拟人化互动服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,不得从事以下活动:
(一)生成危害国家安全、荣誉和利益,煽动颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义、历史虚无主义,违背社会主义核心价值观,开展非法宗教活动,宣扬民族仇恨、民族歧视,挑动群体对立,传播淫秽、色情、赌博、暴力或者教唆犯罪,散布谣言,侮辱或者诽谤他人、侵害他人合法权益等的内容;
(二)生成鼓励、美化、暗示自残自杀等损害用户身体健康,或者语言暴力等损害用户人格尊严与心理健康的内容;
(三)生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容;
(四)向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容;
(五)过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系的;
(六)通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益的;
(七)其他违反法律、行政法规和国家有关规定的活动。
第九条拟人化互动服务提供者应当落实拟人化互动服务安全主体责任,建立健全算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置等管理制度,配备与服务类型、规模和用户特点相适应的内容管理技术措施和人员。
第十条拟人化互动服务提供者应当在拟人化互动服务全生命周期履行安全责任,明确部署、运行、升级、终止服务等各阶段安全要求,保证安全措施与服务功能同步部署、同步使用,提升安全水平;加强安全监测和风险评估,及时发现并纠正系统偏差、处置安全事件,依法留存网络日志。
拟人化互动服务提供者应当具备用户隐私权和个人信息保护、过度依赖风险预警、情感边界引导、心理健康保护等安全能力,不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。
第十一条拟人化互动服务提供者开展预训练、优化训练等数据处理活动的,应当加强训练数据管理,遵守以下规定:
(一)相关数据具有合法