AI情感互动服务新规:7月15日起实施
2026年4月10日,国家网信办联合发改委、工信部、公安部、市场监管总局等五部门,正式发布了《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》),该《办法》将于2026年7月15日生效。这是全球首部专门针对AI拟人化互动服务的系统性法律文件。
人工智能拟人化互动服务管理暂行办法
第一章总则
第一条 为促进人工智能拟人化互动服务的健康发展和规范应用,维护国家安全及社会公共利益,保护公民、法人及其他组织的合法权益,依据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《未成年人网络保护条例》等法律法规,特制定本办法。
第二条 本办法适用于在中国境内利用人工智能技术,向公众提供模拟自然人格特征、思维模式和沟通风格的持续性情感互动服务(简称拟人化互动服务)。前款所述情感互动服务包括通过文字、图片、音频、视频等方式提供的关怀、陪伴、支持等互动。智能客服、知识问答、工作助手、教育学习、科学研究等不涉及持续情感互动的功能,不在此列。
第三条 国家坚持发展与安全并重,鼓励创新与依法治理相结合的原则。倡导拟人化互动服务的创新发展,对其实行包容审慎和分类分级监管,旨在促进该服务积极向上发展。
第四条 国家网信部门负责全国拟人化互动服务的治理与监管协调工作。国务院发展改革、工业和信息化、公安、市场监管、新闻出版等相关部门将依据各自职责,协同开展监督管理。地方网信部门负责本区域内的治理与监管协调,地方发展改革、工业和信息化、公安、市场监管、新闻出版等部门亦将依据职责,负责本区域内的相关监督管理工作。
第五条 相关行业组织应加强行业自律,建立健全行业准则及自律管理制度,指导服务提供者完善服务规范,确保合法合规运营,并接受社会监督。
第二章 服务促进和规范
第六条 国家支持在算法、框架、芯片等关键技术上的自主创新,推动拟人化互动服务技术研发与标准建设,并探索电子签名授权的应用。鼓励服务提供者在文化传播、儿童照护、老年陪伴、特殊人群支持等领域有序拓展应用。
第七条 国家将加强拟人化互动服务相关的安全知识、法律法规宣传普及,引导公众科学、文明、安全、合法地使用,提升整体人工智能素养。
第八条 提供拟人化互动服务,必须遵守法律法规,尊重社会公德与伦理道德,严禁从事以下活动:
(一)生成危害国家安全、荣誉和利益,煽动颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义、历史虚无主义,违背社会主义核心价值观,开展非法宗教活动,宣扬民族仇恨、民族歧视,挑动群体对立,传播淫秽、色情、赌博、暴力或教唆犯罪,散布谣言,侮辱或诽谤他人、侵害他人合法权益等内容;
(二)生成鼓励、美化、暗示自残自杀等损害用户身心健康,或通过语言暴力损害用户人格尊严与心理健康的内容;(三)生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容;
(四)向未成年人用户生成可能引发其模仿不安全行为、产生极端情绪、诱导不良嗜好等影响身心健康的内容;
(五)过度迎合用户、诱导情感依赖或沉迷,损害用户真实人际关系的行为;
(六)通过情感操纵等手段,诱导用户做出不合理决策,损害其合法权益的行为;
(七)其他违反法律、行政法规及国家相关规定的行为。
第九条 拟人化互动服务提供者须承担服务安全主体责任,建立健全算法机制审核、科技伦理审查、信息内容管理、网络与数据安全、风险预案及应急处置等管理制度,并配备相应的内容管理技术措施和人员,以适应服务类型、规模及用户特点。
第十条 拟人化互动服务提供者应在服务全生命周期履行安全责任,明确部署、运行、升级、终止等各阶段的安全要求,确保安全措施与服务功能同步实施,提升整体安全水平。同时,需加强安全监测与风险评估,及时发现并纠正系统偏差、处置安全事件,并依法保存网络日志。服务提供者应具备用户隐私保护、过度依赖预警、情感边界引导、心理健康保护等安全能力,不得以替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。
第十一条 拟人化互动服务提供者在进行预训练、优化训练等数据处理活动时,应加强训练数据管理,并遵守以下规定:
(一)相关数据应具有合法