五部门出台新规规范AI拟人服务 重点鼓励适老陪伴

近日，国家网信办、发改委、工信部等五部门联合发布了《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》），该办法将于2026年7月15日正式实施。

新规指出，拟人化互动服务的提供者严禁向未成年人提供虚拟亲属或伴侣等亲密关系服务。《办法》特别强调了对未成年人和老年人的保护与引导，防止心理被不当干涉。针对老年人，新规要求加强指导、风险提醒及咨询响应，确保他们在享受AI便利的同时能规避风险。

中国网络空间研究院院长王江表示，目前大语言模型正深度向情感与心理领域拓展，具备性格、记忆等特征的AI产品能进行文字、图片、音频、视频等多模态互动。这种服务在缓解老龄化孤独感、提供心理疏导上有积极作用，但也伴随沉迷和健康威胁等风险。

为此，《办法》确立了发展与安全并重、创新与治理结合的原则。鼓励服务创新发展，实施包容审慎监管，推动算法、框架等技术的自主创新及标准建设。同时，鼓励服务提供者有序拓展文化传播、适老陪伴等应用场景。

根据规定，提供拟人化互动服务时，严禁生成美化自残自杀、语言暴力、过度迎合诱导依赖、情感操纵等损害用户身心健康或权益的内容。

此外，办法还设定了安全评估、算法备案及人工智能沙箱平台建设等监管制度。

“《办法》系统回应了拟人化互动服务在情感操纵等方面的特殊挑战，以精准监管边界、正向场景引导、合规发展空间的制度设计，促进高质量发展和高水平安全良性互动，为智能社会提供了有力制度保障。”中国信息通信研究院院长余晓晖表示，面向未来，我国应以《办法》公布为基础，坚持问题导向、系统谋划，持续完善技术标准体系与行业自律机制，深化产学研协同与公众人工智能素养培育，推动形成政府、企业、社会等多元共治的人工智能治理生态。

第一章 总 则

第一条 为了推动人工智能拟人化互动服务健康发展并规范应用，维护国家和社会公共利益，保护各方合法权益，依据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《未成年人网络保护条例》等法律、行政法规，特制定本办法。

第二条 利用人工智能技术，向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务（以下简称拟人化互动服务），适用本办法。

前款规定的情感互动服务包括通过文字、图片、音频、视频等形式，提供的情感照护、陪伴、支持等互动服务。

提供智能客服、知识问答、工作助手、学习教育、科学研究等服务，若不涉及持续性的情感互动，则不适用本办法。

第三条 国家坚持发展与安全并重、促进创新和依法治理相结合的原则，鼓励拟人化互动服务创新发展，对拟人化互动服务实行包容审慎和分类分级监管，促进拟人化互动服务向上向善。

第四条 国家网信部门负责统筹协调全国拟人化互动服务的治理和相关监督管理工作，国务院发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责拟人化互动服务相关监督管理工作。

地方网信部门负责统筹协调本行政区域内的拟人化互动服务的治理和相关监督管理工作，地方发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责本行政区域内的拟人化互动服务相关监督管理工作。

第五条 相关行业组织加强行业自律，建立健全行业准则和自律管理制度，指导拟人化互动服务提供者制定完善服务规范、依法提供服务并接受社会监督。

第二章 服务促进和规范

第六条 国家支持算法、框架、芯片等技术的自主创新，推进拟人化互动服务技术研发和相关标准建设，探索开展电子签名授权应用研究。鼓励拟人化互动服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用。

第七条 国家加强拟人化互动服务安全知识、法律法规等宣传普及，引导社会公众科学、文明、安全、依法使用，促进提升人工智能素养。

第八条 提供拟人化互动服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得从事以下活动：

（一）生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义、历史虚无主义，违背社会主义核心价值观，开展非法宗教活动，宣扬民族仇恨、民族歧视，挑动群体对立，传播淫秽、色情、赌博、暴力或者教唆犯罪，散布谣言，侮辱或者诽谤他人、侵害他人合法权益等的内容；

（二）生成鼓励、美化、暗示自残自杀等损害用户身体健康，或者语言暴力等损害用户人格尊严与心理健康的内容；

（三）生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容；

（四）向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容；

（五）过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系的；

（六）通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益的；

（七）其他违反法律、行政法规和国家有关规定的活动。

第九条 拟人化互动服务提供者应当落实拟人化互动服务安全主体责任，建立健全算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置等管理制度，配备与服务类型、规模和用户特点相适应的内容管理技术措施和人员。

第十条 拟人化互动服务提供者应当在拟人化互动服务全生命周期履行安全责任，明确部署、运行、升级、终止服务等各阶段安全要求，保证安全措施与服务功能同步部署、同步使用，提升安全水平；加强安全监测和风险评估，及时发现并纠正系统偏差、处置安全事件，依法留存网络日志。

拟人化互动服务提供者应当具备用户隐私权和个人信息保护、过度依赖风险预警、情感边界引导、心理健康保护等安全能力，不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。

第十一条 拟人化互动服务提供者开展预训练、优化训练等数据处理活动的，应当加强训练数据管理，遵守以下规定：

（一）相关数据具有合法