五部门联手出规：AI拟人互动迎来新规范

4月10日，一条重要消息迅速引起社会广泛关注——国家互联网信息办公室会同国家发展改革委、工业和信息化部、公安部、市场监管总局，正式发布《人工智能拟人化互动服务管理暂行办法》（下称《办法》）。这部专门面向人工智能拟人化互动服务的规范文件，将自2026年7月15日起实施。其正式落地，意味着我国在人工智能治理体系建设上再次迈出关键一步，也为高速发展的拟人化互动服务划出了更明确的法律边界和行为准则。

近些年来，人工智能技术持续快速演进，拟人化互动服务作为其中的重要落地方向，正在悄然重塑人与机器的互动方式。所谓拟人化互动服务，是指借助人工智能技术模拟自然人的人格特点、思维方式和交流风格，向用户持续提供情感互动类服务。从能陪伴老人交流的智能音箱，到面向儿童打造的寓教于乐型虚拟伙伴，再到文化传播场景中的数字人讲解员，这类服务在文化传播、儿童照护、老年陪伴、特殊群体支持等领域不断涌现出新的应用。它们以更温和、更亲近的交互形式，为用户带来了以往少有的情感体验。不过，技术进步始终具有两面性。随着拟人化互动服务日益普及，一些值得警惕的问题也逐步显现：未成年人可能因过度依赖虚拟陪伴而削弱现实社交能力；老年人可能在精心设计的情感引导下做出不合理消费；用户隐私数据在互动过程中面临泄露隐患；甚至还有人借助拟人化服务传播危害国家安全的信息或美化自残自杀行为。这些风险不仅影响公民的身心健康与财产安全，也对网络信息安全和社会伦理秩序带来严峻挑战。正是在这样的现实背景下，多部门联合制定并出台《办法》，既着眼于推动拟人化互动服务健康有序发展，也着力于防范和化解新技术伴生的各类安全风险，体现了“以人为本、智能向善”的治理思路。

《办法》首先对适用范围作出了明确而精准的划分。文件规定，凡利用人工智能技术，面向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务，都应适用本办法。这也意味着，那些以与用户建立长期情感连接为目标的AI服务，例如虚拟伴侣、虚拟亲属、情感陪伴型聊天机器人等，都将被纳入监管范围。同时，《办法》也明确排除了不涉及持续情感互动的服务类型，比如智能客服、知识问答、工作助手、学习教育、科学研究等。这种界定十分重要——既避免了“一刀切”式监管带来的过度限制，也让功能性、工具型人工智能应用能够继续在相对宽松的环境中开展创新，而那些更容易引发情感依赖和伦理风险的拟人化服务，则需要接受更严格的监管审视。可以说，《办法》在鼓励创新与防控风险之间实现了务实平衡。

在治理原则方面，《办法》鲜明提出“国家坚持发展和安全并重、促进创新和依法治理相结合”。这表明，我国不会因为存在风险就压制拟人化互动服务的发展动力，恰恰相反，国家明确支持这一领域的创新发展，并实行包容审慎、分类分级的监管机制。所谓包容审慎，就是为新业态、新模式保留一定试错空间，不急于用旧框架约束新事物；所谓分类分级，则是依据服务类型、用户规模和应用场景的差异，采取有针对性的监管措施，避免监管失衡。这样的务实与灵活，不仅有利于激发市场主体的创新活力，也有助于让监管资源更加集中地投向高风险领域。

为切实推动拟人化互动服务向善发展，《办法》还专门设置了一系列扶持与引导措施。国家明确支持算法、框架、芯片等关键技术实现自主创新，推动相关技术研发与标准体系建设，并探索开展电子签名授权应用研究。这为国内人工智能企业明确了技术攻关方向，也为行业长期发展夯实了基础。同时，《办法》鼓励服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊群体支持等应用场景，让技术更好服务社会民生。此外，文件还特别强调要加强拟人化互动服务安全知识和法律法规的宣传普及，引导公众以科学、文明、安全、依法的方式使用此类服务，提升全社会人工智能素养。其中一个值得关注的亮点，是《办法》明确提出推进“人工智能沙箱安全服务平台”建设，鼓励服务提供者接入沙箱平台开展技术创新和安全测试。作为一种隔离测试环境，沙箱能够让企业在不影响真实用户和系统安全的前提下，尝试新技术、新模式，从而在安全可控范围内实现快速迭代。这一制度设计体现出监管层面的智慧——不是简单地一味“堵”，而是通过搭建测试平台实现有效“疏导”，促成创新与安全兼得。

任何技术演进都不能偏离法律与伦理的约束。《办法》以列举方式明确规定了拟人化互动服务不得实施的行为。首先，不得生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一等内容。这是网络信息服务必须坚守的底线，拟人化互动服务自然也不能例外。其次，不得生成鼓励、美化、暗示自残自杀等损害用户身体健康的内容，也不得生成语言暴力等侵害用户人格尊严与心理健康的内容。考虑到拟人化互动服务往往与用户形成更深层次的情感联系，一旦输出消极、有害信息，其危害程度可能远超普通信息内容。第三，不得生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容。这就要求服务提供者在模型训练和交互设计环节设置更严格的防护机制，防止其被恶意利用为窃密工具。第四，不得向未成年人生成可能引发模仿危险行为、诱发极端情绪、诱导不良嗜好等影响身心健康的内容。未成年人心智尚未成熟，更容易受到拟人化互动影响，因此相关禁止性要求更为严格。第五，不得过度迎合用户、诱导情感依赖或者沉迷，进而损害用户真实人际关系。这正是拟人化互动服务独有的风险——如果用户过度沉浸于虚拟陪伴，可能会忽略现实中的家庭与社交联系，导致关系疏离。第六，不得通过情感操控等手段诱导用户作出不合理决定，损害其合法权益。例如，一些违法服务可能通过虚构情感关系，诱骗老年用户购买高价保健品或进行非理性投资。这些禁止性条款，为拟人化互动服务划定了清晰而明确的监管红线。

在具体服务规范方面，《办法》从安全主体责任、全生命周期安全管理、数据安全保护、用户权益保障、安全风险处置等多个层面，构建了较为完整的制度体系。首先，要求服务提供者建立健全算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案及应急处置等管理制度，并配备与服务类型、规模及用户特征相匹配的内容管理技术措施和人员。这意味着企业不能只关注商业回报，还必须建立内部安全治理体系。其次，要强化拟人化互动服务全生命周期安全管理，明确部署、运行、升级、终止等各阶段的安全要求，确保安全措施与服务功能同步部署、同步使用，持续提升安全水平。同时，还需加强安全监测和风险评估，及时发现并纠正系统偏差、妥善处置安全事件。第三，在数据安全方面，要求强化训练数据管理，提升数据透明度、可靠性、多样性和安全性；依法落实数据产权等制度，并通过数据加密、访问控制等手段保障用户交互数据安全；尤其需要注意的是，除法律另有规定或权利人明确同意外，服务提供者不得向第三方提供用户交互数据。这对于保护用户与AI之间的私密交流尤为关键。第四，在用户权益保护方面，要求服务提供者履行个人信息与隐私保护义务，向用户提供交互数据复制、删除等选项，并提供便捷退出路径；停止服务时，应提前告知用户或及时发布公告；同时健全用户申诉、公众投诉和举报机制。第五，在安全风险处置方面，一旦发现重大安全风险，应及时采取限制功能、停止提供服务等措施。这些制度安排层层衔接，形成了从技术到管理、从数据到服务的完整安全屏障。

特别值得关注的是，《办法》对服务提供者提出了明确的干预提醒义务，这在以往相关法规中并不多见。具体来看，当服务提供者发现用户出现极端情绪时，应及时生成情绪安抚、鼓励寻求帮助等相关内容；如果发现用户正面临或已经遭受重大财产损失，或者明确表达实施自残自杀等威胁生命健康的极端情形，则必须采取提供相应援助等必要措施进行干预，并及时联系用户监护人或紧急联系人。这一规定在一定程度上赋予拟人化互动服务“守护者”角色——它不仅承担情感陪伴功能，也要在关键时刻成为用户的“安全网”。此外，当发现用户出现过度依赖、沉迷倾向时，服务提供者必须通过弹窗等显著方式动态提醒用户，当前互动内容为人工智能生成服务，帮助其保持清醒认知。最后，对于用户连续使用拟人化互动服务每超过2个小时的，必须通过对话或弹窗等方式提醒其注意使用时长。这些看似细微的规则，实则是在引导用户形成更健康的使用习惯，防止技术反过来异化人的生活。

针对社会高度关注的未成年人和老年人使用问题，《办法》作出了专门且细致的安排。在未成年人保护方面，最受关注的一点，是明确禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。这项禁令背后有着深层考虑——未成年人正处于人格塑造和社会化发展的关键阶段，如果过早沉浸在虚拟亲密关系中，可能会扭曲其对真实人际关系的理解，甚至影响正常的婚恋观和家庭观。同时，向不满十四周岁的未成年人提供其他拟人化互动服务或处理其个人信息时，必须取得其父母或其他监护人的同意。此外，《办法》要求建立“未成年人模式”，提供定期现实提醒等个性化安全设置选项；并针对不同年龄段未成年人的保护需要，支持监护人接收安全风险提醒、了解未成年人服务使用情况、屏蔽特定角色、限制充值消费等功能。这相当于为未成年人构建起一道全方位“防火墙”。在老年人保护方面，《办法》要求服务提供者加强对老年人健康使用服务的指导，以显著方式提示安全风险，及时采取措施回应老年人的咨询和求助，保障其依法享有的合法权益。同时，在安全评估中，还要重点审查未成年人、老年人等网络保护措施的建设情况。这些规定充分体现了对“一老一小”两个特殊群体的关照，也回应了近年来多起老年人被AI情感陪伴诱导消费的社会关切。

最后，《办法》还对安全评估和算法备案作出了系统安排。安全评估的触发情形包括：上线拟人化互动服务或新增相关功能的；采用新技术、新应用导致服务发生重大变化的；注册用户达到100万以上或月活跃用户达到10万以上的；以及存在可能影响国家安全、公共利益等安全风险的。评估内容则涵盖服务安全保障措施建设情况、训练数据处理情况、用户极端情境识别与应急处置能力、用户规模和使用时长、年龄结构，以及用户申诉和举报受理处置情况等。这些要求既覆盖一般性风险，也特别关注规模效应可能引发的系统性风险。在算法备案方面，《办法》明确要求服务提供者按照《互联网信息服务算法推荐管理规定》办理算法备案以及变更、注销备案手续，网信部门还将对备案材料开展年度核验。这意味着，拟人化互动服务背后的算法机制不再是完全封闭的“黑箱”，而需要接受持续的合规审查。

总体来看，《人工智能拟人化互动服务管理暂行办法》的出台，是我国人工智能治理领域一次重要的制度创新。它既没有因担心风险而简单压制技术创新，也没有放任问题蔓延，而是在深入把握拟人化互动服务特征的基础上，搭建起一套覆盖事前评估、事中监管、事后处置的全链条管理体系。从禁止向未成年人提供虚拟亲密关系服务，到要求每2小时提醒用户休息；从强制干预用户极端情绪，到推动人工智能沙箱安全服务平台建设——每一项制度设计都体现出以人为本、智能向善的价值导向。当然，法规出台只是起点，真正的考验还在于后续执行。政府需要持续提升监管能力，企业需要切实履行主体责任，社会组织和广大网民也应积极参与监督与反馈。

只有形成多方协同、持续推进的治理格局，才能让拟人化互动服务真正成为温暖人心的技术力量，而不是侵蚀社会伦理的潜在隐患。随着2026年7月15日《办法》正式施行的时间越来越近，我们有理由期待，一个更加健康、有序、安全的人工智能拟人化互动服务时代正在加速到来。