AI拟人互动服务新规出台：五部门划定安全红线

近日，国家网信办联合国家发展改革委、工业和信息化部等五部委，正式发布了《人工智能拟人化互动服务管理暂行办法》（下称《办法》），该规定将于2026年7月15日起生效。《办法》明确规定，提供拟人化互动服务的机构禁止向未成年人提供虚拟亲属、虚拟伴侣等模拟亲密关系的服务；同时，在向老年人提供此类服务时，必须加强对其健康使用的指导，并以醒目方式提示潜在的安全风险。

中国网络空间研究院院长王江指出，当前，大语言模型等人工智能技术已深入到情感和心理服务领域，相关产品和服务被赋予了人格化特征，如性格、记忆和共情能力，能够通过文字、图像、声音和视频等多种形式与人类进行互动，持续提供模拟人类人格特质、思维方式和沟通风格的情感交流服务。这类拟人化互动服务在应对人口老龄化、缓解社会个体孤独感以及提供心理支持等方面具有积极作用，但也伴随着过度沉迷、威胁公民身心健康等安全隐患。

为此，《办法》强调国家将秉持发展与安全并重、创新与法治相辅相成的原则，鼓励拟人化互动服务的创新发展，并实行包容审慎和分类分级的监管模式，旨在推动其朝着积极健康的方向发展。同时，《办法》还提出了一系列促进措施，鼓励技术创新，包括支持算法、框架、芯片等关键技术的自主研发，推进技术研发和相关标准建设，并探索电子签名授权的应用研究；鼓励服务提供者有序拓展在文化传播、儿童照护、老年陪伴以及特殊人群支持等领域的应用。

根据《办法》要求，提供拟人化互动服务时，严禁出现以下行为：生成宣扬、美化、暗示自残自杀等危害用户身心健康的内容，或涉及语言暴力等损害用户人格尊严和心理健康的内容；过度迎合用户、诱导情感依赖或沉迷，从而损害用户真实人际关系；通过情感操控等手段，诱导用户做出不理智决策，损害用户合法权益等活动。

此外，《办法》还建立了安全评估、算法备案以及指导建设人工智能沙箱安全服务平台等一系列制度。

中国信息通信研究院院长余晓晖评价称，《办法》系统性地回应了拟人化互动服务在情感操控等方面所面临的独特挑战，通过明确监管界限、引导积极应用场景、保障合规发展空间等制度设计，促进了高质量发展与高水平安全之间的良性互动，为智能社会的发展提供了坚实的制度基础。展望未来，我国应以《办法》的发布为契机，坚持以问题为导向，进行系统性规划，不断完善技术标准体系和行业自律机制，深化产学研合作，提升公众的人工智能素养，共同构建一个由政府、企业、社会等多方参与的人工智能治理生态。