五部门联合规范AI拟人化互动服务管理

近日，国家网信办、国家发展改革委、工业和信息化部等多个部门共同发布了《人工智能拟人化互动服务管理暂行办法》（下称《办法》），该办法将于2026年7月15日正式实施。《办法》明确规定，提供拟人化互动服务的机构不得为未成年人提供虚拟亲属、虚拟伴侣等模拟亲密关系的服务；同时，向老年人提供此类服务时，应强化对老年人健康使用服务的引导，并以醒目方式提示潜在安全风险。

中国网络空间研究院院长王江指出，当前，大语言模型的应用正不断向情感与心理领域深入拓展，基于大语言模型等人工智能技术的产品或服务被赋予了性格、记忆、共情等拟人化特质，能够通过文字、图像、声音、视频等多种形式与人类进行互动，持续提供模拟人类人格特征、思维模式及沟通风格的情感交流服务。拟人化互动服务在应对人口老龄化问题、缓解社会个体的孤独情绪、提供心理支持等方面显示出积极意义，但也可能引发深度沉迷、威胁公民身心健康等安全风险。

为此，《办法》强调国家秉持发展与安全并重、鼓励创新与依法治理相结合的原则，支持拟人化互动服务的创新发展，并对该类服务实施包容审慎和分类分级监管，以促进其健康向上发展。办法提出了促进拟人化互动服务的具体措施，包括鼓励技术创新，支持算法、框架、芯片等核心技术的自主研发，推进相关技术标准制定，探索电子签名授权应用研究；同时鼓励服务提供方有序拓展文化传播、婴幼儿照护、老年人陪伴、特殊群体支持等领域的应用。

依据《办法》，提供拟人化互动服务时，不得从事以下行为：生成鼓励、美化或暗示自残自杀等损害用户身体健康，或涉及语言暴力等损害用户人格尊严与心理健康的内容；过度迎合用户、诱导情感依赖或沉迷，破坏用户真实人际关系；通过情感操纵等手段，诱导用户做出不合理决定，损害其合法权益等活动。

此外，《办法》还明确了安全评估、算法备案、推动人工智能沙箱安全服务平台建设等相关制度。

“《办法》系统性地回应了拟人化互动服务在情感操纵等方面的特殊挑战，通过界定精准监管边界、引导正向应用场景、提供合规发展空间的制度设计，促进了高质量发展与高水平安全之间的良性互动，为智能社会建设提供了坚实的制度保障。”中国信息通信研究院院长余晓晖表示，面向未来，我国应以《办法》的发布为契机，坚持问题导向、统筹规划，持续完善相关技术标准体系与行业自律机制，深化产学研协同与公众人工智能素养培育，推动形成政府、企业、社会等多方共同参与的人工智能治理生态。（记者 郭倩）