陈天昊：人工智能“人格化”服务如何实现有效治理

生成式AI正加速迈向人格化与自主化，智能体在情感交互、事务代办等方面的能力不断增强，由此带来一系列全新的治理难题。近日，清华大学公共管理学院副教授、清华大学科技发展与治理研究中心主任助理陈天昊在《学习时报》刊发题为《如何规范人工智能“人格化”服务》的文章，结合现行监管文件，深入剖析人格化AI的风险症结与多元主体协同治理路径，为理解智能时代监管逻辑提供重要参考。

陈天昊

清华大学公共管理学院副教授、清华大学科技发展与治理研究中心主任助理

如何规范人工智能“人格化”服务

陈天昊《学习时报》6月19日第3版

从人工智能大模型实时语音中高度拟真的情绪表达到人工智能助理直接拨打电话预订餐厅，人工智能正快速渗透各类服务场景。随着生成式人工智能技术对“人格化”的探索持续推进，越来越多智能服务主动贴合人类的行为习惯与情感表达，为人工智能治理带来新的现实课题。

人工智能的“人格化”。当前，人工智能展现出日益增强的行动主体性：其能够理解需求、拆解任务、调用工具、与外部主体互动，并根据反馈调整行为。与主体性相伴而生的是人工智能服务的“人格化”趋势。所谓“人格化”，并非指人工智能拥有真实人格，而是指其在交互中被赋予相对稳定的身份、语气、风格、记忆、外貌、声音与行为边界。对用户而言，一个能够持续陪伴、记忆偏好、产生共情、主动完成任务的系统，已不再仅是一个中性的技术界面，而是更接近一个可被信任、依赖乃至情感投射的对象。这一趋势已在不同产品形态中显现。2025年底兴起的开源智能体项目，通过角色设定文件、用户信息文件、记忆库文件将智能体的身份、语气与记忆结构化保存。与此同时，情感陪伴、数字人客服、虚拟主播、AI伴侣等服务，已通过声音、形象与对话风格直接与用户展开拟人化交互。

大语言模型的发展为这种“人格化”表达奠定了基础能力。其从海量文本中习得人类语言的情绪表达、身份扮演与叙事风格。语音模型进一步强化了停顿、语调、情绪与声线的可塑性。多模态生成技术则使人工智能能够生成相对稳定的头像、图片、视频与数字人形象。随着图像、语音与视频生成能力持续提升，人工智能服务的“人格化”已可在文字、声音、形象与行动之间形成更为完整的外在呈现。

人工智能“人格化”的监管现状与挑战。以“人格化”方式提供人工智能服务已引发监管关注。2026年4月公布的《人工智能拟人化互动服务管理暂行办法》，主要针对模拟自然人人格特征、思维模式与沟通风格的持续性情感互动服务，涵盖通过文字、图片、音频、视频等形式提供的情感陪伴、照护与支持。与此同时，国家网信办发布的《数字虚拟人信息服务管理办法（征求意见稿）》，进一步规范通过数字虚拟人提供互联网信息服务的情形，重点涉及数字人身份提示、人格权保护、个人信息保护与内容安全等问题。

这两类规则的关注点存在差异。拟人化互动服务规则聚焦人工智能与用户形成持续情感关系后的风险，如依赖、沉迷、过度迎合、情感操纵等。数字虚拟人规则则更关注人工智能以特定形象、声音与身份进入社会交往后的风险，如肖像、声音、姓名、名誉、隐私与身份误导。二者亦有明显交集，均旨在为“人格化”人工智能划定行为边界，防止其侵犯人格权益、破坏社会信任。

追根溯源，对人工智能“人格化”开展监管，其难点在于，人工智能在外部表现上愈发接近主体，但其内在机理决定了其无法获得真正的人格，亦缺乏真正的规范认知能力。换言之，其可用稳定身份与用户互动，可表达情绪、持续陪伴、主动回应需求，但这些行为根本上源自模型神经网络中的相关权重、训练数据中的词元分布，以及对产品工作流与系统提示词的设计等。人工智能可如主体般行动，却无法真正为自己的行为负责。

面对这些挑战，需引入分类分级思路：一方面，对持续情感陪伴、虚拟亲密关系等场景提出更高要求；另一方面，对智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的服务，不纳入拟人化互动服务规则的适用范围。

智能体系统的行动力会加剧“人格化”监管的压力。“人格化”界面本就会增强用户信任，而智能体的行动力则将这种信任转化为现实后果。一个能够共情、记住偏好、以稳定身份陪伴用户的系统，若还可代用户订餐、购物、发信、付款、改文件、联系他人，便不再仅是情感互动服务，而是具有“人格化”外观的行动代理。此时，监管问题不仅是防止用户误将其当作真人，还涉及其以谁的名义行动、获得了哪些权限、是否超出授权、行为记录如何保存、造成损害后由谁负责等。

智能体系统还会拉长“人格化”监管的责任链条。一个智能体行为可能同时涉及模型提供者、智能体开发者、终端硬件厂商、工具提供者、插件开发者、应用分发平台与具体场景服务方等。智能体的最终输出结果往往并非单一主体独立决定，而是多个主体共同作用的结果。若仅要求前端服务提供者承担全部义务，可能无法覆盖模型、工具、插件、接口、终端与分发环节的风险；而若各环节责任过于模糊，又易出现互相推诿。这便是典型的集体行动困境。

智能体应用落地的“人格化”监管之路。对于智能体的“人格化”监管，不能仅强化单个服务提供者的主体责任，还需在不同环节之间厘清明确义务。模型提供者应保障基础模型的安全性与可控性；智能体开发者应设计权限管理、任务边界、行为日志与人工确认机制；工具与接口提供者应明确调用规则、安全限制与异常处置方式；终端硬件厂商与分发平台应承担审核、提示、权限管理与下架处置责任；具体场景服务方则应识别高风险任务，并对交易、医疗、金融、未成年人等重点场景设置更严格的接入条件。

2026年5月发布的《智能体规范应用与创新发展实施意见》已体现这一更为全面的监管思路。该文件提出应加强智能体数据安全、个人信息保护、权限管理与行为控制，探索建立智能体供应链安全信息共享与预警机制，并通过合规自测、信息报告、分发平台管理与行业自律推动低风险场景的规范应用。《智能体规范应用与创新发展实施意见》从宏观政策层面进一步明确了多主体协同治理的方向，为智能体“人格化”监管框架的搭建指明了方向。

在此基础上，针对“人格化”智能体的特殊性，还需进一步细化身份标识规则，要求开发者对智能体的“人格化”属性进行清晰且持续的提示，在每一次主动发起交互、执行关键授权行动时，均以恰当方式提示用户其人工智能身份，避免在长期交互中淡化身份认知，引发用户错误信赖。同时，需配套建立统一的智能体行为日志存证机制，明确不同环节主体的日志留存义务，一旦发生权益损害，能够快速定位问题环节、厘清责任划分，避免责任推诿，切实保障用户合法权益，最终在鼓励智能体技术创新落地的同时，实现对“人格化”人工智能服务的有效治理，平衡技术发展与风险防控的关系。

未来落地仍亟须更为具体、严谨的制度设计，为智能体的“人格化”实践提供更加清晰的规范指引。但归根结底，“人格化”人工智能的治理，不能仅关注人工智能像不像人，还需进一步关注其能否行动、以谁的名义行动、在什么权限内行动、造成后果后由谁负责。只有从表达监管、形象监管进一步迈向行动监管，才能真正应对智能体时代的“人格化”风险。