陈天昊：人工智能"人格化"服务的规制之道
生成式 AI 正加速迈向人格化与自主化，智能体在实现共情交互与事务代办的背后，潜藏着全新的治理挑战。近日，清华大学公共管理学院副教授、清华大学科技发展与治理研究中心主任助理陈天昊在《学习时报》刊文《如何规范人工智能"人格化"服务》，立足现有监管框架，深入剖析人格化 AI 的风险本质与多元协同治理路径，为把握智能时代的监管逻辑提供了重要镜鉴。
陈天昊
清华大学公共管理学院副教授、清华大学科技发展与治理研究中心主任助理
如何规范人工智能"人格化"服务
陈天昊《学习时报》6月19日第3版
从人工智能大模型实时语音中近乎真人的情绪传达，到 AI 助理直接致电餐厅完成预订，人工智能正快速渗透各类服务场景。伴随生成式 AI 技术对"人格化"探索的加速推进，愈来愈多的智能服务开始主动迎合人类的行为模式与情感表达方式，这为人工智能治理带来了崭新的现实课题。
人工智能的"人格化"。当下，人工智能展现出日益增强的行动主体性：其具备理解需求、拆解任务、调用工具、与外部主体交互并依反馈调整行为的能力。与主体性相伴而生的，是人工智能服务的"人格化"趋向。所谓"人格化"，并非指人工智能拥有真实人格，而是指其在交互过程中被赋予相对恒定的身份、语气、风格、记忆、外貌、声音及行为边界。对用户而言，一个能持续陪伴、铭记偏好、引发共情、主动完成任务的系统，已非中性的技术界面，而更趋近于一个可被信赖、倚重乃至情感投射的对象。这一趋向已在多种产品形态中显现。2025 年末涌现的开源智能体项目，借助角色设定文件、用户信息文件、记忆库文件将智能体的身份、语气与记忆加以结构化存储。与此同时，情感陪伴、数字人客服、虚拟主播、AI 伴侣等服务，亦通过声音、形象与对话风格等维度，直接与用户展开拟人化互动。
大语言模型的进步为这种"人格化"表达奠定了能力根基。其从海量文本中习得了人类语言的情绪表达、身份扮演及叙事风格。语音模型进一步强化了停顿、语调、情绪与声线的可塑性。多模态生成技术则使人工智能得以生成相对稳定的头像、图片、视频与数字人形象。随着图像、语音及视频生成能力的持续提升，人工智能服务的"人格化"已可在文字、声音、形象与行动之间构建更为完整的外在呈现。
人工智能"人格化"的监管现状与挑战。以"人格化"方式提供人工智能服务，已引起监管层面的关注。2026 年 4 月公布的《人工智能拟人化互动服务管理暂行办法》，主要针对模拟自然人人格特征、思维模式及沟通风格的持续性情感互动服务，涵盖通过文字、图片、音频、视频等形式提供的情感陪伴、照护与支持。与此同时，国家网信办发布的《数字虚拟人信息服务管理办法（征求意见稿）》，进一步对通过数字虚拟人提供互联网信息服务的情形加以规范，重点涉及数字人身份提示、人格权保护、个人信息保护及内容安全等议题。
这两类规则的侧重点有所差异。拟人化互动服务规则聚焦于人工智能与用户形成持续情感关系后的风险，如依赖、沉迷、过度迎合、情感操纵等。数字虚拟人规则则更关注人工智能以特定形象、声音及身份进入社会交往后的风险，如肖像、声音、姓名、名誉、隐私及身份误导等。当然，二者亦存在显著的交集，均旨在为"人格化"的人工智能划定行为边界，防止其侵害人格权益、侵蚀社会信任。
追溯根本，对人工智能"人格化"实施监管的难点在于，人工智能在外部表征上愈发趋近于主体，但其内在机理决定了其无法获得真正的人格，亦不具备真正的规范认知能力。换言之，其固然能够以稳定身份与用户互动，能够表达情绪、持续陪伴、主动回应需求，但这些行为归根结底源于模型神经网络中的相关权重、训练数据中的词元分布，以及产品工作流与系统提示词的设计等。人工智能可以如主体般行动，却无法真正为自身行为承担责任。
面对上述挑战，需引入分类分级思路：一方面，对持续情感陪伴、虚拟亲密关系等场景提出更高要求；另一方面，对智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的服务，不纳入拟人化互动服务规则的适用范畴。
智能体系统的行动力将加剧"人格化"监管的压力。"人格化"界面本身就会强化用户信任，而智能体的行动力则会使这种信任转化为现实后果。一个能够共情、记住偏好、以稳定身份陪伴用户的系统，若还能代用户订餐、购物、发信、付款、改文件、联系他人，便不再仅是情感互动服务，而是具备"人格化"外观的行动代理。此时，监管问题不仅是防止用户误将其当作真人，还包括其以谁的名义行动、获得了哪些权限、是否超出授权、行为记录如何留存、造成损害后由谁担责等。
智能体系统还会延伸"人格化"监管的责任链条。一个智能体行为，可能同时牵涉模型提供者、智能体开发者、终端硬件厂商、工具提供者、插件开发者 whisper、应用分发平台及具体场景服务方等。智能体的最终输出结果往往并非单一主体独立决定，而是多个主体共同作用的结果。若仅要求前端服务提供者承担全部义务，可能难以覆盖模型、工具、插件、接口、终端及分发环节的风险；而若各环节责任过于模糊，又易出现相互扯皮。这便是典型的集体行动困境。
智能体应用落地的"人格化"监管之路。对于智能体的"人格化"监管，不能仅强化单个服务提供者的主体责任，还需在不同环节之间明确清晰的义务划分。模型提供者应确保基础模型的安全性与可控性；智能体开发者应设计权限管理、任务边界、行为日志及人工确认机制；工具与接口提供者应明确调用规则、安全限制及异常处置方式；终端硬件厂商与分发平台应承担审核、提示、权限管理及下架处置责任；具体场景服务方则应识别高风险任务，并对交易、医疗、金融、未成年人等重点场景设置更为严格的准入条件。
2026 年 5 月发布的《智能体规范应用与创新发展实施意见》已体现出这一更为全面的监管思路。该文件提出应强化智能体数据安全、个人信息保护、权限管理及行为控制，探索构建智能体供应链安全信息共享与预警机制，并通过合规自测、信息报告、分发平台管理及行业自律推动低风险场景的规范应用。《智能体规范应用与创新发展实施意见》从宏观政策层面进一步明确了多元协同治理的方向，为智能体"人格化"监管框架的构建指明了路径。
在此基础上，针对"人格化"智能体的特殊性，还需进一步细化身份标识规则，要求开发者对智能体的"人格化"属性进行清晰且持续的提示，在每次主动发起交互、执行关键授权行动时，均以适当方式提示用户其人工智能身份，避免在长期交互中淡化身份认知，引发用户的错误信赖。同时，需配套建立统一的智能体行为日志存证机制，明确不同环节主体的日志留存义务，一旦发生权益损害，能够迅速定位问题环节、厘清责任划分，防止责任推诿，切实保障用户合法权益，最终在鼓励智能体技术创新落地的同时，实现对"人格化"人工智能服务的有效治理，平衡技术发展与风险防控的关系。
未来的落地实施还需更为具体、严密的制度设计，为智能体的"人格化"实践提供更为清晰的规范指引。但归根结底，"人格化"人工智能的治理，不能仅关注人工智能像不像人，更要进一步关注其能否行动、以谁的名义行动、在何种权限内行动、造成后果后由谁负责。唯有从表达监管、形象监管进一步迈向行动监管，方能真正应对智能体时代的"人格化"风险。