AI人格化服务须守住合规底线

近日，两大平台相继宣布暂停智能体业务：豆包发布公告称，因产品功能调整，智能体服务将于7月15日终止运营；千问亦向用户发送通知，其智能体功能与服务同样于7月15日关闭。

值得关注的是，7月15日正是《人工智能拟人化互动服务管理暂行办法》（以下称《办法》）开始实施的日子。在监管力度持续加大的形势下，两大平台不约而同做出调整，引起了社会各界的广泛关注。

此类智能体服务缘何被终止？新规将对智能体产业带来怎样的影响？科技日报记者为此采访了相关领域专家。

第一问：智能体与普通AI有何差异？

"当前行业内对智能体的界定尚未形成完全一致的认知。"中国电子信息产业发展研究院信息化与软件产业研究所副主任黄文鸿在接受记者采访时表示。

他解释道，严格意义上，智能体是以大模型为底座，围绕明确目标，能够领会任务意图、分解执行步骤、调度工具资源、获取知识与数据、动态监控进程，并在授权范围内实现任务闭环的人工智能应用形态。其与普通AI交互的本质差异在于，普通AI更像一位擅长对话、撰写、答疑的咨询顾问，而智能体则更接近一位被赋予身份、工具、知识储备和操作权限的数字化职员。

北京交通大学教授桑基韬指出，智能体一般拥有任务策划、工具调用及长期记忆等功能，可以将复杂目标细化为子任务，同时调用检索等接口及其他模型实现执行，并能留存历史交互、用户习惯、角色配置和长期任务进程等信息。

第二问：新规对平台义务有何规定？

桑基韬认为，此次下架与智能体的"长期记忆"和"角色设定"功能存在直接关联，此类功能可形成延续性的情感交互，易使用户产生与真人对话的错觉，进而引发潜在风险。

据悉，相关平台此前已积累大量由用户自主创建、公开发布的自定义智能体。这些智能体的长期记忆、角色设定功能，很容易触及《办法》所划定的拟人化互动禁区。

"新规的核心关切点在于'模拟自然人的人格特质、思维逻辑和表达习惯，并提供延续性情感交互'的服务，为这类拟人化智能体的互动服务划定了界限，同时要求平台履行安全保障义务。"桑基韬谈道。

黄文鸿介绍，新规明确平台不得无底线迎合用户、诱导情感依附或成瘾，不得借助情感操控引导用户做出非理性决策；不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务，并对极端情绪、重大财产损失等高危情形进行监测、疏导和必要处置。

第三问：自定义智能体的发展会受制约吗？

"新规并非为自定义智能体发展'设障碍'，而是为拟人化互动服务'筑围栏'。"黄文鸿认为，新规或将促使自定义智能体从前期的粗放扩张、低门槛准入、无约束发布，转向分类分级、审核前置、安全优先的新时期。他判断，伴随新规的落地实施，平台势必将强化智能体创建、上架环节的审查与安全验证。

接受采访的专家一致认为，通用大模型的自定义智能体依然是人工智能应用演进的关键路径，这一点新规亦未予以否定。

"未来需要对任务导向型智能体和情感陪伴型拟人化智能体作出更为清晰的界定。"桑基韬表示，"智能客服、知识检索、办公辅助、教育培训、学术研究等任务导向型智能体服务，因不涉及延续性情感交互，故不在此次新规规制之列；拟人化、陪伴式、角色扮演型智能体，则将纳入更为严苛的合规体系。"

黄文鸿指出，新规的发布短期内将抬升合规投入，挤压部分低品质、打擦边球、唯流量驱动的智能体生存空间，但从长远视角看，有助于推动真正服务于教育、办公、科研、文化传播、养老陪护、特殊群体关怀等场景的合规智能体健康成长。（记者 崔 爽）