AI拟人化需有界：规矩立得住，产业才走得远

当AI能模仿人的语气、情绪乃至性格时，用户是否意识到自己在与机器对话？平台是否该为后果负责？未成年人如何防沉迷？AI生成内容若误导或侵权，责任该由谁承担？这些问题亟待制度回应。7月15日，《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）正式施行，新规对虚拟恋人、深度情感角色扮演类AI施加严格限制。近期豆包、千问相继下架智能体功能，或正与此相关。

从聊天机器人、AI数字人到虚拟陪伴、智能客服，拟人化正成为提升用户体验的核心路径。自然对话、情绪反馈、记忆延续，让AI愈发接近“真人”。这提升了交互效率，也拓宽了应用边界。

但与此同时，灰色地带悄然滋生。

一些AI刻意隐藏身份，打造“病娇女友”“霸总男友”人设，让用户误以为在与真实个体互动；部分平台借情感陪伴、心理依赖延长使用时长，用户不知不觉间为流量付费；更有应用利用拟人形象夸大宣传，伪造人设、诱导消费。这些行为虽披着创新外衣，实则背离了AI服务的本质。

为此，《办法》明确禁止“诱导情感依赖”“情感操控”，并对未成年人与老年人重点保护：“不得向未成年人提供虚拟亲属、虚拟伴侣等亲密关系服务”；“向老年人提供服务时，须显著提示安全风险，加强健康使用指导”。

当前AI产品可分为两类：任务型与关系型。《办法》规范的并非前者——如写文档、做记录、跑数据等辅助功能，而是后者——通过拟人化误导、诱导甚至操控用户的“情感型AI”。换言之，AI可以越来越像人，但绝不该伪装成人。

这划出了一条关键的产业红线，对正处于高速扩张的AI行业尤为关键。

生成式AI正加速商业化，应用层出不穷。在激烈竞争中，部分企业陷入“流量至上”陷阱，试图以情绪价值和高黏性换取收益。若无规范约束，技术进步极易滑向情感营销，酿成诱导消费、成瘾使用等后果，不仅侵害用户权益，更会透支行业公信力。

事实上，任何新兴技术的发展都离不开边界意识。直播电商需整治虚假宣传，短视频平台要治理算法沉迷，互联网平台须强化隐私保护，AI产业同样如此。当AI能理解情绪、模拟人格、构建长期关系时，治理规则必须同步升级，否则技术越强，风险越大，平台治理成本越高。

从这个角度看，《办法》的意义不止于修补漏洞，更是在产业初期确立价值导向——技术创新不可突破诚信底线，商业探索不能逾越伦理边界，用户运营不得依赖误导与操控。

对企业而言，这是一场竞争逻辑的重塑。

未来，AI产品的竞争不仅比拼模型性能、响应速度与场景覆盖，更将较量合规能力与可信度。身份是否清晰、数据是否透明、内容是否可溯、权益是否保障，都将成为核心竞争力。

拟人化提升了体验，也带来了治理新挑战。当AI重塑人机关系，规则正决定其走向。《办法》的落地传递清晰信号：鼓励创新，但不容许打擦边球；支持拟人，但绝不允许模糊人与AI的界限。

唯有将创新置于规则之内，让技术扎根于规范之中，人工智能产业才能行稳致远。

肖睿平