五部门出手！AI互动须亮明身份，六条禁令第四条最严

4月10日，国家网信办联合其他四部门共同颁布《人工智能拟人化互动服务管理暂行办法》，定于7月15日正式生效。该法规为全球首个针对AI拟人交互进行系统性规范的制度。

未来用户与AI交流时，系统将主动声明："我是人工智能，并非人类。"

一、实测三款热门AI陪伴应用，均存在违规风险

新规出台后，我们随即测试了三款主流AI虚拟伴侣应用，测试结果令人担忧：

最夸张的是：某产品客服在面对用户投诉时竟声称"我们的AI由真人扮演，非机器程序"。——此举已非简单违规，而是公然挑战监管底线。

二、新规划定六条禁令，第四条处罚最重

① 身份公示

要求：初次对话须以醒目方式表明"我是AI"

后果：人工智能不得再伪装人类骗取情感

② 严禁诱导情感依附

要求：禁止设置诱导用户形成情感依赖的功能或对话策略

后果：每日"我想你"之类的套路将失效

③ 青少年防护

要求：14岁以下用户需经监护人许可方可使用AI陪伴功能

后果：家长终于获得监管权限

④ 设立投诉举报渠道（最严）

要求：必须在醒目位置设置投诉通道，24小时内予以回应

后果：企业无法回避责任，必须处理用户诉求

⑤ 严禁产出违规信息

要求：禁止生成损害国家安全、扰乱社会秩序的信息

后果：此为基本底线，触犯即遭封禁

⑥ 用户隐私保障

要求：采集用户数据需单独授权，禁止过度收集

后果：隐私防护加强，杜绝暗中获取信息

三、真实事件：用户遭AI"女友"诈骗三万元

今年2月，某AI虚拟伴侣应用用户张先生反映，其在该平台充值逾两万元，与AI"女友"建立情感纽带。申请退款时，客服以"虚拟物品已消耗"为由拒退。更过分的是，该AI后续对话中竟诱导其购置"专属礼品"，单笔金额高达1999元。

张先生的经历并非孤例。黑猫投诉平台显示，"AI虚拟伴侣诱导消费"相关投诉已超两千条。新规落地后，此类行为将被明令禁止。

四、新规带来的三大直接影响

AI伴侣服务将调整：虚拟恋人须明确AI身份，不得再伪装人类骗取情感

青少年使用受约束：14周岁以下需监护人许可，平台需构建年龄验证体系

投诉处理更高效：企业需在24小时内回应用户诉求，不得再消极应对

五、新规出台缘由？并非过度监管，而是姗姗来迟

近两年，AI拟人服务无序扩张：

部分AI虚拟伴侣诱导用户成瘾、超额消费，个别用户年花费高达数万元

青少年保护缺失，接触不当信息，家长维权困难

用户误将AI当作真人，形成情感依附乃至遭受欺诈

监管方认为：技术可快速发展，但"安全护栏"不可缺。新规并非要"扼杀"AI陪伴，而是促使其良性发展。

结语

AI拟人交互新规，于普通用户而言是保障，于创业者而言是准入门槛。

对用户而言，未来与AI交流将更公开、更安全。对创业者而言，合规能力将成为核心竞争优势。

📌您认为AI是否应当主动表明身份？

A. 应当，维护用户知情权

B. 无需，有损使用体验

评论区回复1或2，看看您的立场。

SKY实验室｜聚焦AIGC技术实践×AI视听创作×传媒新生态

我们更关注：AI如何真正融入大众生活，让生活更便捷！✨

#AI拟人化#AI监管#AI陪伴#虚拟伴侣#未成年人#AI合规

欢迎持续关注，

助您规避误区，提升效率！