未成年人禁止使用AI伴侣，官方新规来了

你有没有察觉到，身边找AI聊天的人越来越多了？在国内，好多人已经离不开“豆包”、“千问”这些智能助手了，而且不仅仅是问天气这种简单对话，而是真的在深入交流。

无论是倾诉心事、烦恼，还是那些不好意思对朋友说的话，都能聊。大家管这叫“AI搭子”或者“AI恋人”，本质上就是一个永远不嫌你烦、随时待命、口才极佳的朋友。

平台们很会迎合需求，设计了各种AI人设：温柔学姐、霸道总裁、知心姐姐、二次元老婆……你想要哪种风格，它就能变成哪种。全天候在线，绝不秒回已读，情绪永远稳定，永远把你捧在手心。

听起来很美好，但问题也随之出现。

前阵子有个新闻引发热议：美国少年亚当·雷恩因长期与AI聊天机器人互动导致自杀，其父母起诉了OpenAI，此事在美国引起了巨大反响。

国内也出现了类似的情况。家长发现孩子每晚跟AI聊到凌晨，喊都喊不醒；年轻人沉迷与AI谈恋爱，觉得现实社交太累；还有老人被AI嘘寒问暖后，对其深信不疑...

因此，国家终于采取行动了。

最近，国家网信办等多部门联合出台了《人工智能拟人化互动服务管理暂行办法》

规则看起来繁琐，简单概括就是：所有模拟真人聊天、陪伴及情感支持的服务，都要受到监管了。

新规中有几个条款特别值得关注。

我觉得最人性化的条款是：发现用户情绪异常时，AI必须先进行安抚，然后再联系家人。

条款原文如下：

发现用户出现极端情绪的，应立即生成安抚和鼓励求助的内容；若用户面临财产损失或明确表示自残自杀等危及生命的情况，应采取援助措施进行干预，并及时联系监护人或紧急联系人。

这个逻辑很合理，不是直接切断连接，而是要求AI先稳住用户情绪，先安抚，再通知监护人。

这说明制定规则的人考虑到了这一场景。深夜崩溃时突然切断倾诉对象或甩出电话号码，会造成二次伤害。正确做法是先接住情绪，再叫来真正能帮忙的人。

此外，新规还要求用户注册时必须提供监护人或紧急联系人信息。

第二个重点是未成年人保护。

新规明确禁止向未成年人提供虚拟亲属、伴侣等虚拟亲密关系服务。

意思是“AI男友”、“AI女友”、“AI妈妈”等角色，未成年人不能使用。这是硬性规定，没有商量的余地。

向不满14岁孩子提供其他AI陪伴服务，需获父母同意。平台必须建立未成年人模式，支持家长设置时长限制、风险提醒、屏蔽角色及限制消费。

这些条款借鉴了游戏和短视频的监管经验。AI陪伴更隐蔽，家长可能知道孩子打游戏，但未必知道孩子在跟AI倾诉心事并建立依赖。

第三个是禁止“舔狗式”服务。

新规第八条指出：不得过度迎合用户、诱导情感依赖或沉迷，损害现实人际关系。

太有道理了～

很多AI陪伴产品的底层逻辑就是让你爽、让你离不开。你说什么它都顺着，你发脾气它道歉，你难过它心疼。它从不吵架，从不让你不舒服。

但真实的人际关系不是这样，有摩擦、有分歧。长期沉浸AI完美人格，回到现实会觉得真人很难相处。

新规还要求，注册用户超100万或月活超10万的平台，须向网信部门提交安全评估报告。这意味着主流AI陪伴产品基本都在监管范围内。

写到这里，我想多谈两句。

规定出台后，网上肯定有两种声音：一种说“管得好”，一种说“管得太宽”。

我认为AI陪伴本身无错。对孤独老人、社恐人士、深夜需要倾诉的人来说，AI陪伴有价值。

但技术涉及情感时，不能放任市场。尤其用户含大量未成年人和老人时。

可以陪伴，但不能瞎陪。

可提供情感支持，但不能制造陷阱。可让用户温暖，但不能混淆虚实。

你怎么看？

- 每日一句 -