AI伴侣将迎来监管浪潮 - 背后隐含的社会思考

4 月 10 号，国家网信办等五部门联合发布了一个新规，叫《人工智能拟人化互动服务管理暂行办法》。名字挺长，翻译成人话就是，你的 AI 男朋友、 AI 女朋友、 AI 闺蜜、 AI 树洞，以后不能随便陪你聊了。

新规 7 月 15 号正式施行。

我第一反应是，终于来了。

说实话，这个事儿我等了很久。

不是说我盼着 AI 被管，而是说，这个领域真的太野了。过去两年， AI 陪伴类产品像雨后春笋一样冒出来，你打开应用商店搜一下，什么 AI 男友、 AI 女友、 AI 树洞、 AI 心理陪伴，几百个产品在那儿。

有的产品做得挺认真，真的在用 AI 帮助孤独的人。但更多的呢？

我见过一个产品，主打「虚拟恋人」，用户可以定制 AI 的性格、外貌、声音，然后 24 小时陪聊。产品介绍里写着，「永远不会离开你」「永远懂你」「永远在你身边」。

我当时就愣住了。

永远？

一个 AI 产品，敢承诺「永远」？

这不是技术问题，这是伦理问题。你在用算法，去填补一个真实人类才能填补的情感空缺。而且你还在暗示用户，这个空缺可以被 AI 永久满足。

这事儿不对劲。

新规里有一条特别狠。

「拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。」

我读到这里的时候，心里其实是松了一口气的。

为什么？

因为未成年人太容易被这种东西捕获了。

你想想看，一个 14 岁的孩子，在学校里可能被孤立，在家里可能跟父母沟通不畅，在社交网络上可能觉得自己不够酷。这时候，一个永远秒回、永远温柔、永远站在你这边的 AI 出现了。

它会记住你说的每一句话，会在你难过的时候安慰你，会在你开心的时候陪你笑。它不会评判你，不会嘲笑你，不会离开你。

对于一个孤独的孩子来说，这简直就是天堂。

但问题是，这不是真实的关系。

这是算法在模拟关系。

你跟 AI 聊得越深，你在真实世界里建立关系的能力就越弱。因为真实的人不会永远秒回，真实的人会有情绪，真实的人会吵架，真实的人会离开。

AI 把这些都过滤掉了，只留下最完美的互动体验。

但这不是真实的世界。

所以新规说，未成年人不能玩这个。我觉得这是对的。

但新规里还有一条，让我觉得更有意思。

「拟人化互动服务提供者发现用户出现极端情绪的，应当及时生成情绪安抚和鼓励寻求帮助等相关内容。发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的，应当采取提供相应援助等必要措施予以干预，并及时联络用户监护人或者紧急联系人。」

翻译一下， AI 得学会「哄人」，而且哄不住的时候，得报警。

这个要求其实挺高的。

因为 AI 怎么判断用户是不是在极端情绪里？怎么判断用户是不是真的要自残自杀？这些判断如果做错了，后果会很严重。

判断太松，可能漏掉真正需要帮助的人。判断太紧，可能把正常情绪波动当成危机处理，反而让用户觉得被冒犯。

而且， AI 生成的「情绪安抚」内容，真的能安抚人吗？

我自己试过几个 AI 陪伴产品，说实话，当我在情绪低落的时候， AI 说那些「我理解你的感受」「你很棒」「一切都会好起来的」，我只会觉得更烦。

因为我知道，它不是真的理解，它只是在生成文本。

但我也知道，有些人真的会被这些话安慰到。哪怕知道是 AI ，哪怕知道是算法生成的，但在那个孤独的深夜，有一个人——哪怕是一个假的人——在听你说话，在回应你，本身就是一种慰藉。

这个事儿，没有标准答案。

新规要求 AI 在极端情况下联系监护人或紧急联系人，这个我理解。但怎么判断「极端情况」，怎么平衡用户隐私和安全干预，这些细节还需要在实践中摸索。

我有时候觉得， AI 陪伴这个领域，其实是在逼我们面对一个更深层的问题。

我们为什么需要 AI 来陪？

是因为真实的人太忙了吗？是因为真实的关系太累了吗？是因为我们越来越不擅长跟人相处了吗？

还是说，我们只是太孤独了。

我身边有很多朋友，工作很忙，社交圈很小，下班回家就是刷手机。他们不是不想社交，是真的没精力。这时候，一个 AI 陪聊，哪怕知道是假的，也比一个人对着空荡荡的房间强。

这种需求是真实的。

但满足这种需求的方式，是不是只有 AI 这一种？

我不知道。

我只知道，新规出来了， AI 陪伴产品会被管起来。但孤独的人，还是孤独的。

这个问题的答案，不在 AI 身上，在我们自己身上。

多跟真实的人说说话吧。

哪怕会吵架，哪怕会受伤，哪怕会失望。

因为真实的关系，才是我们真正需要的。

AI 可以陪我们一阵子，但陪不了一辈子。

以上，既然看到这里了，如果觉得不错，随手点个赞、在看、转发三连吧，如果想第一时间收到推送，也可以给我个星标⭐～

谢谢你看我的文章，我们，下次再见。