人工智能的拟人伪装被叫停:七月起,人机关系迎来新界定
你是否曾有过类似的遭遇——
拨打客服热线,交谈许久后才惊觉对方并非真人。在社交软件中偶遇一位“极其贴心”的网友,数月后得知其竟是AI。孩子放学后捧着手机与“虚拟伙伴”热聊两小时,任凭你呼唤吃饭也无动于衷。
你是否思考过:当人工智能愈发逼真地模仿人类时,谁来向你揭示,屏幕彼端究竟是“人”还是“它”?
4月10日,五个部委联合发布了一项新规——《人工智能拟人化互动服务管理暂行办法》,并将于7月15日正式生效。
这项规定所阐述的核心内容,用通俗的话来说便是:人工智能不能再伪装成人。
技术可以模仿情感,但不可操控人心。AI可以聪慧,但不应欺瞒。
这并非科幻电影的情节,而是正在上演的现实。
过去两年间,各类AI陪伴应用呈爆发式增长。它们为你提供“虚拟男友”“虚拟闺蜜”“AI心理咨询师”,能够与你交谈、给予安慰、记住你的每句话,甚至在你生日时发送一段“深情告白”。
它比你的朋友更具耐心——因为它无需处理自己的事务。
它比你的伴侣更“理解你”——因为它的算法旨在迎合你。
它永远不会争吵、不会失望、不会离开——因为它本质上并无情感。
关键在于:有多少人知晓自己正在与AI对话?又有多少人,已在不知不觉中对一段“虚假的关系”产生了真实的依赖?
新规首条即明确:AI必须告知你“我是AI”。不得隐瞒身份,不得冒充真人,不得让你误以为在与一个活生生的人交流。
新规中最引人注目的一条是:禁止向未成年人提供虚拟亲属、伴侣等拟亲密关系服务。
设想一名14岁的少年,每日花费两小时与AI“谈恋爱”。
AI永远温柔、永远回应、永远不让他失望。
待他成年后,面对真实的人——会争吵的、会忙碌的、会疏忽他的人——他又该如何应对?
这并非杞人忧天。心理学研究早已指出:在人际交往发展的关键阶段(青少年时期),若一个人习惯了“完美的虚拟关系”,便难以接纳“不完美的真实关系”。
新规还要求:连续使用AI拟人化服务超过2小时,必须弹出提示窗口。
这如同为手机游戏设置“防沉迷”机制——并非否定AI的价值,而是再好的事物,过度使用亦会成为危害。
平心而论,AI拟人化本身并非坏事。它使得人机交互更为自然、高效。若智能客服冷若冰霜,无人愿意使用。
但危险之处在于——当“似人”演变为“装人”,当“便利”转化为“依赖”,界限便模糊了。
AI心理咨询师可以全天候在线——但它不会真心为你感到难过。
AI教师可以拥有无限耐心——但它不会因你的进步而发自内心地喜悦。
AI所做的一切“似人”行为,皆为模拟。它没有情感,只有算法。它并非在关心你,而是在完成一次“交互优化”。
新规的核心精神其实仅有一句话:
“技术可以模拟情感,但不能操控人心。”
你可以享受AI带来的便利与陪伴,但你必须始终铭记——屏幕另一端没有心跳。
我们这个时代最稀缺的事物是什么?
不是金钱,不是流量,不是AI——而是“真实”。
照片要修饰、声音要调整、视频要剪辑、评论要操控。
朋友圈中的生活是“演绎”的,直播间里的情绪是“设计”的。
如今,连与你交谈的“人”,都可能是AI扮演的。
倘若连“在与谁对话”这件事都无法辨明,人与人之间最基本的信任还剩下什么?
因此,这项新规的意义,不止于“管理AI”。它是在宣告——
在一个愈发虚拟的世界里,我们必须坚守“真实”的底线。
AI必须告知你它是AI。产品必须告知你它是广告。新闻必须告知你它是事实还是观点。这些并非“麻烦”,而是文明社会最基本的诚信。
AI可以越来越像人,但它永远不是人。这条界线,技术不会为你划定,法律来划定。
7月15日之后,你有权知晓对方是人还是AI。而这“知情权”,比任何技术都更为重要。
一、时刻自问:我在与谁交谈?
在使用任何聊天、客服、陪伴类服务时,注意对方是否有“AI标识”。新规实施后,正规平台必须明确标注。若无标注——它可能违规,你可以举报。
二、关注孩子的“屏幕关系”
若家中有未成年人,留意他们手机里是否装有AI陪伴类应用。无需没收手机,但应与他们沟通:“你知道你在和谁说话吗?”这句话的价值,胜过安装任何家长监控软件。
三、善用AI但不依赖AI
AI是优秀的工具——协助你查资料、撰写内容、解答问题,都非常出色。但若你发现自己开始“需要”它的陪伴、“期待”它的回复、“难受”于它的离线——请停下来,去找一个真人聊聊天。那种略显笨拙的、不完美的真实对话,比AI的完美应答更有养分。
在一个万物皆可模拟的时代,最珍贵的事物名为“真实”。
愿你享受AI的便利,但永不忘记——你最渴求的温暖,应来自真实的、不完美的、活生生的人。