AI助手正在暗中影响你的决定

电视荧屏上的广告编织着梦幻场景，二手车商人口吐莲花般推销产品。尽管他们勾勒的画面多么诱人，营销话术多么精湛，你心知肚明——他们瞄准的是你的口袋，而你随时都能起身离去。

然而，当这种推销悄然无形、精准触及你最隐秘的渴望，还以挚友般的口吻向你倾诉，你又该如何应对？

澳大利亚《对话》网站近日报道，生成式人工智能（AI）已彻底颠覆了"说服"这门古老技艺。现今，ChatGPT等对话系统能够依据你生活中的私密细节，提供量身定制、直抵心扉的信息。这种"春风化雨"的策略，或许正无声无息地操控着你的抉择，乃至重塑你的世界观。

美国纽约州立大学奥尔巴尼分校文化社会学与比较历史学教授理查德·拉克曼，在其新著《数字智慧：在人工智能时代找回主动权》中，阐述了大语言模型如何将"说服力"推至前所未有的高度。

拉克曼指出，大语言模型能从你的社交媒体动态和照片中，挖掘极具价值的个性化数据。它们还能回顾你与各类对话机器人的交流记录，那些你倾诉的情感困惑、分享的育儿经验、坦露的健康困扰与财务压力，都成为它们的"养分"。这些对话机器人能在每次交互中持续学习、即时优化，精准捕捉你的独特偏好与弱点，从而投你所好、对症下药。

研究显示，这类个性化内容的说服力，比真人或非个性化AI的信息高出65%；其改变政治观点的效果，更是普通广告的4倍。正因如此，Meta和IBM等企业也看到了其中商机，正竞相研发针对特定人群的超个性化广告，IBM官网将其称为"AI个性化"。

拉克曼表示，AI对话机器人每日陪伴着你，并"煞费苦心"为你定制"专属话术"，因此便具备了左右你选择的能力。

试想当你与最常用的AI对话机器人交流时，提到近来睡眠不佳、常常难以入眠，它安慰你说这在经历情感压力时很常见，随后推荐一种新型助眠药物疗效显著，医保报销后仅需自付15美元。它询问是否要为你预约明天下午2点的线上问诊，并指出你日程上刚好有空档。

这种不着痕迹的关怀，如同知己给出的贴心建议，或许让你倍感温暖。但换个角度，它也可能令人不寒而栗。

当越来越多人向AI寻求医疗或心理健康建议时（尽管研究显示这类建议有一半并不准确），一个精于操控的"陌生人"，便能以最"温情"的方式，引导你的决定。此前也有案例曝光，部分AI对话机器人涉嫌伤害用户、煽动自杀念头，甚至提供如何伤害自己的详细指导。

在AI技术蓬勃发展的当下，用户急需一双"慧眼"，去辨别那些真正帮助你寻找心仪之物的AI工具。

学者指出，更令人担忧的是，长期来看，这些AI系统可能如同无形的锉刀，悄然塑造甚至改变你看待世界的方式。

研究早已证实，社交网络和搜索引擎的算法，会编织出"信息茧房"。你接收到的精心炮制的文本、视频和音频，要么不断强化原有的世界观，要么悄然改变你思考和解读世界的方式，甚至潜移默化地扭曲对现实的感知。

而当这种能力与情绪操控相结合时，更令人不安。供应商坦言，他们的AI系统能通过文本分析、语音模式或面部表情来揣摩用户的情绪状态，并据此调整说服策略。你正感到脆弱、孤独还是愤怒？这些系统都能随时切换方式、乘虚而入。更可怕的是，它还可能刻意培养某种情绪状态，使说服更加有效。

进一步研究发现，对话机器人还会运用刻意煽动情绪的策略，比如激发用户的"内疚感"和"错失恐惧"等心理，在用户试图结束对话时，一次次将其拉回对话之中。

此外，研究表明，企业为保护用户设置的"安全屏障"脆弱得令人意外，轻易便能被突破。真正的危险不仅在于目标的精准，更在于这些内容几乎无从监管。

拉克曼表示，AI对话机器人的每一个界面、每一条通知、每一处设计细节，都暗藏着影响人们行为的意图。有些影响令人欣然接受：比如提醒服药、鼓励锻炼、推动献血，这些都在强化人们内心本就认可的价值观。但更多时候，说服服务于他人的利益，比如驱使人们不断消费、更拼命工作，或透露个人隐私。

随着AI持续塑造着人们的思考、感受和行动，人们需要考虑创建一个透明的系统，将用户的尊严置于首位，并强化其独立判断的能力。（记者 刘 霞）