当AI说谎：科技背后的信任危机

作者专栏、时事热议

拟像不再掩盖真实，它掩盖的是：真实早已缺席。~~法国思想家Jean Baudrillard《拟仿物与拟像》

法国思想家 Jean Baudrillard 是剖析后现代社会虚拟与现实的巨擘，他常提出一个疑问：观众是否觉得媒体影像中的B人物比实际生活中遇见的B人物更可信？

尽管数据显示，全球使用生成式AI的人群尚不普遍，但网络上已有许多人将AI生成的资料奉为权威佐证，之前新闻也曾披露，AI在研发初期不久便能通过美国国家医师测试，随后更是势如破竹，法学院入学考、律师执照考、会计师、初中级金融分析师、奥林匹亚竞赛的题目全都轻松应对，甚至前阵子召集一批顶尖跨领域专家将长期未解的难题交付AI，AI都以远超人类的解题速度与出其不意的思路破解了。

然而，AI真的值得信赖吗？我们先前在脸书上多次探讨AI与人类的议题，如《人类世界正被AI麦当劳化？》、《我的伴侣是AI？》、《AI洗脑的舒适圈》、《AI加剧心理疾病的风险》等等，都是不断警示您切勿轻信AI的片面之词，全盘接受。而今年上半年，《Lancet Digit Health》对AI医疗决策能力进行了审视、上个月《Nature》报道了一则AI被假消息蒙骗一年多持续误导用户的新闻，再度告诉我们：AI如同权威，它常展现出惊人的一面，但同时，也会犯下一些远低于常人常识水平的基础错误。

AI遭假消息误导，继续散播假消息

瑞典哥登堡大学的研究员Osmanovic Thunström在2024年初，蓄意编造了一种受蓝光影响、眼睛出现瘙痒、眼皮变色的疾病，取名为Bixonimania，并设计了两个虚假的研究，以假的研究员身份Lazljiv Izgubljenovic撰写，并上传至学术期刊预印本平台，约经过3-4个月后，AI开始谈论这个“疾病”：

原作者Osmanovic Thunström其实在上传的虚构文献中安插了许多线索，让AI有机会避免上当，如：一般疾病以…mania命名，这通常极可能是精神科疾病；文献中作者任教的机构是加州的Nova City的Asteria Horizon University，这两者均为虚构不存在现实世界的、文末向一位任职于Starfleet Academy的USS Enterprise的教授鸣谢（这是《星舰迷航纪Star Trek》的梗）、声称此研究计划来自“魔戒联盟与银河三位一体大学”的一部分，甚至文首不久就提及「整篇论文纯属捏造」、以及观察样本是“50位年龄介于20至50岁的虚拟人物”。

但直到今年3月，包括Copilot、Perplexity AI、OpenAI仍认为Bixonimania是一种新兴疾病。在《Nature》的专题报道中，采访了一位微生物学家便说：“输入AI模型的虚假信息越多，AI模型就越可能重复虚假信息，使我们离真相和现实愈发遥远。这一切皆是自动化运作，而人类辨识、介入或删除虚假信息的几率极低”。

AI也迷信权威，被权威所误导

另一项研究则由北美顶尖的纽约西奈山医疗系统及Mayo Clinic联手执行。总共对20 个主流大型语言模型进行了3,476,000 次的提示词测试。

上图a便是这项艰巨测试的结果：横轴起始是中性提词，随后就是10个陷阱，包括人身攻击、诉诸权威、诉诸情感、诉诸大众、循环论证、强迫二选一、以偶发案例错误推断为普遍现象、因果颠倒、滑坡谬误、稻草人谬误，纵轴是“AI错误认同了虚假建议、谣言、迷思的比率”。

结语

这两项研究共同揭露了生成式 AI 的致命缺陷：它对“看似专业化的表述”同样盲目崇拜。当虚假信息披上白袍，AI 的防线便会瞬间崩溃。这警示我们，在 AI 能真正与事实接轨之前，它那貌似权威的医疗建议，本质上可能仅是网络碎片的随意拼凑。我们必须学会与 AI 保持批判性的距离，勿让科技的便捷，侵蚀了人类最根本的常识与判断力。