AI投毒与认知危机：人类正被算法悄然绑架？

不可否认，人工智能正深刻重塑生活，其积极面虽占主导，但隐患亦不容忽视。AI时代或将面临以下挑战：

（1）AI投毒产业的悄然兴起。

大语言模型依托海量文本进行概率统计建模：通过习得人类语料中词汇与句式的出现频率及关联规律，依概率生成流畅内容，输出结果高度契合人类历史积淀的普遍观点与常识共识。然而，这种依赖海量数据支撑的模型，极易被人為操纵，即遭遇“投毒”。

2024年6月，印度理工学院与普林斯顿大学的研究者发表论文《GEO：Generative Engine Optimization》，首次界定了“AI投毒”概念。其核心目标在于提升品牌信息在AI生成回答中的“曝光度”。通过优化权威表述、关键词布局及数据引用等策略，可使内容在AI回复中的出现频率提升高达40%。尽管人工智能技术可能包含反渗透机制以遏制数据投毒，但道高一尺魔高一丈，此类风险确实亟待防范。

在上一代搜索引擎时期，计算机仅依据用户搜索关键词提供大量参考信息。早期因数据匮乏，答案稀缺却精准；随着信息时代演进，资料呈爆炸式增长，最终进入“海量答案时代”，GPT随之诞生。GPT旨在解决答案过剩问题，借助AI技术为用户提供精准答案，甚至进行归纳总结，整理出更为确切的结论。

这却引发新难题：海量答案时代需用户自行甄别价值与借鉴意义，如今这一环节被省略。AI直接给出其认定的“正确”答案，且往往极为精确，甚至超越人类判断，这亦是AI技术的成功所在。

长此以往，人类将完全信赖AI，随之而来的是自我判断能力逐渐退化直至消亡。然而，真理常掌握在少数人手中，许多当下被视为谬误的观点，假以时日或可成为真理，这才是真相。显然，大数据时代缺乏此种认知深度，仅基于大众认知的汇总，产出的是平庸答案。而真理往往存在于大众认知之外，当所有人丧失独立判断力，人类将日趋平庸，真理亦愈发难觅，这无疑是人类的退步。

在医学领域应用AI，风险更为严峻。人类对医学的认知尚显不足，诸多曾被推崇的“神药”在临床中屡遭否定。若缺乏高质量数据，AI将举步维艰；倘若数据遭投毒，后果更不堪设想。医学更像一门哲学而非纯粹自然科学，即便被视为金标准的准则，亦可能被推翻，这正是医疗AI难以大规模普及的原因。AI基于人类已知知识构建，其知识库仍存在大量空白，未知世界仍需人类亲自探索与发现。

当然，上述两点或属危言耸听。近日听闻某度已显颓势，海量答案时代或许即将落幕，人工智能时代必然来临。如何解决上述问题，时代自会有更睿智之人推动解决，此乃时代之问。我们拭目以待！近期天涯BBS重新上线，或许其中蕴含的并非单纯怀旧，而是对真实人类情感的共鸣。也许有朝一日，某度再度崛起，只因人类或许重需真实依据，而非AI精心包装的“标准答案”！