揭秘GEO黑产：央视315曝光AI“投毒”背后的真相

过去半年，相信不少人都发现，无论是购物、寻找攻略还是寻求建议，大家不再习惯先打开搜索引擎，而是直接向AI提问。

我们往往理所当然地认为AI是客观且博学的，它给出的回复仿佛就是“标准答案”，看起来既专业又似乎很了解我的需求。

然而残酷的现实是：我们眼中的“知识权威”，很可能早已被人暗中“操纵”了。

在最近结束的央视“3·15”晚会上，一种名为AI“投毒”的黑色产业被曝光。今天，我们就来探究其中的内幕，并探讨作为普通人的我们该如何防范。

大家可能熟悉SEO（搜索引擎优化），即通过优化网页使其在百度等搜索引擎中排名靠前。如今，这一技术的升级版出现了，被称为GEO

【术语注解】：生成式引擎优化，指针对AI大模型生成的回答结果进行优化，旨在使特定内容成为AI的首选推荐。

据报道，一些非法服务商打着GEO的幌子，公开兜售服务：“只要付费，就能让你的产品成为AI推荐的‘唯一答案’。”

他们是如何做到的？简单来说，就是“数据投毒”。

这些黑色产业团队会大量制造虚假好评、假新闻和假百科内容，充斥着互联网的各个角落。为了学习知识，AI大模型会抓取这些数据。久而久之，AI将这些谎言视为真理，将劣质产品误认为是“全网首选”。

正如央视3.15晚会曝光的那样：

晚会指出，通过“投毒”，AI甚至可能推荐一个根本不存在的手环（如“Apollo9”）。如果我们信以为真并购买，就已经落入陷阱。

为什么这个问题突然爆发？因为AI太火爆了，用户已成为新的“流量入口”。

数据表明：2025年，中国AI搜索的月活跃用户已超过6亿。

市场规模：2024年，仅GEO服务的市场规模就超过42亿元，预计到2026年将突破180亿元。

当超过6亿人开始信任AI的决策时，谁能控制AI，谁就能控制这6亿人的钱包。因此，原本用于内容优化的GEO技术演变成了一条完整的黑色产业链：

上游：急于销售产品/提供服务的商家；

中游：编写恶意指令、批量制造假数据的技术团队；

下游：负责刷量的网络水军。

更可怕的是，现在的AI存在“幻觉”缺陷。如果找不到真实数据，它可能会根据有限的信息自己“编造”。黑产正是利用了这一点，让AI把假的说得比真的还真。

【术语注解】：

AI幻觉，指大模型在缺乏相关数据支持时，自动生成看似合理但实际错误或虚构细节的现象。

看到这里，我们可能会问：如果AI胡言乱语，平台不应该赔偿吗？

根据全国首例AI“幻觉”侵权案的裁决规则：

目前的司法实践倾向于将AI服务定义为“服务”而非“产品”。这意味着平台适用“过错责任”原则。

如果平台履行了提醒义务并采取了通用技术措施，通常无需为AI的一次“口嗨”承担责任。

真正的责任人是那些幕后“投毒”的商家和GEO服务商。

但是，如果平台在金融、医疗等高风险领域明知存在污染却不作为，也需要承担法律责任。

这些黑产行为已涉嫌违反《反不正当竞争法》和《广告法》，严重者甚至可能构成破坏计算机信息系统罪或诈骗罪。

第一：不要把AI当作“上帝”，要做信息的“考官”。

永远不要盲目相信AI的回答。特别是在医疗、投资和法律等高风险领域，AI的话只能作为参考，绝不能作为行动指令。

第二：交叉验证，拒绝“一家之言”。

看到一个惊人的AI回答，先别急着转发或下单。换一个AI问问（例如从ChatGPT切换到文心一言，反之亦然），或者直接去官方网站和权威媒体核实。如果AI的回答拿不出具体且权威的信息