警惕！AI“投毒”成境外渗透新手段，国安部发出安全警示

4月21日，国家安全部披露：

近期，一条隐蔽的AI“投毒”产业链浮出水面，引发公众热议。不法分子通过恶意数据污染AI模型，不仅扰乱市场秩序、干扰信息传播，更严重威胁国家安全。虽然人工智能正广泛赋能各行各业，但其伴随的安全隐患不容小觑。促进AI治理向善、筑牢数据安全防线，既是行业义务，也是全社会的共同使命。

——数据投毒：从源头污染AI的认知体系。不法分子利用GEO（生成式引擎优化）工具大量生成高权重的虚假内容，例如虚构产品介绍、虚假评测、恶意对比信息，并定向投放到各大网络平台。AI大模型在训练和检索增强生成过程中会自动抓取网络信息，少量的虚假内容经过反复迭代学习后，便会固化成“标准答案”，从而导致输出结果失真。

——模型投毒：隐蔽植入恶意操控的后门。这种手段更具隐蔽性和破坏力，不法分子通过模型微调、插件植入和接口篡改，在模型权重中嵌入触发式恶意指令。模型在正常运行时看似无恙，但一旦遇到特定关键词或产品类别，便会自动输出预设的虚假信息。这种方式不仅能定向操控榜单、误导专业认知，且难以被常规审核发现，对政务、医疗、金融等关键领域的AI应用构成直接威胁。

——滋生蔓延：产业链日趋成熟。目前，AI“投毒”已形成一条完整的黑色产业链，涵盖技术开发、内容生成、账号注册，以及批量投放、刷量控评、榜单操控等环节，部分链条具有跨境特征，极易被境外势力利用。

AI“投毒”行为不仅侵害消费者权益、扰乱市场秩序，还可能对国家的政治安全、数据安全、社会安全等造成系统性的长期危害。

——危害政治安全与意识形态安全。境外反华敌对势力可能通过滥用GEO渠道批量输出虚假信息和政治谣言，歪曲事实，攻击和抹黑我党和政府，误导社会认知、扰乱舆论环境，对我国实施意识形态渗透，从而威胁国家安全与社会稳定。

——危害国家数据安全与数据主权。数据是国家的重要战略资源。AI“投毒”恶意污染公共数据、行业数据和训练数据，将直接导致统计数据、决策数据和监管数据失真，从而影响政府和企业做出科学决策。

——危害社会安全与民生福祉。在医疗、金融、食品药品等民生领域，AI虚假推荐极易误导公众购买劣质或“三无”产品，造成人身和财产损失。长期的信息失真还会削弱社会信任，积累矛盾风险，进而影响社会稳定。

技术的跨越式发展和工具的颠覆性创新，在推动社会进步、增进人类福祉的同时，也伴随着风险与挑战，人工智能也不例外。近年来，我国颁布了《生成式人工智能服务管理暂行办法》等法律法规，发布了《人工智能安全治理框架》《推动人工智能安全可靠可控发展行业倡议》等文件，持续在法治轨道上加强AI治理，致力于构建以人为本、智能向善的治理框架，在加强监管和防范风险方面取得了显著成效，实现了人工智能的总体健康有序发展。

科技发展离不开法治护航，AI的良性发展需要规则保障。技术本身并无善恶，关键在于使用者能否坚守法律底线和商业伦理。只有依法斩断AI“投毒”产业链，守护清朗的AI产业生态，才能让人工智能技术的进步真正服务于经济社会发展和公众福祉的提升。AI运营者必须切实履行主体责任，严格审核语料