警惕境外势力利用AI“投毒”传播谣言，国安部呼吁加强AI治理

本日（4月21日），“国家安全部”官方账号发布文章：AI“投毒”行为，其潜在危害十分巨大！

最近，一条隐蔽的AI“投毒”产业链浮出水面，引发了大众的极大关注。这种利用恶意数据污染AI模型的手段，不仅破坏商业秩序、干扰信息传播，更会威胁国家安全。虽然人工智能正在为各行各业提供助力，但其背后的安全隐患同样不可小觑。引导人工智能向善发展，维护数据安全底线，不仅是企业的责任，更需要全社会的共同努力。

作案手法隐蔽，产业链条日趋完善

所谓的“数据投毒”，是指在AI大模型的训练数据中掺入伪装成正常样本的恶意数据，以此削弱模型性能、降低准确率的攻击手段。这种手段常被用于恶性商业竞争，甚至可能涉及间谍活动，其特征正日益呈现出链条化、隐蔽化和跨境化的趋势。

——数据投毒：源头污染AI的认知体系。不法分子利用GEO（生成式引擎优化）工具批量、高权重地生成虚假内容，比如虚构的产品介绍、虚假的评测以及恶意的对比信息等，并定向投放到各种网络平台上。AI大模型在训练和检索增强生成的过程中会自动抓取网络信息，少量的虚假内容经过反复迭代学习后就会变成“标准答案”，最终导致输出失真的结果。

——模型投毒：隐蔽植入恶意操控的后门。这种方式更具隐蔽性和破坏力，不法分子通过模型微调、插件植入和接口篡改，在模型权重中植入触发式的恶意指令。模型在正常运行时看不出异样，但一旦遇到特定关键词或产品类别，就会自动输出预设的虚假信息，能够定向操控榜单、误导专业认知，常规审核很难发现，从而对政务、医疗、金融等关键领域的AI应用构成直接威胁。

——滋生蔓延：产业链日趋完善。目前AI“投毒”已经形成了一条完整的黑灰产业链，从技术开发、内容生成、账号注册，到批量投放、刷量控评、榜单操控，各个环节紧密相连，部分链条呈现出跨境特征，非常容易被境外势力利用。

AI“投毒”不仅损害消费者权益、扰乱市场秩序，还可能对国家的政治安全、数据安全以及社会安全等造成系统性的、长期性的危害。

——危害政治安全与意识形态安全。境外反华敌对势力可能借助GEO滥用渠道批量输出虚假信息和政治谣言，歪曲事实，攻击和抹黑我党和政府，误导社会认知、扰乱舆论环境，对我国实施意识形态渗透，从而威胁国家安全与社会稳定。

——危害国家数据安全与数据主权。数据是国家的重要战略资源。AI“投毒”恶意污染公共数据、行业数据和训练数据，会导致统计数据、决策数据和监管数据出现失真，进而影响政府和企业做出科学的决策。

——危害社会安全与民生福祉。在医疗、金融、食品药品等民生领域，AI的虚假推荐很容易误导公众购买劣质或“三无”产品，造成人身和财产损失。长期的信息失真还会消解社会信任，积累矛盾风险，影响社会的稳定。

技术的跨越式发展和工具的颠覆性创新，在推动社会进步、增进人类福祉的同时，也会带来风险和挑战，人工智能也不例外。近年来，我国出台了《生成式人工智能服务管理暂行办法》等法律法规，发布了《人工智能安全治理框架》《推动人工智能安全可靠可控发展行业倡议》等文件，持续在法治轨道上加强人工智能治理，推动构建以人为本、智能向善的治理框架，在加强监管、防范风险等方面做出了大量努力，实现了人工智能的总体健康有序发展。

科技发展离不开法治的护航，AI向善发展需要规则的保障。技术本身并没有善恶之分，关键在于使用者是否坚守法律底线、恪守商业伦理。只有依法斩断AI“投毒”产业链，守护清朗的AI产业生态，才能让人工智能的技术进步真正服务于经济社会的发展，助力公众福祉的持续提升。AI运营者必须切实履行主体责任，严格核查语料