AI“投毒”隐患重重，需严加防范

相关阅读：【保密知识】保密知识应知应会二十题（1）

相关阅读：【保密知识】保密知识应知应会二十题（2）

相关阅读：【保密知识】保密知识应知应会十题（3）

AI“投毒”不仅损害消费者利益、破坏市场规则，还可能给国家政治安全、数据安全及社会安全带来系统性、长期性的隐患。

所谓的“数据投毒”，是指将恶意数据伪装成正常样本混入AI大模型的训练数据中，以此达到削弱模型性能、降低准确度的攻击手段。该手段常用于恶性商业竞争，甚至可能牵涉间谍行为，且逐渐表现出链条化、隐蔽化及跨境化的趋势。

境外反华敌对势力或许会利用GEO（生成式引擎优化）的滥用途径，大量散布虚假信息和政治谣言，歪曲事实真相，攻击抹黑我党和政府，误导社会大众认知，破坏舆论生态环境，从而对我国进行意识形态渗透，危害国家安全和社会稳定。

另外，AI“投毒”对公共数据、行业数据及训练数据的恶意污染，会直接致使统计数据、决策数据和监管数据失真，进而干扰政府和企业的科学决策过程。

在医疗、金融、食品药品等民生关键领域，AI的虚假推荐极易诱导公众购买劣质或“三无”产品，导致人身与财产受损。长期的信息失真更会侵蚀社会信任，积聚矛盾风险，影响社会大局稳定。

国家安全机关提醒，AI运营者必须严格落实主体责任，仔细核查语料来源