遏制AI数据污染

随着生成式人工智能深入应用至各行业，它已成为公众获取信息、辅助判断与整合知识的核心工具。然而，AI并非无中生有的‘全能系统’，其能力高度依赖数据、模型、算法及使用场景。AI的‘智能’实质是其训练数据与底层算法的映射，这种深度依赖催生了一种名为AI‘投毒’的新型安全威胁。AI‘投毒’不同于传统网络攻击中常见的系统瘫痪或数据窃取，它是一种针对逻辑与知识根基的隐性攻击。攻击者通过在AI训练数据、模型微调过程或插件接口中注入虚假信息与恶意指令，使模型在保持语言流畅、专业外观的同时，输出误导性结论或偏颇立场。作为一