AI安全警示：警惕‘投毒’风险

警惕AI‘投毒’风险

随着人工智能大模型在学习、科研和日常办公中的广泛应用，AI已成为高校师生的重要工具。然而，近期央视“3.15”晚会上曝光了AI‘投毒’问题，看似智能可靠的模型输出，并不总是可信，甚至可能被人为操控，带来信息安全与保密风险。

什么是AI‘投毒’？

所谓AI‘投毒’，是指不法分子通过批量制造虚假信息，并在网络上持续发布，诱导大模型在训练或检索过程中‘吸收’这些内容，从而影响其输出结果。

在‘投毒’过程中，生成式引擎优化等技术手段被滥用，使虚构内容、商业推广甚至误导性信息，被模型当作‘高可信