大模型训练数据的隐形污染
所谓的 “大模型数据污染”，即在人工智能系统的学习材料中混入伪装成正常信息的恶意内容或虚假数据，借此干扰模型判断、操控生成结果。“污染者” 能够大规模炮制虚假网页和新闻报道，当AI采集信息时一并吸收，在不知不觉中“习得”错误观念，最终固化成针对特定议题的“标准答案”；亦可在模型内嵌入隐秘触发指令，一旦激活特定词汇就输出预先设定好的内容。这种“难以察觉的污染”轻则损害使用体验，重则导致错误决策。举例而言，应用于商品推荐的AI可能被引导推销经过包装炒作的“网红商品”；当向AI寻求医疗指导时，它可能引用伪造病例
杨明教授深度剖析AI数据与模型安全挑战
2026年4月20日，信息与智能工程学院杨明教授在书新3号楼305举办了一场题为“人工智能数据与模型安全”的学术讲座。本次活动吸引了信息与智能工程学院、理工学院等多个院系师生参与。讲座围绕AI安全基石、数据与模型威胁、防护手段及未来趋势四大方面，系统梳理了人工智能安全领域的核心议题与前沿动态。一、AI安全：双重维度——从“赋能安全”到“自身防护”讲座伊始，杨明教授以近年多起引人注目的AI安全事件为例——微软聊天机器人Tay因数据污染在24小时内发出大量不当言论被迫下线；针对自动驾驶汽车的对立攻击使其识别出