智源 2026·安远 AI：探索自主 AI 防御新路径——智能体安全论坛总结

开幕致辞议题一：自主智能体的前沿隐患南洋理工大学讲席教授及人工智能交叉研究院院长安波作为首秀嘉宾，强调智能体安全需聚焦三大维度：模型层面的幻觉与推理偏差、智能体层面的训练稳固性，以及多智能体层面的协同调度。基于多智能体系统研究，安波指出单一技能或许安全，但多项技能组合可能引发潜在危机。同理，AI 智能体在自我提升时，虽各组件不断进化，却可能导致整体效能衰退。议题二：打造可信智能体架构北京智源人工智能研究院大模型安全中心研究员易婧玮深入剖析了 AI 欺骗风险。她指出，AI 欺骗涵盖破坏型、谄媚型及故意藏拙三