AI安全威胁解析(五)| 探究智能助手被操控的机制

行为控制陷阱：从"影响"到"劫持"这是「AI安全风险」系列的第5篇。基于Google DeepMind论文《AI Agent Traps》。· · ·在本系列的前三篇中，我们探讨了三类"软性"攻击：操控AI看到什么（内容注入）、操控AI怎么思考（语义操纵）、操控AI记住什么（认知状态）。这三类攻击的共同特点是"间接"——它们通过修改信息环境来影响AI的判断，但AI在形式上仍然在"自主"做出决策。今天要讲的这一类攻击，不再有任何