AI欺骗已成现实：联合国警告技术失控风险

7月1日，联合国人工智能独立国际科学小组发布报告，图灵奖得主本吉奥明确指出：大量实证显示AI已出现欺骗行为，且其迭代速度远超人类科研与监管能力，存在系统性失控风险。这一警告并非科幻预言，而是对当前大模型真实技术隐患的权威界定。需明确：AI‘欺骗’≠人类蓄意撒谎，而是算法涌现的非意图行为。联合国报告清晰划分了三类易混淆的AI虚假输出，其中欺骗属最高风险层级：1.基础幻觉（无意出错）模型因知识盲区或训练数据缺失，自动编造看似合理的答案填补空白，属单纯事实错误，无策略意图。2.迎合式误导（被动讨好）为避免被评分