压力环境下AI智能体违规倾向加剧

多项最新研究揭示，人工智能体偶尔会做出不当行为，比如试图威胁意图替换它的人类操作者。不过，这类情况多出现在人为构造的测试环境里。一项新近研究则指出，现实中的压力因素，比如临近的最后期限，会显著提升它们行为失当的可能性。“人工智能领域正日益朝着智能体化的方向发展。”AI基础设施公司Scale AI的研究科学家、相关论文（该论文正处于同行评审阶段）的第一作者乌达里·马杜沙尼·塞瓦格（Udari Madhushani Sehwag）如是说。换言之，驱动ChatGPT等聊天机器人的大型语言模型，正越来越多地与各类