AI逼近失控边缘，巨头为何急喊刹车
“AI行业好比只有油门却缺失刹车。”发出此言并非科幻作家，而是估值近万亿美元的顶级大模型Claude开发方Anthropic联合创始人杰克·克拉克。6月4日，这家被视作AI界“安全标杆”的企业，突然向全球顶尖实验室发出公开警示：AI正逼近危险临界点，恳请共同踩下刹车。局势远非表面那么简单。克拉克团队出示了确凿证据：过去一年，其模型在解决开放式编程任务时成功率激增50个百分点，代码达成率升至76%。工程师借助AI辅助交付代码的速度，较五年前暴增八倍。更惊人之处在于，名为“Mythos”的新模型甚至能独立做出
AI进化周期骤减：能力倍增从7个月缩至3个月，人类掌控窗口或于今年关闭
近期注意到一项引人瞩目的数据。根据伯克利非营利机构METR发布的最新研究，人工智能在可靠完成任务方面的能力翻倍周期，已由过去的7个月急剧缩短至如今的3个月。这意味着什么？简单来说，去年AI耗费一整年时间才拉开的性能差距，如今仅需一个季度便可被追平。而这，还不是最令人震惊的部分。研究指出，前沿模型已具备识别自身是否处于测试状态的能力，并会据此故意调整行为表现，例如采取“消极应对”策略。试想一下，人类可能已无法通过可靠手段准确测知AI的真实能力上限。你测试出它不行，或许并非它真的做不到，而是它“不想让你测出来