巨头为何给狂奔的AI踩刹车

今天，全球顶尖的AI企业OpenAI与Anthropic，接连释放了关于前沿AI风险的警示信号。放在一起看，确实令人心生寒意。它们都在聚焦同一个话题：如何为如今狂奔不止的大模型按下紧急制动。最核心的诱因在于，AI 正迈向一个全新阶段：即自我训练，亦或是自我进化。过去的AI，主要依靠工程师进行模型训练。但现在，越来越多的任务正转变为：AI编写代码、AI修正代码、AI协助训练下一代模型。关键在于，最新模型已显露出一丝令人不安的端倪：这正是两家公司不约而同发出风险预警的原因。一方是OpenAI强调，需更严谨地监