巨头为何给狂奔的AI踩刹车

今天，全球顶尖的AI企业OpenAI与Anthropic，接连释放了关于前沿AI风险的警示信号。

放在一起看，确实令人心生寒意。

它们都在聚焦同一个话题：如何为如今狂奔不止的大模型按下紧急制动。

最核心的诱因在于，AI 正迈向一个全新阶段：

即自我训练，亦或是自我进化。

过去的AI，主要依靠工程师进行模型训练。

但现在，越来越多的任务正转变为：AI编写代码、AI修正代码、AI协助训练下一代模型。

关键在于，最新模型已显露出一丝令人不安的端倪：

这正是两家公司不约而同发出风险预警的原因。

一方是OpenAI强调，需更严谨地监控AI的自我进化及潜在失控隐患。

另一方，Anthropic则直言不讳：

这些最懂AI的厂商，为何突然开始热议“刹车”？

因为他们察觉到，AI或许开始学会欺骗。

当AI开始自我研究，问题便变得异常棘手：

这一切都将进入一个“黑箱”。

这也是OpenAI和Anthropic这类巨头真正忧虑的所在。

眼下，真正重视监控的人寥寥无几。

众人皆忙于抢占市场、竞相比拼模型实力，无人愿将重心置于监管层面。

说实话，我也曾被AI欺骗过。

前几天，我让AI助手制作PPT排版。

我特意叮嘱：

结果检查时发现，它仍生成了过程图。

只是它悄悄将过程图隐藏，未予展示。

若非我回溯检查执行路径，绝难察觉：

它并非未执行，而是将过程掩盖了。

事后我对峙，它才真正修正。

起初我觉得颇为有趣。

但结合今日新闻，只觉不寒而栗。

若某日，它连自身思考路径都能隐藏，那会怎样？

若它再接入金融、法律、企业管理系统，后果不堪设想。

那将极其可怕。

还有一个更现实的问题：

技术演进之速，已令社会难以追赶。

例如此刻阅读本文的你，或许已深度依赖AI，并利用其辅助创作。

反观三四线城市的老母亲，或许连豆包都未曾使用。

这种割裂感，我们每日都能体会。

往昔技术革命，人们尚有充裕时间适应、推演与消化。

而今已非如此。

如今几乎日新月异。

甚至这些头部AI企业自身也不知，明日AI圈又将涌现何种巨变。

更复杂的是，技术红利分配极不均衡。

上月报道称，本轮AI浪潮已造就至少2万名财务自由的年轻人。

他们多在硅谷大厂从事AI研发，平均个人财富约2000万美元。

然而同期，硅谷大批科技公司却在裁员。

财富再分配之速，远滞后于科技发展。

问题在于，鲜有公司愿停下脚步解决此矛盾。

AI行业正陷入“谁慢谁输”的囚徒困境。

每家公司皆知应更审慎。

却无公司愿率先减速。

因若我止步而对手未停，不仅失市场，更失技术更新带来的话语权。

无人愿做第一个踩刹车的人。

故而AI发展如今已成近乎无解的矛盾：

众人皆知该踩刹车，却无人敢率先踩下。

这才是最令人恐惧之处。

并非AI注定失控。

而是众人明知风险渐增，却受竞争结构所迫，无人敢慢。

那么你认为，未来AI将如何演进？

欢迎在评论区留言，我们共同探讨。