AI的困境：循环训练与未来隐忧
假期期间，我和女儿进行了一次深入的交流。
起因是我们在回家的路上，女儿突然感慨：“我觉得自己是不是生错了时代。”
这让我颇为惊讶，毕竟现在的生活条件优渥，衣食无忧。我立刻对比了爷爷那一代人的艰辛，他们经历过物质匮乏的年代，八十年代初，白天在工厂劳作，清晨和傍晚还要下地干活，那种辛苦难以想象。好在他们坚持下来，最终实现了从农村到城市的转变……
我接着说，每个时代都有其独特的挑战。以我为例，虽然赶上了计算机技术蓬勃发展的黄金时期，但也面临着“35岁危机”。如果我当初没有选择创业，而是继续留在IBM，2022年可能就会面临被裁员的风险，那时再找工作将异常艰难。
女儿却表达了她的担忧：“我担心等我长大后，人工智能会取代人类的工作，那我们该怎么办？”
我意识到，她可能受到了大量关于AI的宣传影响，对那些过于夸大的说法感到不安。
我试图安慰她：“如果将来AI能够承担所有工作，那难道不是一件好事吗？繁重、重复性的劳动都可以交给AI，比如耕种、工厂生产。这样一来，物质资源将极大丰富，人类可以专注于享受生活。”
她反驳道：“但如果AI也能进行创造性的活动，那我们人类存在的意义又在哪里呢？”
这个问题过于宏大深刻，我一时语塞。
我只好坦言：“目前，通用人工智能（AGI）的实现还非常遥远，你无需过分担忧。”
她继续追问：“你们程序员难道没有感受到被替代的威胁吗？”
我解释道：“不要轻信那些不了解内情的人的说法。现阶段的AI更多是增强程序员能力的工具，你以为仅凭几句话就能开发出软件吗？我可以告诉你，一些简单的应用或许可以，但复杂、企业级的软件开发仍需人类主导。”
她好奇地问：“那么，什么是复杂软件呢？”
我思索片刻，举了一个例子：“我曾经参与过一个项目，其需求文档就长达几十页才能阐述清楚。如此庞大复杂的系统，AI是无法独立完成的。”
“你不是喜欢绘画吗？你对绘画有一定的了解，难道看不出AI绘画作品的问题所在？”
“还有AI生成的视频，都带有明显的‘AI痕迹’，只能说勉强可以观看。”
“当前AI之所以看似火爆，是因为它建立在多年前的基础理论之上，恰好遇到了互联网数据爆炸和充足算力的时代。”
“更关键的是，AI本质上是一个黑箱，我们对其内部运作机制并不完全理解，不像经典物理学那样，有牛顿三定律等可以解释一切的理论框架。”
“而且，AI的能力发展似乎出现了一些停滞。GPT-4的发布曾轰动全球，但时隔两年，GPT-5的问世却令人大失所望。”
“此外，一个非常重要的问题是，AI目前只能在数字世界中运作，对物理世界的理解还非常有限。你看，尽管各厂商在智能驾驶方面宣传得天花乱坠，但离L3级别都还遥遥无期，更不用说完全自动驾驶了。”
“所以啊，我们距离你想象中的机器人形态还有很长的路要走。我这辈子恐怕是等不到了，你这辈子也未必能实现，不必杞人忧天。”
她反问：“万一AI界出现一位‘牛顿’呢？”
我沉默了。确实，如果真的出现一位天赋异禀的“牛顿”式人物，情况又会如何？
这时，我突然想起朋友前几天说的一句话：“AI正在吃它自己拉出来的东西。”
我把这句话转述给她，她听后哈哈大笑，追问是什么意思。
我解释道：“如今AI的训练数据主要来源于互联网。然而，随着AI的兴起，人们发现AI生成内容非常便捷，于是开始大量制造低质量文章、洗稿内容、劣质问答、以及粗糙的图片和视频……”
“这些内容信息密度低，错误信息被反复复制，表面上看起来流畅，却缺乏新颖的信息。与经过数十年沉淀的书籍、严谨的学术论文、高质量的代码库以及论坛上人工精选的精华内容相比，它们根本无法相提并论。”
“当模型反复使用‘自身生成的数据’进行训练时，信息会逐渐丢失，最终导致模型变得呆板，甚至累积错误。”
“典型的表现就是回答越来越模式化，细节错误增多（尽管语气依旧自信），创造力下降，一些小众的知识也逐渐消失……”
“这就是所谓的‘模型坍塌’。如果人类继续沿着这条路走下去，AI的性能可能会越来越差，甚至停滞不前。即便AI界真的出现一位‘牛顿’，也无济于事。”
她问道：“如果大家不再使用AI创作，而是自己动手写文章，不就没事了吗？”
我回答：“这不太可能。一方面，这是人性的使然，大多数人都倾向于图省事。花费2小时认真写作，与3分钟用AI生成一个‘还凑合’的版本相比，大多数人会选择后者。更何况，互联网平台往往看重更新频率和点击率，只要有吸引眼球的噱头，那些看似差不多的文章就会泛滥，而那些需要深度思考、原创性强、耗费大量时间才能完成的内容，自然会处于劣势。长此以往，劣币驱逐良币的现象将难以避免。”
我和女儿的谈话就此告一段落。她满意地去做自己的事情了。然而，我内心并未完全说服她，因为AI的发展确实处于一个充满巨变的时代。AI技术本身存在缺陷和瓶颈，数据存在陷阱，而人性也并非完美无缺。
这一切因素交织在一起，不会在一夜之间走向末日，而会以一种缓慢、复杂、甚至略带滑稽的方式演进，逐步改变着世界。至于未来究竟会如何，无人能够准确预测！