AI 智能诅咒：贫富分化恐将加剧

随着 AGI 与 ASI 的日益临近，超越人类智慧的系统即将问世，彻底重塑人类社会格局。Hinton 等专家预言，一旦 AGI 能够替代人类劳动力，社会将呈现「富者愈富、穷者愈贫」的局面，结构将迎来剧变。在《经济蓝图》中，OpenAI 描绘了 AI 赋予人类的愿景：未来普通人的生活水准将超越当今最顶级的富豪。但这真的能实现吗？毕竟，受 AI 技术进步的冲击，Salesforce 已冻结相关岗位招聘，Meta 等巨头正研发具备中级程序员能力的智能体。由此可见，未来计算机科学毕业生的就业难度将进一步加大，他们的生活真的能变得更好吗？关于通用人工智能（AGI）和超级智能（ASI）的预测层出不穷。这对其他专业究竟意味着什么？这一议题虽不新鲜，却极具复杂性。围绕 AI 的讨论及其对生活的影响，可归纳为三个层面：是否会出现超越人类智慧的超级智能或 AGI 实体；它将如何改善或摧毁我们的生活；以及我们当下能采取何种措施来把控结果。AGI 与 ASI 的逼近「谷歌文档」创始人 Steve Newman 深入阐释了 AGI 的内涵：「在超过 95% 的经济活动中，AGI 能以符合成本效益的方式取代人类，包括未来新创造的工作岗位。」此外，这种能力水平还能协助人类实现太空移民、星际旅行等梦想，并加速科学发现进程。尽管这仅是一种预测，但 Newman 对 AGI 的解读代表了多数领域专家对下一代 AI 的看法。与 AGI 相似，超级智能（ASI）更侧重于 AI 对科学发现的推动作用。AGI 距离实现仅剩数年，许多专家及 AI 巨头 CEO 甚至给出了更具体的时间节点。去年，Hinton 表示，我们终将迎来超级智能，且其到来速度超乎想象。加拿大英属哥伦比亚大学计算机科学教授 Jeff Clune 也赞同 Hinton 的观点。他指出：「我认为超级智能完全有机会实现，且这一机会并非渺茫，今年便可能出现。我们已步入逐月逼近超级智能的时代，且每过一个月，这种可能性便进一步增加。」然而，专家警告切勿低估 AI 的力量，无论其后果善恶。超级智能的风险若失去对 AI 的掌控，人类的未来或许黯淡无光。AI 放大贫富差距在最近的一次公开讨论中，Geoffrey Hinton 预测，AI 将加剧贫富分化，使社会状况「愈发恶化」。在历史长河中，技术进步引发的「失业潮」早已屡见不鲜。随着全球工业化与现代化的推进，部分传统职业消失，某些行业甚至被彻底颠覆。但随着 AI 能力不断增强，更多工作面临被淘汰的危机。2025 年，各大企业纷纷表示将推出「虚拟员工」，AI 正式进军劳动力市场，这可能成为许多人失业的「最后一根稻草」。在最近的一场圆桌讨论中，Hinton 预测，随着 AI 发展，财富差距将迅速拉大：我们谈论的是生产力的飞跃式提升。理论上，每个人都应获得更多商品与服务，生活应更美好，但现实可能截然不同。若处理不当，他指出接下来将发生：生产力的巨大提升将为大公司与富人带来巨额收益，从而进一步扩大富人与失业者之间的鸿沟。这主要是因为失业者将失去收入来源，而掌控 AI 的生产者——即提供商品与服务的人——将在零劳动成本下享受金融特权。已有研究证实，部分自由职业者受 ChatGPT 影响，工作机会与收入持续缩减。研究者甚至推测，一旦 AI 具备取代人类岗位的能力，人类将难以重返原有岗位。此外，众多富豪与大公司正将重心转向 AI。很难令人相信，他们并非为了未来利润，而是为了全人类的福祉在「免费打工」。毕竟，OpenAI 甚至已显现出「CloseAI」的迹象：奥特曼正推动其从非营利组织向商业化营利组织转型。网友亦猜测，财富从大众流失将如何引发社会失衡。普通人变得无足轻重去年 12 月 28 日，L Rudolf L 发布《Capital, AGI, and human ambition》，着重强调了 AI 对社会价值观的冲击。其核心观点如下：能够替代劳动力的 AI，将迅速改变人类与非人类生产要素的相对重要性，这将削弱社会关怀人的动力，同时巩固现有权力结构。如今若想通过资金实现抱负，面临的最大深层问题可能是难以招募到合适人才，因为招聘人才存在几大难题：判断人才往往极具挑战，除非自身具备相当天赋，否则极易错失真正的人才。人才稀缺，尤其是那些脱颖而出的顶尖人才。即便找到顶尖人才，他们也通常比其他人更难被金钱收买。而可替代劳动力的 AI 则完全不存在这些问题。首先，尽管 AI 的「才能」难以估量，但 AI 可以被无限复制。每个人——只要拥有足够的资金投入 GPU——都能获得突破性的 AI。这与人类截然不同，人类的才能不仅难以确认，更难以复制。此外，由于 AI 成本将低于同等人类劳动力，人才成本将大幅下降。加之 AI 能力可复制，竞争将更加激烈。而资金转化为人才的最大瓶颈，在于许多顶尖人才拥有复杂的人类偏好，他们比 AI 更难被金钱收买。顶尖天才往往对学科或事业怀有高度的献身精神与使命感，视「金钱如粪土」。相比之下，AI 的存在就是为了销售（至少在安全范围内）。显然，AI 并无「人性」，无论执行何种任务，都「无怨无悔」，远超人类。在劳动力被 AI 取代的世界将呈现：金钱将比以往在现实世界中买到更优的结果。人们的劳动比以往任何时候都缺乏影响力。劳动致富变得几乎不可能。在各国内部或之间，无法实现资本的根本性平衡。这意味着，当能替代劳动力的 AI 出现时，拥有大量资本的人将具备永久性优势。他们将拥有比当今富人更大的权力：只要自由体制依旧强大，他们不一定凌驾于人民之上，但至少在物质与精神层面将更具权势。此外，没有新兴势力能击败他们，因为资本现在可轻易转化为任何领域的「超人」劳动力。此外，掌握权力的机构将不再有动力去关怀民众，以维持或增长其权力，因为真正的权力将完全源自 AI。然而，政治机构可能会坚决捍卫自由人文主义价值观。如果每个人都获得有意义的无条件基本收入（或类似措施），且经济保留以人为本的部分，或许能维持人们的购买力。往坏处设想，AI 亿万富翁将拥有近乎无限且不受约束的权力，成为永久的贵族阶层。阶级间的权力差异可能令现代人感到战栗，正如现代人无法认同封建等级制度一样。因为这就是权力与金钱激励导向的方向。智能诅咒基于 L Rudolf L 的理论，AI 治理专家 Luke Drago 进一步阐释了 AI 的隐患，他称之为：「智能诅咒」，即因 AGI 的出现，当权者将失去投资民众的激励。他认为 AGI 更像煤炭或石油等资源，而非犁、蒸汽机或计算机等工具。就像煤炭、石油等自然资源一样：发现并利用 AGI 需要巨额资金。少数玩家将控制 AGI，主要是开发 AI 的实验室及其所在国家。从 AGI 获取大部分或全部收入的国家与公司，不再依赖人类获取收入。AGI 将取代文明的上一代资源。对于煤炭而言，是木材；对于 AGI 而言，则是人力资源。一些国家虽然自然资源丰富，拥有天然收入