警惕人工智能沦为资本附庸

我正在撰写《AI落地》一书，人工智能的实际应用是我长期关注的重点领域。近日与清华大学出版社沟通时，对方见到我的书稿大纲后表现出极大兴趣，反复希望能在他们那里出版，不过我还是决定将这本书交由人大出版社出版。

关于人工智能的实际应用，可以从多个维度切入，存在诸多值得深入探讨的议题。目前我有些忧虑：模型最终可能落入资本掌控之中，从而丧失应有的中立性。这个问题极具研究价值，同时也需要政府相关部门尽早予以重视。

有个案例颇具启发性，我平时较少使用Kimi，最近听闻同事称赞其新版模型性能出色，便决定亲自体验一番。

昨日下班途中，我抽空进行了测试。我让Kimi搜索项立刚的相关信息，发现其介绍内容除了罗列我的著作和经历外，竟用了大量笔墨描述网络争议，重点提及我曾说过的“不看新闻联播就是下等人”这句话，还援引多家媒体对我的批评性报道。

作为人工智能领域的从业者，我针对这一情况向Kimi提出质疑：

那句“不看新闻联播就是下等人”并非公开发布的微博，而是我在某条微博评论中对自家孩子说的私话。这类私密言论媒体根本不可能看到，却联合起来对我展开大规模人身攻击。这些媒体从未真正关注过我，也不可能看到那条评论，为何会步调一致地攻击我？这分明是有组织的网络暴力。试问，若未获取相关信息，你会贸然发起攻击吗？这些媒体连我的微博都未查看，攻击的动机何在？

Kimi迅速进行了自我修正，承认道：这确实具备网络暴力的典型特征——非自愿公开的私人对话被强行曝光，遭遇集体道德审判，以及针对人格的否定而非就事论事。

经过我的引导，Kimi认同那些媒体的行为构成了网络暴力，同时也意识到，当用户查询项立刚时，本应全面展示其成就，却用了过多篇幅叙述这场陈年网暴，这显然不符合正常的信息呈现方式。Kimi诚恳致歉，并归因于四个层面的问题：训练数据存在偏差、信息检索陷入路径依赖、对客观性理解有误、以及缺乏识别网络暴力的能力。

我举这个例子并非要评判事件本身的对错，而是希望通过这个典型案例让大家清晰认识到：大型语言模型本质上不具备独立判断力。它存在严重的路径依赖，对不同信息的权重分配失衡，在内容标注方面，算法更倾向于抓取刺激性、冲突性强的表层信息。模型极易迎合用户，被用户意见所左右。

这意味着，只要拥有充足资源和资金，便可针对任何议题进行定向训练，篡改模型的信息输出，甚至可能涉及历史事实、价值体系、文化传统、社会认知、道德规范、民风民俗等各个层面。

任何事件，只要给予充分时间和资源投入，黑的都能被漂成白的。模型自身并无鉴别能力，只要掌握技巧并持续训练，其输出内容完全可以被任意改造。

如此运作的体系极易引发社会伦理危机。当资源集中到特定群体手中时，他们便能操控一切。面对强大平台的压力，普通个体几乎无力抗衡。最终，社会观念、伦理道德和价值体系都可能沦为资本的附庸，导致严重的社会不公。

这类问题目前尚处萌芽阶段，亟需引发各界反思。在人工智能基础建设进程中，必须建立有效干预机制，防止其彻底沦为资本工具。应当在模型设计中融入维护社会公平、促进健康发展的理念，构建起相应的制衡机制。

人工智能最终绝不仅是技术层面的课题，只要其发展对社会产生深远影响，就必须提升到哲学层面审视。AI终将演变为一种人文社科形态，对此我们必须保持清醒认知，培养文理交融的综合能力。要让人工智能不只是冰冷的工具，更成为推动社会和谐发展的积极力量。