人工智能须停止伪装人类方能真正服务
我的职责时常驱使我审视新兴科技，剖析其设计哲学、目标受众、治理模式、受益方以及最终代价的承担者。正是这种持久的质疑态度，让我屡屡成为技术浪潮中的迟来者。去年，我开始严肃地思考：是否存在一种合乎伦理并遵循女权主义理念的人工智能？是否存在一种技术，能让女权主义者与人权活动家参与其中，却无损于我们的政治立场或对交叉性人权事业的承诺？
这种审慎以及对每一波技术新潮都保持距离的态度，源于我长期观察科技公司的运作方式。它们一再证明，其首要考量是商业利益，而非用户福祉。“参议员，我们经营的是广告业务，”正如马克·扎克伯格所言。然而，除了这些公开言论，闭门会议中的对话更耐人寻味。例如，在一次人权会议上，我曾询问一位科技公司代表，他们的社交媒体平台如何辨别广告中的有害与无害互动。对方的回答是：“我建议用户阅读我们的服务条款。”在一个与会者都曾深入研究科技商业模式的房间里，假定人们未曾读过这些条款，这让我深刻意识到，人们对于有意义的互动、透明度乃至问责制，是多么缺乏兴趣。
因此，当我质疑人工智能能否真正符合伦理或女权主义原则时，即便是在设想中的理想情境里，我的怀疑也并非源自无端的悲观，而是基于多年来目睹的模式的不断循环。那些“做得更好”的承诺、精心设计的责任话术以及所谓的“倾听”，都未能从根本上改变这些系统的构建逻辑与服务对象。相反，它们更清晰地揭示了一个事实：在捍卫自身权利方面，我们主要只能依靠自己。没有哪个政府或科技巨头会主动站出来，为我们或与我们并肩守护这些权利。
所以，当我们探讨以人权为本的人工智能路径时，这意味着我们必须对抗并拆解那些刻意构建以服务权力而非民众的系统，并拒绝接受这是技术存在的唯一形态。
挑战科技的现状，其前提不容回避：科技并非中立。它积极巩固了许多人世代所处的父权制与殖民主义权力结构——一个强大的实体（此处即科技公司）决定了人们的社交互动模式，而公众则被要求无条件遵从。这些系统由特定的行动者在特定的地点，秉持着特定的世界观所创造。因此，谁在建造、谁在掌控、建于何处、谁有权定义“黄金标准”、以及谁被期望服从以维持系统运转，都至关重要。这一切都塑造了权力如何影响叙事与个体生活。
我们首先必须承认，科技从来不是中立的。所谓“中立”更像是一种营销话术，而我们许多人却信以为真。因为任何系统都承载着其构建者与所属机构的价值观、优先级与偏见。人工智能也不例外，它建立在反映世界现状的基础设施上，并依赖反映世界现状的数据进行训练——而这个世界常常充满不平等、偏见与暴力。随后，它以更大的规模复制这些模式，并披上一层权威外衣，使其更难以被质疑。
以训练数据为例。这些系统需要从互联网抓取海量信息，范围从公共记录到我们甚至未曾察觉的日常互动。这些数据本身已烙印着排斥、种族主义、性别歧视与经济不平等的历史痕迹。人工智能从中学习时，会编码甚至放大这些信息，然后将其作为中立的结论呈现给我们。那些被标记为“智能”的内容，往往只是更高效地重复既有信息。
此外，还有企业偏见，它比公共机构的偏见更为隐蔽。构建这些系统的公司并非带有自身偏见的公共机构；它们是追求利润的实体，背负着股东利益与增长目标。这决定了从哪些问题值得解决到系统部署的速度等一系列决策，而部署过程常缺乏对后果的充分考量。谁的土地将被征用以建设那些带来持久生态影响却能提升股东价值的大型数据中心？谁的知识将被窃取和挪用，用于企业竞逐最先进的人工智能模型？谁的生命会被贴上“附带损害”的标签？更确切地说，谁会因质疑这些系统所承诺的创新而被压制到沉默与隐形？
这一切使得不平等更难追踪，因为它被层层算法、代码、自动化、复杂性与精心设计的营销策略所掩盖。数字世界延续了现实世界的问题，且往往更难以察觉和挑战。
或许最令人忧心的是，人工智能加剧了人性的消解趋势。尤其在军事化场景中，人被简化为数据点，成为需在几秒内识别、追踪和清除的目标。生死攸关的决策越来越多地交由那些不理解背景、历史或人性的系统执行。将人简化为输入与输出、待处理的信号、待达成的目标，使得在报告与简报中为所造成的伤害辩护变得更加容易。死亡与破坏转化为成功率，人被简化为档案中的数字，这是一种关乎我们如何看待人类生命的、刻意的政治选择。
不可能是我们。
所有这些都助推了一种日益流行的论调，即人工智能终将取代人类。但若我们冷静审视现实，便会发现此观点站不住脚。人工智能能够识别模式、处理海量数据、生成令人信服的回应并模仿人类语气。但它无法成为真正的人。它无法理解我们所处的语境，无法感受关怀，无法维系人际关系，也无法体会生命的厚重。
复制模式以模拟类人的联系，并不等同于真实的人际交往。它并非源于理解或共情，而是基于系统输入的数据，通过统计推测进行预测。当我们开始将这种预测等同于人际互动时，最终会贬损人与人之间真实联结的价值。关怀、社区构建、抗争、同理心、喜悦、相互扶持——这些都无法自动化实现。
即使是科技讨论中不断浮现的“有意识的人工智能”概念，通常也只是对更复杂预测系统的重新包装。归根结底，这些模型仍基于数据决定的概率生成输出。它们既不知晓自己在说什么，也不理解后果，因为它们不对其他生命体承担责任。这种区别至关重要，尤其当这些系统被定位为决策者，而其决策深刻影响人们生活之时。
或许，这正是症结所在。当我们开始相信人类可被替代，便更容易接受那些已将人视为数据点的系统，无论是在研究、招聘、警务、医疗、福利还是战争领域。将人简化为生产要素的逻辑，同样使他们变得可有可无。因此，反驳这种论调的关键在于坚持：人类的生命、同理心、经历、现实与人际关系，都无法被简化为机器可模拟和优化的对象。
如果我们真想认真构想一种以人权为导向的人工智能路径，首先必须摒弃技术可取代我们、凌驾于我们或定义“人”之意义的观念。它不能，也不应如此。因为这项技术所依赖的一切——土地、环境、资源、时间、能源、整个生态系统——都来自一个为所有生命（人类、植物、动物）存在的世界。早在这些系统被构想之前，生命已栖息于此。重新审视这种关系意味着认识到，人工智能绝不能以牺牲生命、尊严或维系生命存续的根本条件为代价。
问责的必要性。
然而，保护我们世界的责任不能强加给那些最无力塑造这些技术的人。如今，决策在我们大多数人永远无法进入的房间里做出，而我们却要承受其后果。人权视角意味着挑战这种不平衡，并坚持权力所在之处必须承担责任。
或许这也意味着，我们应从一开始就保持警惕，不是在伤害造成后才反思，而是在技术被引入并商业化的那一刻便该如此。尽早提出一些令人不安的问题符合我们的利益，例如：这项技术从何而来？谁创造了它？它如何运作？谁才是真正的受益者？因为如果我们不这样做，最终我们会接受这些系统，仿佛它们不可避免，而非一种选择。如此一来，我们便忽略了一个根本理念：未来应围绕生命构建，而非为机器优化。