硅谷AI伦理困境：从向善初衷到商业现实
科技专栏作家保罗·福特在《纽约时报》上发表了一篇文章，揭示了硅谷公司在人工智能（AI）发展过程中所面临的道德挑战，并指出AI公司在实践中遇到的使命级考验。
“公司终究是以盈利为目的的。人本主义的目标会被数据驱动的指标所取代。‘行善’的理念或许能团结人心——然而，‘善’最终变成了一个充满争议的界限，两侧是愤怒的人群。一家AI公司或许怀揣向善的愿望，但它无法单凭一己之力实现。它需要通过明确的规则和法规来引导。”
最显著的例子莫过于OpenAI，它最初的愿景是成为一家以向善为本质的公司，并以.org非营利组织的形式运作。然而，当它发现了数字金矿的巨大潜力后，随之而来的戏剧性转变令人目不暇接。今年2月，OpenAI悄然修改了其使命宣言，放弃了2015年成立之初“研发非营利性、造福人类的AGI”的初衷。这一举动引发了网友的普遍不满和吐槽。
知名业内人士Peter Girnus在X平台上发帖，以一种讽刺的口吻列举了OpenAI的“七宗罪”。在其最初63字的使命宣言中，“安全”和“不受约束”是两个关键要素。而最新的13字版本则变得含糊不清，仅提到“确保AGI惠及全人类”。“安全”作为OpenAI制度性承诺的存续时间仅为两年，这比一届国会任期或一份汽车租赁合同还要短，但却比大多数安全团队的存在时间还要长……
当前，AI正以前所未有的速度发展，它既拥有非凡的能力，也潜藏着大规模的危害。AI的训练过程“吞噬了世界上所有的文字”，并消耗大量的能源和水资源。从OpenAI离职后创立Anthropic的达里奥·阿莫代伊，与山姆·奥特曼的情况并无二致，两人相互指责对方进行“恐慌式营销”，利用人们的担忧情绪，夸大产品的实际能力，其目的在于将AI技术仅掌握在少数精英手中。
这些主流AI公司都面临着同样的困境：以服务公众的使命作为起点，但在规模化扩张的过程中，却要应对内容审核、法律诉讼以及IPO带来的商业压力。
如何才能让AI公司具备道德操守？
Is there such a thing as a good A.I. Company? Not really!
整个美国的科技文化建立在两个核心概念之上：颠覆性创新，以及规模化发展。然而，道德伦理恰恰是对这两者的制约。
作者：保罗·福特
《纽约时报》2026年4月26日
https://www.nytimes.com/2026/04/26/opinion/ai-company-good-altruism.html?unlocked_article_code=1.eFA.gJdI.SSc9G2pAraEG&smid=url-share
AI技术或许令人惊叹，但其底层原理却远非温和，甚至带有一丝令人不安的特质。它吸收了世界上所有的文字，从博客到书籍，并且常常是在未经许可的情况下进行的。它消耗相当于整片森林的能源，将这些原材料转化为其庞大的模型，并消耗数十亿加仑的水来为服务器降温。
这些特质与哥斯拉颇为相似，只是表现形式更为分散。“kaiju”（日语，意为“怪兽”）这个词恰好包含了“AI”这两个字母，这是否是一种巧合呢？
仅仅依靠贪婪，并不能让硅谷发展到今天的地步。事实上，是伦理考量将它们引向了这里。那些大型AI实验室富有理想主义的创始人坚信，要阻止可能毁灭人类的超级智能威胁，唯一的方法就是创造一个与人类价值观对齐（aligned）、并且仍然热爱人类的AI。一只友好的哥斯拉或许能在坏的哥斯拉抵达东京湾之前将其阻止。
山姆·奥特曼、埃隆·马斯克等人联合成立了OpenAI，旨在构建世界的防御力量。他们建立了安全团队，这些员工日夜工作，负责测试聊天机器人（如同戳哥斯拉的蛋），以确保它们在孵化后不会对人类造成致命威胁。（OpenAI安全团队的负责人之一是达里奥·阿莫代伊，他于2020年离职，创立了更侧重于价值观对齐的公司Anthropic。）
公司终究是以盈利为目的的。人本主义的目标会被数据驱动的指标所取代。“行善”的理念或许能团结人心——然而，“善”最终变成了一个充满争议的界限，两侧是愤怒的人群。一家AI公司或许怀揣向善的愿望，但它无法单凭一己之力实现。它需要通过明确的规则和法规来引导。
早期相当一部分AI思想源于“有效利他主义”运动，该运动倡导通过追求研究驱动的慈善事业来最大化个人能做出的善事（一位著名的实践者是深陷囹圄的加密货币企业家萨姆·班克曼-弗里德）。这并非一个简单的信条，但该意识形态很大一部分是围绕防止人类面临的长期威胁而展开的。
例如，如果你相信AI能够拥有足够的自我意识来修改自身并变得更聪明，那么你可能会设想它会将自己修改成能够完全掌控全球所有数字资源的状态。
你，作为一个聪明、略显书呆子气的人，能做些什么来阻止这一切呢？只有一件事：首先构建你的超级智能，并确保它像你一样善良。无论你采用何种方法，它们似乎都显得合乎情理——启动加密货币项目，可能违反版权法以便你能用互联网上所有盗版文本来训练你的模型，在劳动力市场制造巨大的波动，或者提高地球的温度。
阻止一场AI灾难，其重要性不言而喻。
十年前，这在硅谷是司空见惯的对话——一种傲慢而书生气十足的思维模式，一个庞大而昂贵的思想实验，像马斯克先生和斯蒂芬·霍金这样的人物会在此发表关于AI必须如何为服务人类而构建的观点。
然后在2022年底，人们意识到ChatGPT能够完成他们的家庭作业。整个行业因此爆发式增长。
快进到如今：近十亿人正在使用ChatGPT。一枚价值数万亿美元的经济炸弹已被投向世界。最响亮的声音认为，AI要么会摧毁劳动力市场——创造一个失业的反乌托邦，要么会迅速暴露其虚假本质，成为一个巨大的泡沫。要么，它将很快自我揭示为一个巨大的骗局和泡沫。
每周都有关于这些公司应该被允许做什么和不应该被允许做什么的新争端。Anthropic正在起诉联邦政府的多个机构，包括国防部；马斯克先生正在起诉OpenAI；《纽约时报》正在起诉OpenAI和微软。与AI相关的诉讼案件堆积如山，多到你需要AI来跟踪它们。
公众舆论已达沸点，常常聚焦于日益增多的数据中心，它们如雨后春笋般出现在美国地图上。有人向奥特曼先生的住所投掷燃烧弹。说来颇具讽刺意味，对于一个旨在保护人类的道德运动而言，这是一个令人不安的结果。
在观察科技行业以及大公司从小团队成长为全球巨头的三十多年里，我观察到了一个反复出现的模式：道德伦理难以规模化。
科技公司喜欢以使命为起点。谷歌旨在连接世界信息；微软希望让每台电脑都配备一台PC；推特希望赋予每个人发表观点的平台。这些都是美好的愿景——足以成为TED演讲的主题。然而，用户会带着他们自己的信仰和想法蜂拥而至，数量可达数百万。作为科技公司的创始人，你最终会付出巨大的努力来约束用户的行为（并阻止他们违法）。随之而来的是诉讼，指控你做错了事，其中一些仅仅是因为你是一个容易攻击的目标。
在此期间，巨额资金不断涌入。你起初可能很透明，分享你的发展历程，但在IPO之前，你必须遵守美国证券交易委员会（SEC）规定的静默期，限制促销性沟通。在那之后，透明度便荡然无存。市场要求股价持续上涨。你的公司仍然生产大量软件，但大量时间却花在了税务策略和合规性问题上。
在那个规模下，人开始变得模糊不清，人类用户可能被抽象化为统计群体和波动的增长向量——你产品生长的土壤。
整个美国的科技文化建立在两个核心概念之上：颠覆性创新，以及规模化发展。然而，道德伦理恰恰是对这两者的制约。那些真正受到道德伦理约束的组织——例如美国的司法系统、美国医学会、天主教会——都面临着严格的规模化限制。它们的规则根深蒂固，其服务要求极其繁重，以至于只有极少数人能够胜任。对违规者的惩罚包括吊销执照、革除圣职和取消律师资格。软件行业的人员可能拥有优秀的学位，也常常是善良的人，但他们是在摸索前行。他们不宣誓，认证标准不统一，最多不过是被解雇，而无法被逐出行业。
OpenAI最初的目标是成为一家本质上向善的公司，并以.org非营利组织的身份运作。然而，它在大型语言模型领域意外发现了巨大的数字金矿。为了进一步开发这项技术，它痛苦而尴尬地转型为一家.com营利性公司（OpenAI表示其营利性部门仍由原非营利实体监督）。随之而来的戏剧性转变令人目不暇接。奥特曼先生公开呼吁行业监管，但OpenAI也曾游说反对监管——例如，支持一项伊利诺伊州的法案，该法案若获得通过，将限制AI公司在群体性死亡事件中的责任。
但监管绝对符合美国以及大型AI公司自身的利益。让我再补充两个人们应该了解的术语：“谷歌归零”（Google zero）和“模型崩溃”（model collapse）。
“谷歌归零”（由The Verge主编尼莱·帕特尔创造）指的是谷歌停止向网站发送流量，而是直接提供AI答案。当这种情况发生时，网站获得的流量减少，广告销量下降，收入也随之减少。结果，它们可能无法生产同样多的内容。
模型崩溃与此相关：当AI模型耗尽可供消化的知识时会发生什么？然后呢？它们会重新消化自己生成的文本吗？它们会就此停滞不前吗？
硅谷类型的人喜欢说数据是新的石油。我认为这在两个方面是正确的：数据具有价值，但它也是一种商品，而这些新的AI工具是基础设施。我们对电网进行监管，那么为什么不以同样的方式监管这些呢？
在这个新世界里，有太多新事物需要监管：深度伪造、AI责任、版权规则、模型偏见担忧以及生态成本位居榜首。我们还需要保护数字公共领域，激励人们在线写作和创造。因此，需要一部非常冗长的AI法案，而国会很可能会利用ChatGPT来起草它。
冒着可能被视为不切实际的风险，我建议将该法案命名为《维护美国创造力、就业和团结法案》，或者，《怪兽法案》（KAIJU Act）。
我希望最终法案的起草者能够考虑对网络环境进行一些修复，就像恢复湿地一样——即使没有别的理由，我们也应该用健康的交流来喂养AI哥斯拉，以帮助平息它们因核爆式发展带来的怒火。