主体性、评价标准与概念问题：人工智能为何无法完全超越人类智能
本文为笔者发表在 PhilArchive 上的论文预印本 [J. Cheng, "Agency, Evaluation Criteria,Concept/ProblemFormation,andthe Limits of Artificial Intelligence: Why Artificial Intelligence Can Never Fully Surpass Human Intelligence," PhilArchive, https://philpapers.org/archive/CHEAEC-3.pdf] 之摘译。
"Computers are like humans - they do everything except think."-- John von Neumann
"No computer has ever been designed that is ever aware of what it's doing; but most of the time, we aren't either."
-- Marvin Minsky
人工智能（AI）能否彻底胜过人类智能？随着AlphaGo、AlphaGo Zero和大型语言模型（LLM）等系统的卓越成就，这个问题变得日益突出。许多研究人员和评论员认为，计算能力的持续进步最终将带来通用人工智能（AGI），甚至可能是超级智能。
本文认为，当前关于人工智能优越性的讨论过度关注智能，而忽略了三个更为根本的问题：主体性、评价标准、和概念/问题形成。本文区分了智能和主体性，并提出了"主体性优先论题"。根据该论题，智能以主体性为前提，因为任何有意义的问题解决活动都需要一个能够设定目标（问题）和评价标准的行为主体。基于此框架，本文提出了四个核心论点：（1）主体性优先论题，即智能以主体性为前提；（2）评价标准论题，即问题解决以评价标准为前提；（3）评估者论题，即评价以评估者为前提； (4) 概念/问题提出论题，该论题认为，提出真正全新的概念/问题比解决预先设定的问题需要更高阶的智力能力。基于这些论题，本文提出并探讨了人工智能完全超越人类智能的三个必要条件。文章指出，计算系统无法独立设定目标（问题）、生成评价标准、或创建真正全新的概念框架。因此，人工智能完全超越人类智能的三个必要条件均无法满足。
文章最后得出结论：人工智能系统可以极大地扩展和增强人类的认知能力，但它们无法完全超越人类智能。其根本限制并非计算能力，而是缺乏自主性。
1. 绪论
人工智能（AI）能否完全超越人类智能？
自20世纪中叶人工智能作为一门工程学科兴起以来，这个问题一直是计算机科学、认知科学、哲学乃至整个社会中最重要也最具争议性的议题之一。过去十年人工智能系统取得的显著成就进一步加剧了这场争论。AlphaGo和AlphaGo Zero在围棋比赛中的胜利、大型语言模型（LLM）的快速发展以及生成式人工智能系统能力的不断提升，促使许多研究人员和评论家推测，通用人工智能（AGI）乃至超级智能最终可能会出现。
一些研究人员认为，人工智能超越人类智能似乎只是时间问题。根据这种观点，计算能力、学习算法、模型架构和数据可用性的持续进步最终将使人工智能系统在所有认知领域超越人类。一旦跨越这一门槛，人类智能可能会像人类计算能力长期以来逊于计算机数字计算一样，最终被人工智能所取代。
本文基于笔者先前在强相关逻辑、面向科学发现及预测的认知编程、自动定理发现等领域的研究工作[1-13]，对上述结论提出质疑。
本文的目的并非否认当代人工智能系统取得的卓越成就，也并非试图预测未来的技术发展。相反，本文旨在探讨一个更为根本的概念性问题：
人工智能完全超越人类智能究竟意味着什么？
本文的核心论点是，当前关于人工智能优越性的讨论过度关注智能，而忽略了三个更为根本的问题：主体性、评价标准和概念/问题形成。
这种忽略导致人们对人类智能与人工智能之间的关系产生了误解。
大多数讨论都隐含地假设智能是首要概念，而主体性要么是次要的，要么是无关紧要的。本文则持相反观点。本文认为，主体性在逻辑上先于智能，因为任何有意义的问题解决活动都预设了一个能够设定目标（问题）和评价标准的行为主体。
因此，在探讨人工智能能否超越人类智能之前，首先必须回答一个更为根本的问题：
人工智能系统等能否成为真正的自主主体？
这个问题受到的关注远不及关于智能、推理、学习或意识等问题。然而，它或许是所有问题中最重要的一个。
本文从主体性的角度分析人工智能，并论证了关于人工智能完全优越性的主张需要满足三个必要条件：概念和问题提出方面的优势、问题解决方面的优势以及自主目标形成。
本文认为，计算系统无法独立地设定目标（问题）、生成评价标准或创建真正全新的概念框架。因此，人工智能完全优越性的任何一个必要条件都无法得到满足。
本文的贡献体现在四个方面。
首先，本文区分了智能和主体性，并提出了主体性优先论题，该论题认为智能以主体性为前提。
其次，本文提出了评价标准论题和评估者论题，该论题认为问题解决以评价标准为前提，而评价又以评估者为前提。
第三，本文引入了概念/问题提出论题，该论题认为，提出真正全新的概念/问题比解决预先设定的问题需要更高阶的智力能力。
第四，本文基于主体性理论，对人工智能能够完全超越人类智能的说法进行了批判。
本文余下部分结构如下：第二节回顾了几种有影响力的人工智能研究方法，并阐明了本文方法与它们的区别。第三节介绍了贯穿全文的基本概念和术语。第四节点基于主体性、评价标准和概念/问题形成，构建了理论框架。第五节至第九节将该框架应用于人工智能优越性问题。第十节总结了结论，并讨论了其对未来人工智能研究的启示。
10. 结论
本文探讨了当代人工智能讨论中最重要的问题之一：人工智能能否完全超越人类智能？
分析表明，仅仅关注智能本身并不能充分解答这个问题。相反，必须考虑三个更为根本的问题：主体性、评价标准以及概念/问题的形成。
本文提出了四个核心论点。
论点一：主体性优先论点
智能的前提是主体性。任何有意义的问题解决活动都预设了一个能够设定目标和目的的行为主体。
论点二：评价标准论点
问题解决的前提是评价标准。只有符合评价标准，才能将解决方案视为成功。
论点三：评估者论点
评价的前提是评估者。评价标准必须由评估者制定、解释和应用。
论点四：概念/问题提出论点
提出真正全新的概念/问题比解决预先设定的问题需要更高层次的智力能力。科学和思想革命往往源于新的问题，而非新的答案。
对人工智能的启示
本文的结论并非暗示人工智能不重要。恰恰相反，人工智能代表了人类历史上最重要的技术发展之一。人工智能系统已经对科学、工程、医学、教育、工业和通信等领域做出了贡献。它们的能力几乎肯定会继续增强。然而，能力的增强不应与主体性混淆。人工智能未来的重要性主要在于它作为人类主体智力活动的延伸，而非取代人类智能。
对通用人工智能（AGI）的启示
该分析也对通用人工智能的研究具有启示意义。目前的讨论通常假设，智能的增强最终会产生自主智能体。本文认为这种假设是不合理的。主体性、评价标准以及概念/问题的形成需要独立的解释。在这些问题得到解决之前，关于超级智能的论断在概念上仍然是不完整的。
对人工智能风险的启示
本文提出的结论也挑战了关于机器统治的常见论述。如果人工智能系统缺乏自主性，那么与人工智能相关的最大风险并非源于机器的意图，而是源于人类主体的意图。因此，最严重的危险在于：人工智能的滥用、不负责任的部署、权力集中以及治理不善。风险的主要