AI浪潮下的人类抉择：直面冲击、管控风险与坚守人本

发布时间：2026-06-11 11:58阅读：1

赵福全1、刘宗巍1、刘兆鹏2、何伟2

（1.清华大学；2.盖斯特管理咨询公司）

【编者按】

AI（人工智能）的迅猛发展与广泛渗透，正在引领一场深刻的时代变革。这场技术革命既为社会进步、产业升级、企业转型和个人成长开辟了广阔的发展空间，也带来了认知变革、岗位调整、管理创新、社会治理等多重挑战与潜在风险。机遇与挑战并存，红利与变局交织，在AI加速落地的关键时期，每个人、每家企业、整个社会都必须直面一系列核心问题：个人如何借助AI赋能、规避被替代的风险，稳固自身不可替代的人文价值？企业如何把握AI变革的本质规律，跳出盲目布局、低效应用的困境，实现经营模式与价值创造的迭代升级？社会如何平衡技术创新与安全底线、坚守人本核心，推动AI产业规范、健康、可持续发展？

针对当前AI时代的种种困惑与转型难题，赵福全教授撰写2万余字重磅长文——《AI时代的特征、机遇、挑战与应对》，以宏大的全局视野和深刻的底层思考，系统解答了AI时代的核心命题。全文层层递进、逻辑严密，不仅阐述了AI的本质属性、基本特征、深远影响与发展方向，还剖析了AI带给人类社会的巨大机遇与严峻挑战，更为各类主体认清趋势、应对变局、落地转型提供了一套完整、可操作的认知体系与行动方案。

因全文体量较大、内容深厚精深，为方便阅读，我们将全文拆解为6期系列连载，持续推送。此篇为第3期，诚邀各位读者关注和追更，以助系统了解AI时代变革的底层逻辑，明辨转型路径、从容应对变局、把握时代先机。

【精彩观点】

“AI是一把'双刃剑'：它既是认知的增强器，也是认知的卸载器。”

“人们将越来越依赖AI获得信息，AI提供的信息具有离散性和随机化的特点，且常常伴随着一系列错误，这些参差不齐的碎片化信息将直接影响人类掌握知识的系统性和准确性。”

“人类对知识的记忆其实是一个知识提炼的过程，因为人类是通过学习、思考和实践来理解、记忆知识的。”

“在现实社会的竞争中，具有高阶思维能力、拥有更高认知的人永远都会碾压那些低阶思维、低认知的人。而AI将把这一点彻底放大。”

“一旦AI失去控制，不仅会给我们的生产生活带来灾难性的冲击，而且最终可能会危及人类的主导地位甚至生存延续。因此，必须给AI设置明确的红线。”

“人并不是要与AI对抗或者比拼能力，而是要回归自身独有的价值，即只有人能体验、能感受、能享受，并由此筑牢人类的思想主权。”

【正文】

AI对人类的冲击、风险

及其应对

1.理性看待AI：收益与风险并存

需要强调的是，AI的发展既能带来巨大收益，也会产生诸多风险。而笔者认为，这种收益与风险在本质上都源于AI对人的影响以及由此引发的人机关系的改变。简言之，AI是一把“双刃剑”：它既是认知的增强器，可以帮助人类处理海量信息并提供决策辅助，成为人类大脑能力的延伸，从而帮助人类突破固有的认知壁垒；同时它也是认知的卸载器，人类如果过度依赖AI来获取“标准答案”，就会弱化自身独立深度思考和批判性思维的能力，从而削弱人类的认知能力。所以，我们一定要在二者之间把握平衡，既要利用AI来提高知识获取的广度、深度和效率，更要有意识地加强深度思考，并保留最终的判断权和决策权。也就是说，一方面，我们要充分利用AI工具来快速全面绘制未知领域的全景图；另一方面，对于风险判断、路线选择等必须深入思考和慎重决策的重要工作，我们要做到自行主导完成。

2.AI对人类的冲击：全面深刻、潜移默化

下面具体剖析AI对人类的冲击，笔者认为主要有以下四个方面的风险。

一是知识体系面临挑战。由于AI工具的强大和便捷，人们将越来越依赖AI来获取信息。但AI提供的信息具有离散性和随机化的特点，且常常伴随着一系列错误（所谓“AI幻觉”），这些参差不齐的碎片化信息将直接影响人类掌握知识的系统性和准确性。事实上，AI使人类主动、独立思考和探索的高阶能力面临急剧下降的风险，而系统性、批判性、独立性思维恰恰是人类形成主观判断力的关键。从这个意义上讲，AI绝不是简单的工具革新，而是会与人类争夺认知主导权。

二是记忆价值明显弱化。AI可以让人快速、方便地获取各种知识，这似乎会导致人类记忆知识的价值锐减。然而记忆一直是人类智能的基础，更是人类做到融会贯通和触类旁通的前提。如果套用大模型的术语，人类对知识的记忆其实是一个知识提炼的过程，因为人类是通过学习、思考和实践来理解、记忆知识的。所以，人类在AI时代仍然需要自主记忆一定的知识，这是我们掌握了这些知识的一种体现，其重要性甚至可能更胜从前。试想如果我们脑袋空空、没有知识储备，那又如何与AI互动？如何正确判断AI输出的内容？如何利用AI去创造发明呢？在此笔者想强调的是，尽管AI使知识的获取变得便捷化和低成本，但这与我们需要自行掌握知识并不矛盾。当然，我们也不能有意排斥AI，而是应该充分利用好AI来赋能我们学习知识的过程。同时，我们必须彻底告别“死记硬背”的学习方式，更强化对知识的理解式“记忆”，这才是AI时代掌握知识的最佳方法。总之，我们必须清醒地认识到：使用AI进行学习和工作是不可逆转的大趋势，最终不是AI淘汰谁，而是那些懂AI、善用AI的人取代那些不懂AI、不用AI的人。

三是认知过程缺失、知识面趋窄。AI端到端的输出模式使其给出的结果具有不可解释性，这让人“只知其然、不知其所以然”；同时，AI往往基于个性化推荐算法投喂式地向人提供感兴趣的内容，这又容易让人陷入到“信息茧房”中。由此人类的认知过程将逐渐缺失，这会导致人的技能空心化、应变能力退化，只能被动接受AI的输出；也会导致人的知识面趋窄、志趣单一，变得越来越无聊、也越来越圈层化。反过来，这又将进一步加速知识密集型岗位被AI全面替代的进程。

四是人机界限渐趋模糊。综上所述，AI一方面将给人类带来前所未有的知识平权，使普通人都可以快捷获取各种知识，另一方面又将造成人类的思考能力日益退化。而人类高阶思维的退化和情感向AI的迁移，会导致人越来越像机器一样“短平快直”地思维，使人的心灵力量逐渐“枯萎”。更有甚者，随着AI能力的提升，人类正逐渐将道德和伦理“算法化”，把这些凸显人类底色的核心价值取舍外包给AI来判断和处置。例如自动驾驶车辆遇险时应该优先保护谁等决策，都直接由AI来作出。表面看，这为人类解决了诸多难题；但实际上，如果没有合理的前期设定和过程监管，任由AI决定各种事宜，很可能会导致人类价值观淡漠、社会责任感下降等一系列问题。总之，上述人机界限渐趋模糊的情况意味着人的思想很容易被忽略、贬值甚至遗弃，由此社会将形成大量的“知识浮游者”——只知道对内容无限摄取，却缺乏辨别和判断的能力，任由AI“妄言臆断”。

可见，AI时代最可怕的并不是技术发展得有多快，而是人类会不会因此而丧失高阶思维能力。由此，人类也将首次面对世界“谁主沉浮”以及“何以为人”的严峻问题。笔者始终认为，在现实社会的竞争中，具有高阶思维能力、拥有更高认知的人永远都会碾压那些低阶思维、低认知的人。而AI将把这一点彻底放大。那些“滥竽充数”“随波逐流”的人或将由于缺乏思想而沦为AI的“宠物”，并最终被AI时代所抛弃。对此，我们每一个人都要有清醒的认识。

3.AI对人类的威胁：亟待划清红线

由于AI具有空前强大的能力，关系到世界各国未来的核心竞争力，因此当前全球范围内的AI竞赛已经开启。主要国家和地区纷纷倾注海量资源，持续推进AI加快发展，唯恐落后于人。然而在全球发力AI“军备竞赛”的同时，作为硬币的另一面，AI已经开始对人类构成非常现实的威胁，且风险在不断加剧。很多顶级AI专家及企业家都在不同场合指出，一旦AI失去控制，不仅会给我们的生产生活带来灾难性的冲击，而且最终可能会危及人类的主导地位甚至生存延续。之前谈到有人将AI称为“人类最后的发明”，这充分彰显了AI的巨大潜力与价值，但笔者理解，这其实还有另外一层含义，即人类文明或将因AI而终结。

这绝非杞人忧天或者危言耸听。事实上，2025年9月全球数百位知名人士，包括多位诺贝尔奖和图灵奖得主在内，共同在联合国发布了《全球人工智能红线呼吁》（Global Call for AI Red Lines）倡议，呼吁尽快建立全球AI管控规则，给AI设定明确红线，包括：禁止AI未经授权就自我复制和改进；禁止AI冒充人类，伪造逼真的现实；禁止AI协助设计、获取、升级大规模杀伤性武器；禁止AI拥有自主发动致命攻击的权力等。毫无疑问，这些红线如果被逾越，必将造成全球秩序的混乱和失控，甚至导致人类的毁灭。

当前，人类正站在AI发展的历史“十字路口”上，各国都面临两难的抉择：如果过于保守，可能因AI发展滞缓而陷入落后或被动，在经济、产业、科技、资本、人才乃至安全等方面被竞争对手全面压制；而如果过于激进，虽然有望因AI发展迅猛而实现繁荣和领先，赢得企业、产业乃至国家的竞争优势，但也极易出现AI监管和治理滞后，对相关风险疏于防控，从而引发整个人类的灭顶之灾。

4.构建匹配AI发展的社会环境：保障安全、守护人本

尽管AI对人类的冲击乃至威胁日益凸显，但其重塑世界的趋势不可逆转，其战略价值更不容忽视，所以人类理应加强全球合作与协同共治，主动直面并系统应对AI带来的多元挑战。

一是主权安全挑战。由于支撑AI发展的大模型及其背后的基础数据涉及到各国政治、经济、国防、文化、历史、价值观等诸多核心要素，国家主权大模型的建设业已成为竞争的焦点。未来AI技术过度依赖他国、AI训练数据被恶意污染（所谓“数据投毒”）或者在国际AI规则制定中缺乏话语权等情况，都会危及一个国家的AI主权安全。为此，各国都必须担负起治理AI的主体责任，加快构建自主可控的主权AI战略体系：一方面要确保AI战略自主性，包括将本国历史文化、价值理念和法律法规、治理要求等深度内嵌于AI体系中，以筑牢AI基础设施主权，也包括实现技术自主可控，还包括保障数据主权等等；另一方面要提升AI的全球竞争力，积极争取国际标准制定权和全球规则话语权。

二是治理失控挑战。未来AI的应用会日益广泛深入，而一旦其治理失控，极易出现伦理失范、责任模糊以及决策不透明等风险，这将严重动摇人类的主导权甚至威胁到人类文明的存续。为此，我们在大力发展AI的同时，必须建立起以人本治理为核心的AI制度规则体系。具体来说，在伦理规范方面，要将人类的价值深嵌于AI之中，构建以人为本的伦理框架，努力确保AI与人类的价值观一致；在治理机制方面，要做好AI发展速度与安全的平衡，既不能因噎废食，也不能盲目冒进，同时要强化AI决策的可解释性；在法律政策方面，要明确人是AI应用方向及内容的唯一设定者，包括做什么事、为什么做、不能伤害谁等等，都必须由人来决定。

三是分配失衡挑战。如前所述，AI将催生出“强者更强、效率碾压”的全新格局，由此很可能会导致社会财富加速集中以及人类技能鸿沟化、就业两极化。为此，我们必须构建起资源分配的普惠共享机制。一方面要实现收益共享，如政府征收AI税来服务全社会，企业则承担起以AI收益培养人类员工的责任；另一方面要实现能力普惠，如企业拿出通过AI赚取的部分利润来建立免费的AI工具库等，以此惠及普罗大众。

四是价值迷失挑战。更进一步来说，AI还可能会带来人类意义消解、人性异化、文明退化等诸多风险。为此，我们必须重新确立人类文明的价值，以意义来引领文明的发展。一方面要锚定人的价值，人并不是要与AI对抗或者比拼能力，而是要回归自身独有的价值，即只有人能体验、能感受、能享受，并由此筑牢人类的思想主权；另一方面要坚守人本立场，重建对人类思想的信仰、对人类心灵的滋养以及对人类文化的守望。

总之，构建匹配AI发展的社会环境，既不是要保守地约束AI发展，也不是要激进地推动AI竞赛，而是要让人类在AI技术营造的类人镜像中，重新确认自身存在的完整意义，进而守护人本价值，再次确立人类的主导地位。也就是说，我们应该充分认识并积极挖掘AI的机遇与潜力，客观理性地看待并应对AI带来的冲击与风险，时刻以安全为底线，始终强调人的主体性，不断突破AI可能会对人类自身能力进化产生的抑制或禁锢，最终真正实现惠及全世界、全社会的AI科技向善。

未完待续，请继续关注《AI将重构企业经营范式》