AI愈强，人类更需坚守什么
编者按：迈入数智时代，人工智能以前所未有的深度与广度重塑着人类的生产与生活方式。在释放巨大发展红利的同时，也引发了价值偏差、伦理失衡等风险挑战。在此背景下，唯有紧跟AI发展趋势，打破认知局限、坚守人的主体地位、防范化解伦理风险，方能理性拥抱智能变革，促进人机和谐共生，增进人类共同福祉。为此，本刊特邀三位专家学者从不同视角展开探讨，供读者参考。
在廓清认知迷雾中
把握人工智能发展的时与势
杨建磊
《中华人民共和国国民经济和社会发展第十五个五年规划纲要》指出，要把握数字化、网络化、智能化发展大势，充分发挥我国数据资源丰富、产业体系完备、应用场景广阔的优势，激活数据要素潜能，加快数智技术创新，深化拓展“人工智能+”，赋能经济社会发展和治理能力提升，推动生产方式深层次变革和生产力革命性跃迁。“十五五”期间，依托新型举国体制优势与超大规模市场优势，围绕国家重大规划的前瞻性布局与超常规举措，我们必须抓住这一数智化发展机遇，开辟一条自主可控、集约高效的人工智能发展路径。
一、科学审视人工智能的技术本源与赋能逻辑
从计算机科学的本源审视，人工智能既非神秘的“数字生命”，亦非无所不能的“黑箱”。人类真正希望发展的人工智能，并非独立于人类的另一种“心智”，而是延伸人类能力与社会意志的技术系统。然而，由于缺乏对技术本质的了解，社会上出现了诸如“机器取代人类”的恐慌、“算法解决一切”的盲目崇拜等认识迷雾，若不加以澄清，极有可能导致战略误判。我们理解人工智能的前提，正是将其从“类主体”的神化叙事中剥离出来，回归技术体系本身。
二、深刻剖析我国人工智能发展的资源禀赋与面临的问题
正是基于对人工智能技术边界的客观认知与效能竞争趋势的全面把握，才能辩证看待我国人工智能发展所拥有的“时与势”，从而保持战略清醒，以强大底气直面现实软肋，以科学理性审视技术发展、激发内生动力，让人工智能真正成为驱动中国式现代化的强大引擎。
三、积极开辟自主可控、集约高效的人工智能发展路径
人工智能的发展不仅是技术的突破，更是人类认识和改造世界能力的飞跃。站在“十五五”新的历史起点上，我们必须将顶层设计与产业实践深度融合，在牢牢守住核心技术自主可控底线的同时，以更加开放的姿态推动技术与产业协同创新，探索一条符合国家战略导向的长期可持续的发展路径，推动人工智能与科技创新、产业发展、民生保障、社会治理等领域的深度融合，实现全方位赋能。
在深化人与技术关系的理解中
高扬人的主体性
王小伟
当前，人工智能走进千家万户，悄然融入人们工作、学习、生活的具体场景。与传统社会中那些经由长期沉淀而逐渐纳入生活的器物不同，智能产品日新月异，新的模型甫一出现，新的应用随即扩散。很多时候，我们其实是边用边介入，还没来得及清晰审查技术的风险，就已经深度使用了。基于此，今天讨论人工智能的影响，不能只把它看成一次普通的技术升级，或是又一个新鲜的技术产品，而是要更加清醒地看到，人工智能带来的不只是效率变化、成本变化和流程变化，亦是人的根本处境的深刻改变。人工智能技术越是深入日常，越深入地接管我们的判断，我们就越需要认真回答，在一个技术可以外包多种人的能力的时代，人如何才能捍卫自己的主体地位？这不是一个抽象的哲学发问，而是迫在眉睫的时代课题。
一
从科学技术与社会（STS）、应用伦理等角度出发，人工智能时代人的自我定位、人机关系边界正面临一系列现实挑战。比如，关于数字亲密问题。当越来越多的人向人工智能倾诉、依赖人工智能陪伴，真实关系中的等待、磨合、误解、责任和承受，就可能被一种更加没有阻力的“轻关系”所取代，这可能会导致真实人际关系疏离，社会情感联结弱化等问题。还有，关于能力接管问题。有人将写作、翻译、归纳、检索、编程等任务越来越多地交给模型完成，人的工具理性能力正在被逐步外包，这可能会带来认知能力下降等风险。另外，工作取代问题也很现实。自动化和智能化不断推进，将来有些职业可能消失，一些体力劳动和基础脑力劳动可能贬值，社会结构也将重组。这些问题构成了学界业界关于人工智能伦理讨论的重要内容。但仅仅把人工智能的挑战理解为应用层面的伦理风险，是远远不够的。更深层的思考应该是，随着人工智能的深度应用，“人应该如何理解自己、如何安放人在世界中的位置”这一关于人的主体性的认知。
二
人工智能是人类创造出来的同人的存在与发展休戚相关的存在物，是人的主体性的彰显与表征。在这个背景下，一个澄清人的主体位置的框架，是重新确认“人是主体，技术是工具”这一思路。这一思路的基本内涵是坚持人是技术的主人，并能通过加强技术治理、趋利避害，防止技术失控或滥用。这个思路应该守住一条底线：技术不能反过来统治人，技术作为一种手段不能凌驾于目的，效率不能压倒价值。而理解人工智能技术与人的互动，不能泛泛而谈。针对不同的人工智能应用，需要细致辨认人的处境。人工智能技术种类繁多，不是铁板一块。比如，推荐算法重排的是人的注意力，生成模型重构的是人的表达与知识劳动，具身机器人影响的是身体行动与劳动组织，自动驾驶调节的是责任链条和风险分配，脑机接口则参与建构人格边界和自我同一性，等等。不同技术以不同方式进入人的生活，也以不同方式影响人的主体性。把技术区分开来，分析其作用机制和影响层次，更能够看清人的处境。
三
在加强人工智能伦理审视中
推动技术向上向善
王渤洋
近年来，DeepSeek、豆包、Kimi、文心一言等大模型加速迭代，智能驾驶、具身智能、类脑智能、低空技术等普及推广，深刻重塑人类生产生活方式。但同时，算法欺骗、隐私泄露、虚假伪造等问题，成为不容忽视的安全风险，人工智能面临着伦理规范层面的挑战。鉴于此，必须加强对人工智能领域问题的伦理审视，有效破解伦理规范与技术快速迭代之间不匹配、不适应的矛盾，确保人工智能安全、可靠、可控。
一、人工智能应用中的伦理问题
从伦理视域审视人工智能带来的风险，主要是指人工智能技术快速发展与广泛应用，引发人类与智能系统之间的多重伦理关系，进而产生复杂的关于伦理规范的争议与治理问题。比如数据伦理、算法伦理、机器伦理，等等。厘清这些伦理风险的具体表征，有助于人类更好地把控和运用技术发展规律，确保智能向善。
二、人工智能伦理问题产生的原因分析
人工智能伦理问题的出现，其根源在于多重因素的交织叠加。只有厘清其深层次原因，并以此为“靶点”对症诊断、辨证施治，才能为推动人工智能高效治理提供依据。
价值非中立性。人工智能技术发展到今天，本身并非绝对中立，其背后隐藏着软硬件开发者的价值预期和价值导向。数据是人工智能技术开发的基础，但无论是数据采集还是程序设计，都离不开设计者、开发者的主观意念。很多技术如生成式人工智能等，往往依靠强大语料资源库做支撑。语料资源库是模型在训练阶段的重要要素和判别依据，但这些语料数据的