人工智能伦理审查的制度脉络与完善方向

8月22日，工业和信息化部等部门联合公布《人工智能科技伦理管理服务办法（试行）（公开征求意见稿）》（下称《征求意见稿》），面向社会公开征求意见，反馈截止日期为2025年9月22日。

《征求意见稿》是在《关于加强科技伦理治理的意见》（下称《治理意见》）和《科技伦理审查办法（试行）》（下称《审查办法》）等一般性规范基础上，针对人工智能领域作出的细化落地，进一步兼顾高质量发展与高水平安全，把较为原则性的人工智能科技伦理要求转化为可执行的管理与服务流程。

以程序化治理为重点的人工智能科技伦理审查

在《审查办法》确立的通用程序治理框架之上，《征求意见稿》通过更有针对性的制度衔接和内容扩充，逐步形成了以程序化治理为鲜明特点的人工智能科技伦理审查和服务体系。

首先，科技伦理更加体系化。《征求意见稿》延续并进一步细化《审查办法》，搭建起较为完整的人工智能科技伦理管理服务规则体系。与《审查办法》相比，《征求意见稿》增设了“支持与促进”专章，将标准建设、服务机制、创新激励、宣传教育以及人才培养等内容纳入其中。这不仅体现出《征求意见稿》兼顾管理与服务的制度定位，也改变了过去人工智能科技伦理要求分散见于不同政策文件的状况，为相关科技活动提供了更系统的伦理指引。

其次，伦理审查更加程序化。《征求意见稿》沿用了《审查办法》区分的“一般、简易、专家复核、应急”四类审查程序，以保持与国家科技伦理治理体系的一致性和衔接性。在第十五条列明的审查重点中，又将《审查办法》里关于数据与算法科技活动的原则性要求进一步细化为更具针对性的审查标准，并对算法偏见、模型稳健性、日志管理等事项提出明确要求，明显增强了人工智能科技伦理审查的可操作性。同时，《征求意见稿》还贯彻了《审查办法》风险分级治理的思路，细化了高风险活动的识别方式和审查机制，明确了“需要开展科技伦理专家复核的人工智能科技活动”清单及相应复核程序。

最后，审查主体趋于多元。《征求意见稿》不仅再次强调高等学校、科研机构、医疗卫生机构、企业等开展人工智能科技活动单位的主体责任，鼓励其设立伦理委员会，还在落实并细化《治理意见》《审查办法》关于建设专业性审查中心要求的基础上，明确提出建立专业性人工智能科技伦理服务中心制度。这一安排考虑到中小微企业等主体在单独设立伦理审查机构方面面临的现实难题，通过社会化服务方式降低合规门槛，体现了包容审慎的监管思路。

人工智能科技伦理审查的属性、策略与成效

首先，人工智能科技伦理审查的属性更偏向合理性审查，其功能定位有别于传统法律风险评估。其核心在于对具体科技活动作出超越法律底线的价值衡量，判断其是否契合人类福祉、人性尊严、公平正义等基本伦理原则，以防范可能削弱人类主体性、冲击社会伦理共识的深层次风险。基于此，《征求意见稿》第十五条列举的“公平公正”“可控可信”“透明可解释”“责任可追溯”等审查重点，虽然都是重要伦理维度，但在表述上容易与技术安全和法律合规相混淆，进而削弱伦理审查本身的独立意义。应当警惕伦理审查被演变为另一种法律合规审查，并明确引导审查主体把重点放在科技创新“合理性”的判断上。

其次，人工智能科技伦理审查的策略，应结合其技术特点和应用范围，建立场景化、精细化的应对机制。与生命科技相对集中的应用领域不同，人工智能已经广泛赋能自动驾驶、金融风控、医疗诊断、信息生产等多个领域，其伦理风险具有明显的场景依赖特征。虽然《征求意见稿》通过“复核清单”和审查重点设置，已经表现出探索场景化治理的取向，但这种清单式分类仍然较为宽泛，现有审查程序也尚未形成针对不同应用场景伦理挑战的差异化、精细化应对机制。与此同时，《征求意见稿》第十一条设想的“伦理服务中心”虽然为提供专业服务预留了制度空间，但其如何形成并匹配高度分化的场景化审查能力，仍需进一步细化和充实。

最后，人工智能科技伦理审查的成效，与伦理嵌入设计理念能否真正落地密切相关，这也是伦理审查能否摆脱“实效不足”的关键所在。伦理规范作为典型软法，其作用会受到非强制性、规范抽象性以及商业逻辑等多重因素影响。因此，建议通过技术方式将伦理原则直接嵌入算法、模型和系统设计之中，推动实现伦理嵌入式设计。尽管《征求意见稿》已经初步体现这一思路，但整体审查框架仍主要延续《审查办法》的通用程序，更偏重外部、专家主导的事前审查与事后监督模式，尚未把技术可嵌入性提升到核心位置，仍有进一步完善空间。

人工智能科技伦理审查制度的完善路径

总体来看，《征求意见稿》的优化可从以下几个方面推进：

其一，厘清人工智能科技伦理审查与其他治理机制之间的区分和衔接。从法律效力上看，科技伦理审查结论不宜直接等同于法律责任认定，而应被作为司法或行政追责过程中，用于衡量相关主体注意义务履行情况及主观过错程度的专业参考。在此基础上，还应建立激励相容机制，推动科技伦理审查由外部约束逐步转化为内生动力。《征求意见稿》已尝试通过标准制定、技术创新、管理认证等措施，将伦理合规从单纯企业成本转变为潜在收益来源。不过，当前激励安排仍较为粗略，未来可进一步探索如何向科技创新主体提供更具实效的正向激励。同时，伦理审查还需与现有法律框架中的多元评估机制实现系统衔接。如何在已有衔接规定基础上，推动网络安全法、数据安全法、个人信息保护法以及《生成式人工智能服务管理暂行办法》等所建立的多元评估机制，在程序和实体标准上实现整合与互认，进而形成一体化风险评估与合规体系，从根本上避免重复评估和多头监管、降低制度成本，仍有待继续深入研究。

其二，增强审查主体的权威性、专业性和独立性。《征求意见稿》第六条鼓励探索基于应用场景的风险评估，为“场景驱动”审查模式奠定了基础。可授权国家级专业机构或行业协会探索建立“场景驱动”的审查标准体系，依据不同风险场景匹配更具权威性的审查主体，广泛吸纳产学研用各方面力量，牵头制定面向金融、医疗、交通等重点领域的AI伦理风险评估指引。同时，《征求意见稿》也对审查机构的专业性提出了要求。为进一步强化审查机构的独立性和专业结构，确保审查深度与客观性，还可以对技术专家的资质条件、遴选标准等作出更细致规定。对于《征求意见稿》所鼓励发展的社会化伦理服务中心，也可在现有制度基础上进一步细化审查人员的利益冲突回避义务，防止其与受审单位形成利益共同体，保障第三方审查的公信力。

其三，细化分类分级风险控制体系，增强治理实效。在风险控制方面，《征求意见稿》中的复核清单虽然为分类分级治理打下了基础，但在深度和广度上仍有拓展空间。对于具有系统性风险和公共基础设施属性的人工智能应用，在现有跟踪审查机制之外，还可探索引入强制性的独立第三方伦理审计制度，确保审查真正深入实质内容，而不是停留于形式层面。同时，应将伦理嵌入设计提升到更加重要的位置，把伦理考量全面融入技术研发、数据处理、模型训练以及产品服务的全生命周期。为此，监管部门应提供更细致、可操作的嵌入式伦理标准和实践指引，并进一步探索如何让审查程序更有效地评估和激励伦理嵌入设计实践，从而提升整体伦理治理效能。

（作者单位：吉林大学法学院）