李伦解读：人工智能科技伦理审查的边界与要点

人工智能科技伦理审查的适用范围

——《人工智能科技伦理审查与服务办法（试行）》解读

李伦

（湖南师范大学人工智能伦理研究中心）

人工智能科技伦理审查是防范人工智能伦理风险的重要措施，也是一项全新的工作。《人工智能科技伦理审查与服务办法（试行）》（以下简称《办法》）的发布是我国在这方面的一次有益尝试，对规范人工智能科学研究和技术开发等活动具有里程碑的意义。

生物医学研究伦理审查在我国积累了大量经验，这些经验对人工智能科技伦理审查具有重要的借鉴意义。由于人工智能研发具有与生物医学研究不同的特征，要做好人工智能科技伦理审查，在借鉴这些经验的基础上应有所创新和发展。此次发布的《办法》突出了人工智能科技活动及其伦理风险的特点，在区分“研发”和“应用”的基础上，确定了人工智能科技伦理风险审查的适用范围，将“研发过程伦理风险”和“研发成果伦理风险”都纳入了审查范围，回应了社会的关切，力图做到既保护个人权益，又保障群体、社会的利益和人类福祉。

一、人工智能科技伦理审查的适用范围：在我国境内开展的存在伦理风险的人工智能研发活动

人工智能科技伦理审查的首要问题是确定适用范围，规定哪些人工智能科技活动应纳入伦理审查，哪些伦理风险应纳入审查重点。

目前，人们对人工智能全生命周期的伦理风险都高度关注，相比较而言，社会关注度更高的是人工智能应用的伦理风险，如大数据杀熟、有害内容等，人工智能创新主体尤其企业非常关心科技伦理审查是否涵盖人工智能应用过程。

现行的生物医学伦理审查主要评估研发过程的伦理风险，《办法》坚持了这一通行做法，将伦理审查适用范围确定为人工智能科学研究、技术开发等活动。《办法》第二条从地域管辖、活动类型、伦理风险三个维度对人工智能科技伦理审查适用范围做了明确规定。除了依据法律、行政法规和国家有关规定需进行人工智能科技伦理审查的其他科技活动，同时满足下列三个条件的人工智能科技活动需要进行伦理审查：（1）在我国境内开展的；（2）可能在人的尊严、公共秩序、生命健康、生态环境、可持续发展等方面带来科技伦理风险挑战的；（3）科学研究、技术开发等人工智能科技活动。这就明确了了人工智能全生命周期哪个阶段应进行伦理审查的划界问题。

二、人工智能研发伦理风险：研发过程伦理风险和研发成果潜在伦理风险

社会非常关注人工智能应用的伦理风险，而人工智能科技伦理审查适用范围是人工智能研发活动，这是否意味着仅需评估人工智能研发活动过程中的伦理风险？是否忽视了公众对人工智能应用伦理风险的关切？

《办法》对此做出了明确规定，伦理审查既要评估人工智能研发活动过程中的伦理风险，也要评估人工智能研发活动成果的潜在伦理风险。《办法》第十二条规定，人工智能科技伦理申请材料包括“人工智能科技活动方案”和“人工智能科技活动科技伦理风险评估情况、防控及应急处理预案”。前者主要包括“研究背景、目的和计划，所涉及相关机构的合法资质材料、人员情况、经费