清华AI治理研究院代表团赴德访问BIFOLD深化国际合作

点击蓝字

关注我们

德国时间2026年7月1日，清华大学人工智能国际治理研究院（I-AIIG）代表团成员助理研究员王净宇、博士后盛舒洋及宋雨鑫、外事助理樊晨一行访问德国柏林学习与数据基础研究院（Berlin Institute for the Foundations of Learning and Data，BIFOLD），与BIFOLD研究团队及夏里特大学医学院（Charité Universitätsmedizin Berlin）专家就可信人工智能、人工智能可解释性、前沿模型安全评估及国际治理合作等议题展开学术交流。

BIFOLD作为德国国家级人工智能能力中心之一，依托柏林工业大学与夏里特大学医学院共建，在机器学习基础理论、数据管理与可信人工智能领域享有国际盛誉。本次交流由BIFOLD副主任、柏林工业大学教授Konrad Rieck主持。可解释人工智能领域知名学者、柏林工业大学教授兼弗劳恩霍夫海因里希·赫兹研究所（Fraunhofer HHI）人工智能部门负责人Wojciech Samek，夏里特大学医学院教授、BIFOLD研究组负责人Grégoire Montavon，以及BIFOLD科学战略负责人Elke Witt参加交流。

研究院代表团介绍了清华大学人工智能国际治理研究院近年来在全球人工智能治理、数字治理及国际合作等领域的研究进展，并重点介绍了中国人工智能发展与安全研究网络（China AI Development & Safety Association，CnAISDA）的建设情况。该网络汇聚国内人工智能领域主要科研机构，致力于推动人工智能发展与安全领域的国际交流与合作。结合人工智能治理与技术应用实践，代表团还分享了清华大学“人工智能医院（AI Agent Hospital）”项目的最新进展。该项目通过构建人工智能患者和人工智能医生智能体，探索人工智能在医院、社区及家庭等多场景中的应用，为医疗人工智能的安全、可信部署提供实践探索。与此同时，代表团介绍了研究院近期围绕联合国人工智能治理相关进程开展的系列工作，包括参与联合国首届“人工智能治理全球对话”（Global Dialogue on AI Governance）官方边会、在世界信息社会峰会（WSIS）期间主办自动驾驶人工智能治理专题活动，以及世界人工智能大会（WAIC）和2026人工智能合作与治理国际论坛等国际活动的筹备情况，并邀请BIFOLD专家参与相关交流。

Rieck教授在开场致辞中系统介绍了BIFOLD自成立以来的发展脉络、独立非营利性质及其与洪堡大学、柏林艺术大学等机构的协作模式，并重点阐释了去年完成的研究结构重组——目前聚焦“网络价值”、“人工智能”、“创新与商业社会”、“法律的未来”四大领域。他特别分享了其团队近期在人工智能安全方面的前沿进展，其中多项工作曾获国际顶级会议（如IEEE S&P、USENIX Security）最佳论文奖。Konrad Rieck以气候预测模型为例，阐释了人工智能天气预测系统的安全漏洞。

Samek教授介绍了其团队在可解释人工智能（Explainable AI）领域的最新研究进展，重点分享了人工智能模型可解释性在医疗、科学研究等领域的应用，以及相关方法如何提升人工智能系统的透明度、可信性和安全性。双方围绕可解释人工智能的发展趋势及其与人工智能治理之间的关系进行了交流。

Montavon教授聚焦医疗人工智能应用场景。他指出，人工智能辅助诊断系统不仅需要高准确率，还需具备可解释性，使临床医生能够理解并信任人工智能的判断依据。他展示了其团队开发的解释工具在放射影像分析中的应用，并分享了在临床试点过程中面临的医生操作习惯差异、工作流程整合等实际挑战。双方就医疗人工智能治理框架的设计思路进行了交流。

在自由讨论环节，双方围绕中德人工智能安全研究基本情况、前沿模型安全评测和可解释性研究、医疗人工智能应用、人工智能国际治理合作等议题进行了深入交流，并就如何加强基础研究与国际治理实践之间的互动、促进中欧科研机构开展更紧密合作交换了意见。此次交流进一步增进了双方对彼此研究工作的了解，为未来开展学术交流和国际合作奠定了良好基础。