数据驱动的AI生命周期风险研讨会

01

会议主题

Theme of the Seminar

AI生命周期中的新兴数据风险

02

会议详情

Information of the Seminar

Date: 2026年4月9日（周四）

Time: 09:30 - 10:30

Venue: E1-202

Zoom ID: 984 9215 7968

Passcode:hkustgz

03

会议概述

Abstract of the Seminar

新兴AI技术以前所未有的速度发展，为各个领域带来了变革性的能力。然而，这种快速进步也引发了越来越多的安全、安全性和隐私问题。这些问题的核心是数据，无论是模型训练期间的输入还是生成内容的输出。我的研究集中在AI生命周期中的数据风险，并致力于理解它们如何产生、开发衡量框架以及构建创新解决方案来应对这些风险。在本次演讲中，我将讨论由不完善的数据管理过程、不安全的训练供应链、机器学习系统的记忆倾向以及下游应用缺乏透明度引起的问题。

04

演讲者简介

Biography of the Speaker

吴一欣

CISPA

吴一欣是CISPA赫尔姆霍茨信息安全中心的最后一年博士生，导师为Yang Zhang和Michael Backes。她的研究重点是可信AI，特别是探索AI系统中的漏洞以及负责任地使用AI，尤其是追踪和检测下游使用和滥用情况。她的研究成果已在USENIX Security、CCS、PoPETs和EMNLP等顶级会议上发表。她还被选为2025年ML和系统新星以及EECS新星。