欧盟拟立法禁止AI生成色情深度伪造内容

欧洲议会议员与欧盟成员国代表于5月7日就《人工智能法案》的修订草案达成一致，决定禁止利用人工智能系统制造“深度伪造”的色情内容。

据法新社报道，这项禁令将包含在2024年《人工智能法案》的修正案中。欧洲议会议员迈克尔·麦克纳马拉表示，这是欧盟首次通过法律手段明确禁止“换脸”等应用，强调“欧盟今日划定了底线，人工智能绝不能被用来羞辱、剥削或伤害他人”。

2024年11月27日，在法国斯特拉斯堡拍摄的欧洲议会会议场景。新华社记者赵丁喆摄

当日，欧洲议会与欧盟成员国代表还同意，将针对高风险人工智能系统的监管规定生效时间推迟。原计划中，独立人工智能系统的监管应于2026年8月实施，嵌入其他产品的人工智能工具则应在2027年8月生效。新的计划将这些时间点分别延后至2027年12月和2028年8月。

欧盟委员会此前解释称，调整实施日期是为了帮助企业有更多时间适应监管要求，避免扼杀创新，同时欧盟将继续通过《人工智能法案》的其他条款来促进人工智能的安全发展。

此前，美国企业家埃隆·马斯克旗下社交媒体平台X上的人工智能聊天机器人“格罗克”因被指生成色情内容而引发广泛批评。根据人工智能取证组织的一份报告，在2025年12月25日至2026年1月1日期间，“格罗克”通过深度伪造技术生成了2万张图像，其中55%的人物图像衣着暴露，81%为女性形象；另有2%的图像涉及未成年人。X平台于1月14日宣布，将禁止“格罗克”生成基于真实人物的伪性暴露图像，此限制适用于包括付费用户在内的所有用户。（王奕昕）