欧盟AI新规生效:AI内容必须主动“报备”身份
有中国软件企业将AI客服引入欧洲网站,回应流畅且迅速,团队甚至将“拟人化”作为核心优势。但自8月2日起,这一细节已不再仅仅是体验优劣的问题。欧盟委员会已于7月31日宣布,从2026年8月2日起正式实施《人工智能法》及其新增的透明度规定。
对于中国企业而言,判定标准并非企业注册地,而是产品或服务是否涉足欧盟市场,以及企业在具体场景中扮演的是提供方还是部署方。并非所有中企都会面临同等责任,具体适用范围需结合业务实际情况及法律咨询来确定。
欧盟委员会关于第50条透明度义务的指南中提到,凡是直接与人交互的AI系统,必须明确提示用户正在与人工智能交流,除非这种互动在特定情境下显而易见。像网站客服、智能销售助手、语音机器人等工具,都需重点排查其首次交互、界面提示及服务条款是否清晰易懂。
这并不意味着每一次回复都必须弹出警示框,企业真正需要的是保持设计的一致性:
在财务、保险、招聘等高风险场景下,还需审视AI是否被允许直接输出结论,以及是否存在人工复核机制和申诉渠道。
AI交互、生成内容以及深度伪造技术的应用,需根据不同场景划分识别义务
法规还要求对部分由AI生成或操控的音频、图像、视频及文本内容,采用机器可读的格式进行标注,以便于后续检测。
切勿将“标注为AI生成”视为解决所有问题的万能钥匙,也不应机械地对所有内容贴上相同标签。具体的义务履行情况,取决于内容的具体类型、使用方式以及企业的角色定位。
出海团队应当促使产品、内容及合规负责人协同开展排查工作
最务实的做法是制定一份AI使用清单:
随后为每一项内容指定产品、内容及合规负责人,并逐一确认告知义务、标记措施、留痕记录及人工接管机制是否落实。
此次排查工作也能反向促进企业内部财务数字化建设:记录谁使用了何种AI、处理了哪些数据、结果由谁复核、异常情况如何追溯原始依据。