整治AI应用乱象：聚焦“数字泔水”等问题

新华社北京4月30日电 记者30日获悉，中央网信办为规范AI服务与应用、推动行业健康有序发展、切实保障公民合法权益，近日印发通知：在全国范围内部署开展为期4个月的“清朗·整治AI应用乱象”专项行动，重点打击利用AI“魔改”经典、生成“数字泔水”等突出问题。

中央网信办有关负责人介绍，此次专项行动分两阶段推进。第一阶段为“清朗·AI应用服务典型违规问题”专项治理行动，主要整治未按要求履行大模型备案登记义务、安全审查能力不足、大模型训练语料安全风险、AI数据投毒、生成合成内容标识落实不到位等情况，着力加强AI技术源头治理。

第二阶段为“清朗·整治AI信息内容乱象”专项行动，重点围绕利用AI技术生成“数字泔水”、制作并发布虚假信息、传播暴力低俗等不良内容、假冒仿冒他人、侵害未成年人权益以及开展网络水军活动等问题，坚决清理违法违规和不良信息，并依法对违规账号、MCN机构和网站平台进行处置处罚。

其中，第二阶段对“魔改”经典与生成“数字泔水”的重点整治方向包括：歪曲解构优秀传统文化、历史人物或历史典故；滥用AI技术对古典名著或经典影视作品进行“魔改”；植入低俗暴力内容；借恶搞方式扭曲古典名著精神内涵、颠覆关键人物人设；批量生产发布逻辑混乱、价值导向空洞，或携带错误价值观、扭曲文化认知等倾向的“数字泔水”类内容。

中央网信办有关负责人表示，各地网信部门要充分认识专项行动对推动AI应用规范有序发展、维护网民合法权益的重要意义，压实属地管理责任。督导网站平台对照整治要点开展深入自查自纠，系统排查风险漏洞，健全常态长效治理机制，持续提升技术防治能力，确保专项行动落到实处、取得实效。