AI乱象将被重点治理

AI数据投毒、“魔改”经典……

将被重点整治！

为了规范AI服务和应用，促进产业的健康发展，并保护公民的合法权益，中央网信办近期发布通知，将在全国范围内启动为期四个月的“清朗·整治AI应用乱象”专项行动。

中央网信办相关负责人指出，此次专项行动将分为两个阶段进行。第一阶段是“清朗·AI应用服务典型违规问题”专项治理，主要针对未按规定完成大模型备案登记、安全审核能力不足、大模型训练数据安全、AI数据被投毒、以及生成合成内容标识未有效落实等问题，旨在加强AI技术的源头治理。第二阶段是“清朗·整治AI信息内容乱象”专项行动，重点打击利用AI技术生成“数字泔水”、制造和传播虚假信息、散播暴力低俗内容、假冒仿冒他人、侵犯未成年人权益以及从事网络水军活动等行为，坚决清除违法不良信息，并依法处理违规账号、MCN机构及网站平台。

第一阶段将着重整治七类突出问题：

首先，未按规定完成大模型备案登记。即未依据《生成式人工智能服务管理暂行办法》要求，向网信部门履行备案登记手续，存在“应备未备”的情况。

其次，AI平台在安全和审核过滤方面能力不足。模型底层安全能力缺失，在设计、训练和应用部署阶段，价值导向存在偏差且纠偏能力不足。缺乏安全防护机制和有效的审核过滤能力，导致生成违法不良信息，或在生成内容中包含违法不良信息的云盘及网站链接。

第三，大模型训练语料的安全问题。训练语料审核把关不严，模型训练数据中混杂违法不良信息。训练数据