网信办严打14类AI乱象，设立举报专区护航权益

据“网信中国”官方消息，为深化“清朗·整治AI应用乱象”专项行动，进一步规范化AI服务与应用，推动行业良性有序发展，并切实守护公民合法权利，中央网信办举报中心已于2026年6月正式启用“涉AI应用乱象举报专区”，专门受理社会各界的举报线索。

受理重点涵盖生成合成内容标识缺失、传播虚假暴力低俗信息等在内的14大类问题。

（一）AI应用服务违规类

1. 未依法履行大模型备案登记手续

2. AI平台安全审核与过滤机制薄弱

3. 大模型训练语料存在安全隐患

4. 遭受AI数据投毒攻击

5. 未落实生成内容标识要求

6. 滥用AI技术实施违法活动

7. 开源模型安全管理存在漏洞

（二）AI信息内容乱象类

1. 利用AI篡改经典、制造“数字垃圾”

2. 制作并发布虚假不实资讯

3. 假冒或仿冒他人身份

4. 传播暴力低俗等不良内容

5. 侵害未成年人合法权益

6. 利用AI“托管”实施网络水军行为

7. AI产品及应用程序违规运营

举报电话：12377

举报网址：www.12377.cn

官方微博、微信公众号：全国网络举报

举报客户端：网络举报

利用AI炮制虚假新闻、拼接旧视频、虚构突发事件，引发公众恐慌，扰乱社会秩序。网信与公安部门迅速行动，及时发布权威辟谣，严厉打击造谣传谣者。

5月中旬，关于“8家新能源车企因锁电被约谈立案”的传闻被中国汽车工业协会辟谣，相关名单实为部分社交账号利用AI软件伪造。

“5月起个人存款计息新规全国执行”“新规影响利息”等说法，亦系自媒体利用AI生成并散布。经核实，央行及金融监管总局从未发布所谓《个人存款计结息规则统一规范》，此类“新规”纯属对行业惯例的误读与包装。

网传“四川绵阳北川发生重大交通事故致3人死亡”系造谣者博眼球编造的假消息。柳州地震后，衍生出“精准预测余震”“建筑坍塌”等大量违背常识或AI生成的虚假信息，相关部门及时辟谣，阻断谣言扩散。

近期，网信、公安等部门重拳出击整治AI造假。针对多起典型涉AI谣言案例，相关主管部门及时发声澄清，有效遏制了谣言蔓延势头。