防范AI换脸语音诈骗，网警“以智治智”守护网络

重拳整治AI应用乱象｜网警“以AI治AI”亮剑新型网络犯罪

随着人工智能技术的迅猛进步，极大地便利了人们的日常生产与生活。然而技术滥用的问题也随之产生，许多不法分子借助AI工具实施各类新型网络犯罪，手段极具隐蔽性且难以分辨，严重损害群众权益，扰乱网络环境。

为了规范AI应用秩序、整治突出的网络乱象，中央网信办自今年4月起开展了“清朗·整治AI应用乱象”专项行动，重点排查未备案的大模型、审核缺失的平台以及违规生成的泛滥内容。

经过专项整治，累计下架违规AI产品1.4万余款，清理各类违法信息600余万条，处置问题账号2.6万余个。同时，官方设立了12377涉AI乱象举报专区，方便全民监督举报。

公安机关网安部门依托“净网2026”专项行动，与网信部门协作共治、行刑联动，采用“以AI治AI、以科技治乱”的方式，精准打击利用AI实施的新型网络犯罪。一场“科技对抗科技”的攻防战，正在网络空间全面打响。

01

警惕！AI诈骗已全面“伪装升级”，肉眼难以识别破绽

以前诈骗靠话术，现在诈骗靠技术！

随着AI合成技术的广泛普及，换脸、仿声、造图、制视频均能一键完成。骗子无需露面、无需编造复杂借口，仅凭AI技术就能做到“声音一模一样、画面天衣无缝”，彻底颠覆传统识骗方式，大量群众防不胜防。

近期全国多地警方披露了四类高发且隐蔽的AI作案手法：

⚠️AI换脸诈骗：熟人视频也能造假

骗子利用网络公开的素材，快速合成仿真人脸视频，冒充亲友、领导求助转账，画面逼真，普通人难以分辨。

此外，犯罪团伙利用AI合成虚假影像实施敲诈勒索，严重侵犯名誉隐私，已被多地警方严厉打击。

⚠️AI语音克隆：几秒录音复刻“亲人声音”

只需几秒原声，AI即可1:1复刻音色语气。不法分子冒充家人、公职人员编造紧急事由行骗，老人、留守群体易轻信上当，多地发生大额被骗案件。

⚠️AI人脸黑产：你的“脸”正在被批量倒卖

当前网络黑产形成完整产业链，不法分子非法收购公民肖像，利用AI合成动态人脸，突破平台实名认证，批量注册、贩卖账号，滋生大量网络违法犯罪。

⚠️AI智能造谣：虚假画面轻松制造恐慌

AI一键生成虚假灾情、现场、文件，传播快、误导强。近期多名网民因制作传播不实视频被公安机关处罚。

02

以AI治AI：网警开启智能化反诈新模式

面对不断升级的AI犯罪，网警部门改变传统模式，依托大数据、AI警务手段，实现事前预警、事中拦截、事后溯源全链条打击。

1. 事前智能预警：

依托专业反诈AI模型，对异常视频通话、可疑资金交易实时监测，提前识别风险。

2. 精准溯源打击：

深挖AI工具售卖、人脸数据采集、虚假内容制作传播等上下游链条，彻底铲除犯罪源头。

3. 协同源头治理：

配合网信部门督促平台落实AI内容审核、生成内容标识制度，压实平台主体责任。

4. 精准靶向宣传：

针对老年人、企业财务等重点群体，发布AI诈骗案例，破除“眼见为实”的盲区。

03

全民防范AI诈骗，牢记这条“黄金法则”

无论AI骗局多么逼真，凡是涉及资金转账，必须脱离原渠道二次核验。

✅1. 接到视频、语音求助转账，挂断后通过本人原有号码回拨确认，不使用对方提供的联系方式；

✅2. 不随意在陌生镜头前暴露人脸、身份证信息，拒绝陌生人镜头录制、数字朗读请求；

✅3. 不随意上传本人照片、原声视频至不明AI小程序；

✅4. 收到可疑虚假信息，第一时间保存证据，向12377平台或110举报。

网

警

提

醒

科技向善，底线不容突破。

公安部门持续整治AI网络乱象、亮剑新型智能犯罪。再次提醒网民摒弃“眼见为实”认知，提高AI时代防骗意识，共同守护清朗网络空间。

（