网安提示：警惕AI生成内容风险

构建AI安全防线

网警守护保平安

净化网络你我共行

所谓人工智能生成合成内容，即利用人工智能技术制造、合成的文本、图像、声音、影像、虚拟环境等信息。

如今生成式AI飞速发展，

为创作生活提供了极大便利，

然而AI造谣及虚假合成风险隐患不断，

希望大家增强防范意识并严守法律底线，

依法合规使用AI工具，共同维护清朗网络空间。

一、典型案例

网络安全

2026年2月，上海罗某为博取关注，利用AI制作“施工区域地面塌陷”的虚假视频，在短视频平台发布，扰乱了公共秩序。

网警通过发现细节不协调及逻辑漏洞，成功识破AI伪造内容，罗某最终被依法行政拘留。

网络安全

二、识别AI风险潜流

网络安全

01/伪造成本降低

免费AI绘图及视频生成工具广泛使用，致使虚假内容制作成本下降，且生成的虚假信息传播迅速、波及范围广。

02/虚假信息难辨别

AI换脸、语音克隆等技术生成的影像内容极为逼真，使得虚假灾情、事故类谣言难以辨别，容易误导公众、引导舆论。

03/新规强制标注