央视揭秘AI造谣套路，重庆案例敲响安全警钟

近来，网络上流传着多条由人工智能制作的视频，诸如"南岸立交坍塌""涪陵灌溪沟农贸市场对面楼房倾倒"等不实信息，一度引起当地居民的担忧。这些影像究竟是怎样制造出来的？事实究竟如何？跟随央视《法治在线》栏目深入调查↓↓↓

3月9日上午10时30分，一则发布于短视频平台的视频内容引起了重庆市南岸区委网信办工作人员的警觉。

该视频呈现了一座立交桥坍塌的场景，发布约12小时后，已获得5700多个点赞、1100多次转发及1100余条评论。因立交桥路标上清晰可见"南岸"二字，众多网民便将事发地点关联至重庆南岸区。

重庆市南岸区委网信办网络综合治理与执法监督科副科长余宛蔓：

经我方查证，南岸区内并无名为"南岸立交"的桥梁设施，因此初步判定该视频内容不实。

随着调查工作持续推进，最终确认该视频系人工智能合成的虚假信息。

重庆市南岸区网络安全综合治理中心主任简伟晋：

调查显示，该视频发布者利用人工智能技术制作内容，其账号内还存有大量AI合成的影像，涵盖斗殴冲突、安全事故等题材，发布者对其编造及传播虚假信息的行为供认不讳。

本案存在一个引人关注的细节：发布者在上传视频时明确标注了"内容AI合成"的声明，但仍被警方处以行政拘留6日的处罚。既然已标明视频由人工智能生成，是否意味着其并非真实事件？为何仍需承担法律责任？

重庆市互联网违法和不良信息举报中心处置科科长谭婧伶：

标注AI生成绝不能成为免责借口，捏造不实信息终将受到惩处。

重庆涪陵区居民蒋某在短视频平台上传了一段视频，标题为"涪陵灌溪沟农贸市场对面楼房坍塌"。

重庆市涪陵区互联网信息办公室副主任唐超：

我方发现该信息后，第一时间与区应急管理局电话核实，确认灌溪沟农贸市场附近并未发生楼房坍塌事故，据此判定该信息为网络谣言。

经查，网民蒋某使用AI工具制作楼房坍塌视频并发布不实信息。鉴于其主动删除视频、传播时间较短且未产生重大网络影响，公安机关对其予以批评教育处理。

《生成式人工智能服务管理暂行办法》明确要求，提供及使用生成式人工智能服务须遵循法律法规，恪守社会公德与伦理规范，严禁制作虚假、有害及其他法律行政法规禁止的内容。