低质又造假的AI内容,是时候整治了
近日,福建三明永安发生的“保安与女司机肢体冲突”事件引起热议。原本不过是停车纠纷引发的一般治安问题,后来却有人借助AI,把两名当事人剪成“握手言和接吻”“现场求婚”等荒诞视频。这类内容令人不适,却因技术包装而真假难分,进而快速传播。这类AI滥用并不是孤例。此前,奥运冠军全红婵的声音被AI克隆拿去带货土鸡蛋,卖出4.7万件,不少粉丝误以为是本人开播。家属无奈回应:“那是AI声音,全平台到处都是这种切片,想告都告不过来。”同时,一些平台上也不乏“林黛玉倒拔垂杨柳”“西门庆怒揍潘金莲”“孙悟空大战奥特曼”等胡乱
严打AI造谣,共守清朗网络
伴随人工智能技术的日新月异,个别网民为了博取眼球、增加粉丝,利用AI编造并散布虚假内容,且未按规定在《人工智能生成合成内容标识办法》中明确标注,从而误导大众、破坏社会稳定。针对这一乱象,为了保障网络环境与公共安全,公安机关已依法侦办多起案件,并公布3个典型案例,以此警示大家要遵纪守法、谨言慎行。案例一:储某某在社交平台散布伪造的公安机关公文,引发大量关注,严重破坏了公共秩序,造成了极坏的社会影响。案例二:蒋某某未加核实便发布AI合成的虚假视频,未按要求标注AI生成来源,导致不良社会影响及秩序混乱。案例三: