未标注AI生成内容造谣,逾1.3万账号遭清理!
近来,一些网络账号在发布AI合成内容时,未按规定标注AI来源,涉嫌利用虚假信息蒙蔽误导大众,严重破坏网络环境,产生不良后果。网信部门责令各大平台全面排查整改,依法依规处理账号13421个,删除违规信息54.3万余条。现公布部分典型案例如下:
一、微博账号“澄馫”、快手账号“玲子爱狗狗”、哔哩哔哩账号“空空说电影”等,在发布狗狗高铁救婴、拆弹救人、鳄鱼伤人等视频时,未标注AI生成,通过编造感人情节、猎奇事件恶意骗取流量。涉事账号已被依法依规处理。
二、微信账号“浮萍9419”、微博账号“乘风已归来”、快手账号“东东情感”等,利用AI换脸、声音克隆技术,冒充运动员、演艺人员、主持、企业家等知名人士,散布虚假言论,以此吸粉引流,或未经许可,销售AI制作的公众人物“送祝福”“拜年”等视频,非法获利。涉事账号已被依法依规处理。
三、抖音账号“巷子里的鱼”“禾粟”、快手账号“朵姐正能量”“小猪猪”等,散布AI合成的虚假火灾现场图片及视频,蓄意编造、炒作火灾事件,混淆是非,破坏公共秩序。涉事账号已被依法依规处理。
四、哔哩哔哩账号“真难我知道”、抖音账号“小奥特曼大智慧”、百度账号“清崽影视”等,利用AI恶搞未成年人喜爱的动画形象,制作刀砍小马宝莉头部、奥特曼怀孕等视频,传播低俗恐怖、血腥暴力内容,灌输错误价值观,侵害未成年人身心健康。涉事账号已被依法依规处理。
后续,网信部门将持续对未标注AI的虚假信息实施高压严管,发现即查处,重拳打击违规操作。同时,呼吁广大内容创作者遵守规定主动标注AI来源,防止误导大众,携手共建清朗网络空间。