AI换脸诈骗泛滥:技术红利不应成为民众财产的威胁
登录社交平台,近来多个地方公安部门频繁发出警报,警示AI换脸、AI模拟声音诈骗在全国范围内迅速扩散,成为五月最受关注的民生问题。只需一张生活照、十几秒的日常语音,犯罪分子便能复制熟悉人员的外貌、语调、神情,构建实时视频通话情境,众多家庭与企业陷入精心设计的数字陷阱,一场由技术误用引发的全民安全挑战,正摆在每个人面前。
现实中被骗案例令人震惊。许多家长突然收到海外求学孩子的视频来电,画面中面孔熟悉、声音真实,哭诉遇到意外急需大额医疗费,慌乱中迅速转账二十多万,事后拨打真实电话才如梦初醒,视频那头自始至终都是AI合成形象;多家中小企业财务人员接到老板线上视频会议命令,要求紧急划拨项目资金,核对头像、声音全部吻合,转账后才发现账号被盗、视频全系伪造,公司资产遭受重大损失。骗子利用亲情信任、职场上下级关系,借助AI技术消除破绽,降低所有人的警惕性,骗局成功率大幅提升。
技术本身无善恶之分,但缺乏约束的技术,极易成为作恶工具。当前AI工具门槛不断降低,普通人通过简单软件就能完成人脸复刻、声音克隆,黑色产业链更是批量收集网络公开照片、短视频素材,整合构建素材数据库。朋友圈自拍、短视频日常动态、社交平台头像,都可能被不法分子批量抓取,成为实施诈骗的原料。不同于传统电信诈骗,AI视频具备极强视觉冲击,人在紧张、焦急的情绪下,很难识别细微破绽,这也是此类骗局屡屡得手的核心原因。
热搜之下,网友讨论分为两种声音。一部分人感慨科技进步带来便利的同时,也埋下新型风险,普通人缺少专业辨别手段,面对高仿视频几乎无从分辨;也有人呼吁加强网络环境整治,从严打击黑灰产业,从源头遏制非法AI工具流通。而北京警方结合多起案件,总结出简单高效的防骗准则:但凡视频通话要求转账汇款,一律挂断视频,主动拨打对方预留手机号回拨核实;可以要求对方做出专属动作,比如连续眨眼、触摸特定耳朵,简单动作就能戳破AI骗局,守住财产底线。
乱象背后,监管体系也在加速补位。各地网信、公安部门联合开展专项整治,查封多款非法AI合成软件,深挖上下游黑色产业链,严厉打击售卖人脸素材、诈骗脚本的团伙。平台端不断升级风控机制,对AI生成内容添加标识,限制未经授权的人脸采集与复刻;司法层面不断完善相关法规,明确滥用AI技术牟利的定罪标准,用法律红线划定技术使用边界,遏制肆无忌惮的技术滥用。
技术永远是一把双刃剑,人工智能赋能生活、便利办公、推动产业革新,是时代发展的大势所趋,但绝不能成为不法分子收割大众的利器。面对层出不穷的新型骗局,既要依靠监管重拳出击,筑牢外部防护墙,每一个普通人也要守住内心防线。摒弃“眼见即为真实”的固有认知,但凡涉及金钱往来,多一次核验、多一分冷静,不被画面和声音裹挟情绪。
科技向善,才是技术发展最终的归宿。合理规范AI应用,打击技术作恶,守护千家万户财产安全,才能让新技术真正服务民生,而非制造恐慌与伤害。