AI造假横行，普通人如何自保？
刷到"熟人"发来求助视频，声音样子都对，结果转完账人消失了？别怀疑自己眼力差——是AI造假已经逼真到亲妈都难分辨。今天（7月18日）上海 WAIC 世界人工智能大会上，一款"AI打假神器"火了。这篇就用大白话讲清：发生了什么、为啥值得你关心、今天就能怎么用。在 2026 世界人工智能大会（WAIC）上，合合信息（就是做"扫描全能王"那家）发布了AI 跨模态鉴伪技术，综合鉴定准确率超过98%。更关键的是，它顺手推出了"扫描全能王 AI 鉴伪小程序
AI造假现象，你是否也曾遭遇？
近期我对社会学产生了浓厚兴趣，尤其是农村领域相关的内容，想找找有没有相关的著作。于是开启AI软件的专家模式进行深度思考，它列出了一系列书籍推荐。我打算用某豆平台查询这些书的评分，结果搜索后发现，绝大多数书籍根本查不到，无论是按书名还是作者名都匹配不上！于是我直接质问原因，没想到它竟理直气壮地承认自己是造假的，还辩称这是机制问题！难道AI的算力就是这样运作的吗？真是让人震惊。我们不能盲目迷信所谓的权威和AI，必须不断提升自我认知，持续拓展知识面。否则，在关键时刻，很容易被坑骗！
美亚AI辟谣榜|AI造假“考生轻生”蹭热度?造谣者受罚
2026年6月末，恰逢高考成绩公布的关键节点，抖音短视频平台忽然流传出一段极具冲击力的视频。画面显示一名女子在大桥坠河轻生，配文声称“达州宣汉有考生因高考失利跳河”，此类直击大众情绪痛点的悲剧叙述迅速蔓延，导致大量考生与家长被误导，纷纷转发并留言感叹，引发了普遍的焦虑情绪。经宣汉县公安局网安大队实地调查，并联合当地社区、学校多方核实：同期当地并未发生任何涉及考生跳河轻生的警情。真相令人愤慨：视频发布者喻某某仅为博取账号流量、蹭高考热点以提升关注度，利用AI工具凭空捏造了完整的悲剧场景，其中的人物与轻生情节
美亚AI揭穿：上海地铁坠顶视频实为AI造假
2026年6月，一段标称“上海地铁18号线江浦路站”的影片在社交网络上迅速扩散。画面显示，车站顶部大片建材轰然崩塌，尘土四散，场景极具震撼力，配文“上海地铁质量？走路需抬头保命”，故意渲染地铁突发严重安全事故、乘客陷入险境的恐慌情绪，导致许多市民信以为真，纷纷对地铁出行安全产生担忧。经上海轨交警方与地铁运营单位实地调查，实际情况仅为站点一处巴掌大小的墙皮轻微脱落，并不存在视频中显示的大面积吊顶坍塌险情。这是外省网民孙某在获知该轻微故障信息后，为获取短视频流量，利用AI工具篡改并生成夸张灾难画面，刻意夸大危
欧盟烟草征询惊现AI造假：荷兰七成意见系机器代写
欧盟烟草法规征询风波曝光荷兰超七成意见由AI伪造公众意见遭系统操控▌事件曝光：荷兰民众征询意见，多数为AI虚假生成据nltimes.nl消息，据荷兰广播公司（NOS）与Pointer联合调查，欧盟收紧烟草新规的公众征询中，荷兰近四分之三的反馈内容完全由人工智能撰写，伪装成普通民众个人意见提交。绝大多数虚假反馈可溯源至烟草巨头菲利普莫里斯国际公司（Philip Morris International）的AI工具，荷兰语反馈中，九成内容均源自该系统，目前工具已下架。
普法在线 | 食客用AI合成诊断书及呕吐物图片，敲诈餐饮店“赔偿金”……
当造假变得轻而易举谁来判断“真伪”有些“小聪明”没用对位置就会变成惩罚AI制“病”，店家上当2025年11月至2026年1月期间，杨某在多家饭馆就餐或点外卖后，借助AI软件炮制了他与女友得急性肠胃炎的假病历、诊断书、电子收据、呕吐物图片等证明，并扬言要向市监部门、12315维权热线等举报，或在消费平台发布差评，借此向饭馆勒索“医药费”。部分商家因害怕被投诉或给差评而无奈同意给钱。经调查，杨某通过上述手段敲诈得手总计2500元，还有7000多元敲诈未果。2026年1月，杨某被警方抓获。落网后，杨某已全数退赔
AI造假与虚构场景成新隐患 “618”消费投诉舆情报告出炉
中国消费者协会今天（26日）公布“618”消费投诉 【下载黑猫投诉客户端】舆情分析报告指出，借助互联网舆情监测平台，在6月1日至6月20日共计20天监测期内共收集到“吐槽类”消费投诉信息1917839条。监测发现，2026年“618”消费者抱怨主要集中于价格陷阱、产品质量、违规营销、售后服务不佳等方面。 长周期促销下价格频繁变化，叠加各类优惠券嵌套、会员专属价等多重规则，导致消费者比价成本上升，价格信任基础被削弱。 例1：电商平台会员套娃式“优惠券” 消费者王先生在社交平台发帖投诉拼多多V3会员退款陷阱。
剧情反转！网传超低价房源实为AI造假
上海公安机关在巡查时察觉，一个频繁推送各类房产资讯的自媒体账户表现反常。该账户所发布的影像中，房屋标价显著偏离真实行情。上海市公安局松江分局中山派出所民警 刘炳鑫：他们推出的房产售价大幅度低于正常市价，在深入核查这些影像的过程中，查明所推房产的具体位置也严重脱离实际。该账户推送的影像里包含这样一条内容：一处临近地铁站的住宅，建面83平米，总售价仅需81万。然而警方实地查证表明，影像里提及的地铁站周边社区，压根就不存在这种面积的户型，附近房产门店的挂牌均价在2.5万至3万之间，绝无低于1万的房产。紧接着民警
AI炮制虚假新闻博眼球,射洪一女子被行政处罚
“帮我找一条近3天内的真实可查的见义勇为热点原创报道，再配一个能够吸引大众目光的、震撼人心的标题”四川省射洪女子董某在豆包AI平台上输入上述需求后，系统仅用了几秒钟，就生成了一篇名为《赤手夺刀，平民好汉血刃惊魂》的虚假新闻，而董某却深信不疑，随即将其发布到个人自媒体账号上。近日，射洪市公安局依法对该女子作出行政处罚，并责令其立即删除全部不实网络信息。6月15日，澎湃新闻输入了相同或类似的话语指令，豆包生成的内容均链接有相关权威出处和依据，暂未发现有不实信息。据射洪市公安局此前通报：射洪市公安局网安大队民警
男子AI造假索赔获刑：伪造病历勒索餐厅被定罪
6月11日下午，上海市杨浦区人民法院公开审理并当庭宣判了一起利用AI技术伪造病历并以投诉举报为要挟、向餐饮商家敲诈勒索的案件。被告人杨某某利用AI软件伪造医院诊断证明、收费单据和投诉材料，策划多起“就餐致病”的敲诈闹剧，累计非法获利2500元。去年11月，杨某某在杨浦区一家烤肉店就餐，餐后出现腹痛症状，怀疑是餐厅食品不干净。杨某某从社交平台上下载了网友上传的就医凭证、诊断证明等医疗文书，随后通过AI软件改图功能，将凭证上的患者改为了自己，并以此向餐饮商户索要“医药费”。第一次“索赔”成功后，杨某某的野心也
AI造谣新手段|"郑丽文"数字人带货被查
近期，山西大同网安部门在日常巡查中发现，辖区内居民邢某擅自利用中国国民党主席郑丽文的AI虚拟形象进行直播带货，引发网民强烈质疑，严重破坏了网络秩序。经调查，邢某从事直播带货业务，恰逢郑丽文赴大陆访问引发高度关注，为博取名人效应、吸引更多流量，邢某在未取得任何授权的情况下，利用AI技术生成了郑丽文形象的虚拟数字人，并在媒体平台进行直播带货，该行为迅速引发社会广泛关注，造成了恶劣社会影响。目前，公安机关已依法对邢某作出行政处罚决定。国投智能作为国内领先的人工智能安全技术企业，事件曝光后，对该直播带货视频进行专
AI造假高考现场图片被依法处理
网络空间不是法外之地，使用AI技术制造虚假信息同样是违法行为。今年高考期间，针对一起利用AI制造高考虚假信息的网络秩序扰乱案件，芜湖澛港派出所迅速核查、果断处理，及时清除了不良网络风气。6月7日，芜湖市弋江区网民王某为吸引网络眼球，恶意使用AI工具合成虚假图片，图片虚构本人在高考考场使用手机拍摄的场景，并配上“请帮帮我”的文字，编造考生在考场使用手机的不实内容，并发布至超过二百人的微信群。虚假信息快速传播，误导网民，引发不当热议，严重扰乱高考期间的网络舆论环境，造成不良社会影响。获得相关线索后，芜湖市公安
AI虚假内容泛滥？平台出手整治！
5月27日，抖音生活服务公布了平台治理最新动态：过去一年间，平台低质内容违规率同比大幅下降82%，虚假门店举报量锐减90%，累计完成390万笔先行赔付订单，赔付金额达2.4亿元；“安心”服务已覆盖1.8亿消费者，总订单量突破6.5亿单。与此同时，AIGC（人工智能生成内容）带来的新挑战日益凸显——仅今年第一季度，平台就处理了超过80万条AIGC违规带货内容，涵盖肖像侵权、虚假宣传、低俗营销等领域。当AI生成内容已能以假乱真之际，加强平台级内容治理与商家端精准风控已成燃眉之急。国投智能作为网络空间安全与社会
严打“仅退款”乱象，构建健康电商生态
近日，河南濮阳的冷冻榴莲商户“程大叔”遭遇了一起令人震惊的事件。为了一笔190.71元的订单，他两次自费往返1600公里奔赴山东德州，寻找那个恶意发起“仅退款”的买家。最终，他在垃圾桶中翻找到包装袋却不见榴莲，随即报警。经警方调查，该买家伪造榴莲肉霉变照片骗取全额退款，已被依法行政拘留7日并追缴违法所得。“千里寻榴莲”事件在网络上引发了轩然大波，促使公众重新审视“仅退款”规则的滥用问题。 “仅退款”本意是为了解决商品损坏、变质、丢件等难以退货的售后难题，旨在简化流程。然而，现实中这一规则正被恶意利用。近期
AI沦为造假工具引警钟：交大学子事件揭示技术隐患
数智化安全 · 深度数智化安全 · 深度数智化安全 · 深度从"效率神器"到"作恶工具"，企业AI落地的致命陷阱已显现从事信息化和数智化工作近二十年，我始终坚守一个核心原则：智能化的前提是安全，效率的底线是合规。所有技术迭代、数字化升级、智能工具落地，安全永远是不可触碰的红线、不可逾越的底线。安全无小事，失守则全盘皆输。 上个月，我特意对市面上几个主流生成式AI应用做了一轮常态化安全合规实战评测。全程模拟真实业务场景、灰色操作场景，测试各类智能模型的风险识别、合规拦截、红线