AI虚假内容泛滥？平台出手整治！
5月27日，抖音生活服务公布了平台治理最新动态：过去一年间，平台低质内容违规率同比大幅下降82%，虚假门店举报量锐减90%，累计完成390万笔先行赔付订单，赔付金额达2.4亿元；“安心”服务已覆盖1.8亿消费者，总订单量突破6.5亿单。与此同时，AIGC（人工智能生成内容）带来的新挑战日益凸显——仅今年第一季度，平台就处理了超过80万条AIGC违规带货内容，涵盖肖像侵权、虚假宣传、低俗营销等领域。当AI生成内容已能以假乱真之际，加强平台级内容治理与商家端精准风控已成燃眉之急。国投智能作为网络空间安全与社会
严打“仅退款”乱象，构建健康电商生态
近日，河南濮阳的冷冻榴莲商户“程大叔”遭遇了一起令人震惊的事件。为了一笔190.71元的订单，他两次自费往返1600公里奔赴山东德州，寻找那个恶意发起“仅退款”的买家。最终，他在垃圾桶中翻找到包装袋却不见榴莲，随即报警。经警方调查，该买家伪造榴莲肉霉变照片骗取全额退款，已被依法行政拘留7日并追缴违法所得。“千里寻榴莲”事件在网络上引发了轩然大波，促使公众重新审视“仅退款”规则的滥用问题。 “仅退款”本意是为了解决商品损坏、变质、丢件等难以退货的售后难题，旨在简化流程。然而，现实中这一规则正被恶意利用。近期
AI沦为造假工具引警钟：交大学子事件揭示技术隐患
数智化安全 · 深度数智化安全 · 深度数智化安全 · 深度从"效率神器"到"作恶工具"，企业AI落地的致命陷阱已显现从事信息化和数智化工作近二十年，我始终坚守一个核心原则：智能化的前提是安全，效率的底线是合规。所有技术迭代、数字化升级、智能工具落地，安全永远是不可触碰的红线、不可逾越的底线。安全无小事，失守则全盘皆输。 上个月，我特意对市面上几个主流生成式AI应用做了一轮常态化安全合规实战评测。全程模拟真实业务场景、灰色操作场景，测试各类智能模型的风险识别、合规拦截、红线
境外势力炮制AI假视频抹黑中国，法新社公开打假揭露破绽
近期，一个境外社交媒体账号发布了一段声称“中国在西藏拆毁寺庙”的虚假视频，经查证该视频系人工智能生成。就连法新社都忍无可忍，刊文严厉驳斥，指出视频中充斥着“AI合成特有的视觉缺陷和逻辑漏洞”，网友纷纷吐槽“把我们当傻子吗，这么明显的AI生成内容都看不出来？”。 对这15秒视频进行深入剖析后发现，通篇都是破绽，毫无真实可言。 第一处硬伤：建筑风格“驴唇不对马嘴”。画面呈现的是红墙绿瓦、重檐翘角的中式风格，与藏式寺庙的碉房结构和鎏金铜瓦特征完全不符，这种“四不像”的建筑形制根本不存在。 第二处硬伤：拆除手法不
AI 批量伪造种草笔记案宣判：初次造假必担真责
当你浏览小红书的“种草笔记”时，是否曾想过——屏幕另一端展示的“真实体验”，或许从未真实发生？近日，杭州市中级人民法院对全国首例涉及AI批量代写“种草笔记”的不正当竞争案件作出宣判，揭开了数字营销领域的一块灰色幕布。某AI写作工具提供网页版、App及微信小程序三种形态，其“热门模块”直接展示某社交平台的种草文案、旅游攻略、笔记标题等服务，并打着“符合平台调性的分享文案”等宣传口号。用户只需点击一键创作，数百字“生动逼真的文案”便即时生成。在商品推荐文案功能中，用户仅需输入商品名称、品牌等少量信息，即可瞬间
真正传奇无需AI造假
不过，依靠AI弄虚作假，终究不过是纸糊的赛道神话。正当纽博格林赛道期盼着真实的极速时，部分车企却已用代码编织出"赛道传奇"的幻梦。四门改成两门，轮毂转动轮胎静止，甚至连驾驶员都能被"智能抹去"。这并非技术革新，反倒成了技术界的笑柄。连视频平台都看不下去，直接标记"疑似使用了AI生成技术"，仿佛连算法都在狠狠打脸。去注册"赛道传奇"商标？倒不如注册"AI剪辑"来得更贴切。真正的赛道传奇依靠的是硬实力，而非剪辑手段；凭借的是机械素
央视揭批AI伪造买家秀乱象，A股AI板块面临调整压力
近期，央视揭露AI伪造买家秀黑幕，昔日作为商品真实评价的功能，如今沦为商家利用人工智能大规模制造虚假营销的利器。此事不仅刺破了电商领域的信任泡沫，也为持续升温的A股AI概念板块拉响警报，在行业监管收紧与估值虚高双重夹击下，AI概念恐面临阶段性调整。AI伪造买家秀的盛行，揭示了行业在应用层面的无序扩张。依托低成本、高产出的AI图像生成技术，部分商家无需真实拍摄、无需实际体验，仅需数分钟即可炮制出画面精致、效果诱人的虚假评价，刻意掩盖AI制作痕迹，诱导消费者下单。消费者往往被精美的AI图片所吸引，实际收到的却
AI造假有多真？AI能全都识破吗
97% AI识图准确率97% 但一转到视频就只剩"随机猜"的水平97%97% AI识图准确率97% 但一转到视频就只剩"随机猜"的水平你转发了一条"新闻"。它看着图文俱全、像是坐实了事实，可它究竟是真的还是假的？如今有人流行一种做法：让AI来查AI造出来的假。不过别急，这事远没你以为的那么简单。01你刷到的那条新闻，可能是AI编的 假新闻当然不是新鲜事。 但AI的加入，让问题变得更难收拾。 过去要做一条假新闻，得靠写手、剪辑、配图。 如今只要一秒钟，就能批量
短视频乱象：AI催化下的“导师”泛滥
如今浏览短视频平台，常常令人感到困惑，仿佛处处都是“人生导师”，各种课程层出不穷，但真正具备深度且能实际应用的精华内容却寥寥无几。以下几点，精准地揭示了当前短视频领域存在的根本性问题： 1. 准入门槛过低，“自封专家”成风 以往探讨专业知识或分享见解，至少需要教育背景、从业经验或行业积累作为支撑； 现今情况截然不同： - 简单套上“创业领袖”“情感顾问”“育儿达人”等头衔； - 背诵几条名言、剪辑几段视频、配上激昂的背景音乐； - 就可以开启直播、售卖课程、收割流量。 许多人自身事业未成、婚姻关系处理不佳
机器“编造”真相：AI造假新形态与风险
机器造谎：当算法开始篡改财务真相2024年3月，某港股上市公司被曝发布的行业研报中，多处财务数据与公开报表严重不符。调查发现，这份研报并非分析师所写，而是由AI模型依据网络碎片信息自动生成，并经过人工修饰后发布。更令人震惊的是，该模型虚构了3家“竞争对手”的营收数据，致使公司股价在报告发布后一周内飙升12%。这并非科幻情节，而是现实中正在发生的AI财务造假新趋势。2024年3月，某港股上市公司被曝发布的行业研报中，多处财务数据与公开报表严重不符。调查发现，这份研报并非分析师所写，而是由AI模型依据网络碎片
小红书公布AI治理新规：严查违规运营与内容造假
4月27日晚间，据新浪科技消息，小红书当天对外发布了AI治理规则公告。 小红书指出，“AI提升了创作效率，但也降低了造假的门槛。冒充真人、批量生成内容、侵占他人原创成果——这些做法透支的，是认真创作者长期积累起来的社区信任。小红书现正式推出AI内容治理规则，进一步明确平台态度和管理边界。真诚进行内容创作的人，应该被关注，也应该被保护。” 在“AI内容标识”方面，小红书表示，“平台鼓励创作者如实标注AI内容。无论内容是完全由AI生成，还是在AI辅助下完成再创作，均建议在发布时主动说明。对于未自行标注的AI内
小红书上线AI内容规范：倡导标注，严打造假侵权
4月27日，小红书公布AI治理规则公告，倡导创作者真实标注AI内容。平台支持的AI创作方向包括AI视觉创作、AI角色创作、AI知识科普；平台严禁的AI违规行为则涵盖AI违规运营、AI造假、AI侵权、AI低质等。小红书AI治理规则公告AI提升了创作效率，同时也降低了造假的门槛。冒充真人、批量生成内容、挪用他人原创——被这些行为损耗的，正是每一位认真创作者积累起来的社区信任。小红书现已正式推出AI内容治理规则，进一步划清平台态度和管理边界。真诚进行创作的人，理应被关注，也应得到保护。一、关于AI内容标识平台鼓
高考倒计时57天 | 申怡:作文写"AI造假"易踩坑,80%考生第一步就错了
距高考仅剩57天，作文复习进入冲刺阶段的小伙伴们务必留意！若高考作文考查"AI造假"这一话题，你的本能反应是否要大书特书技术进步、科技双刃剑？我要提醒你，这恰恰是致命的思想陷阱。为何这么说？因为"AI造假"这个命题，核心绝非"AI"，而在"造假"本身。AI不过是工具、是媒介，你围着AI打转，极易偏离主题，甚至跑题，触碰及格线都成问题。那究竟该如何切入？我在视频中已将思路完整梳理——从社会现象剖析到价值思辨，从破题技巧到立意方法，还附带一个通用框架，今后面对"技术+社会议题"类题目，你都能游刃有余。想规避跑
120亿神话破灭，AI造假的代价
警钟已然敲响。作者/冯雨晨报道/投资界PEdaily从封神到坍塌。事件始于《纽约时报》的一篇深度报道：41岁的创业者加拉格尔，凭借一系列AI工具独自闯入远程医疗领域，创立了Medvi——这家公司既没有团队，也未曾融资，却在成立的第二年就创造了近30亿的营收，并扬言要在2026年冲击120亿大关。“全球首个单人运营的十亿美元级公司”，这个故事无疑最能点燃硅谷对AI致富的狂热。连山姆·阿尔特曼都公开表示，很想见见这位奇人。然而，剧情很快反转——原来Medvi利用AI进行了虚假营销，客户案例是通过换脸技术伪造的
加拿大移民造假新手段：AI生成虚假材料，面临五年禁令风险
随着人工智能的广泛应用，加拿大移民体系遭遇了前所未有的难题——不少申请人借助AI炮制虚假证明，甚至杜撰根本不存在的法律条款。最近，加拿大移民、难民及公民部（IRCC）与难民上诉委员会（IRB）均证实，在实际操作中已发现有人利用AI制作内容失实甚至完全虚构的申请材料。据IRB透露，这一现象正显著提升案件处理的复杂度。工作人员察觉到，近年来的上诉文书篇幅虽大幅增加，但质量并未同步提高。部分文件不仅引用了从未出现的判例，还错误地将法律原则套用在无关的论点上。这不仅削弱了文件的可信度，更间接延长了审理周期，加重了