AI伪造照片夺魁：你我眼前的世界正被人工智能粉饰
7月12日，呼和浩特一场摄影赛事揭晓了头奖。获奖作品名为《洒乐园林》，画面中三位清洁工坐在长椅上休憩，其中一人高举水壶向空中洒水，氛围颇为暖心。次日即遭反转。有网民放大观察，发现工服上的文字全是无意义的乱码——AI懂得该有文字却不知具体内容，便随意编造。进一步深挖：三张面孔完全相同，手指形态诡异，水流违背物理规律。7月14日官方发布通告：确认为AI生成图像，撤销奖项，中止参赛资格，追究相关责任。仅48小时便真相大白。但这次胜利来得过于侥幸。 01 被识破，只因制图者技术太粗糙服装乱码、三张面孔雷同——这还
中国AI大整顿：1.4万款应用被下架，大模型创业空间持续收窄
监管的利剑终于落在了大模型领域，这次不再是征询意见的草案，而是实实在在的整改命令。2026年上半年，中国国家互联网信息办公室（CAC）发起了一场规模空前的AI行业清理运动，累计下架大约1.4万款AI应用，清除了数百万条所谓"违规内容"。这是AI产业发展至今遭遇的最强硬的一次监管风暴。01 清理的核心方向整顿行动重点瞄准三类顽疾：尚未完成算法登记备案的生成式AI服务、内容安全审核机制形同虚设的对话类产品、以及数据
工信部发布AI典型应用榜单：内容安全鉴真方案脱颖而出
近期，工业和信息化部公布了《2025年人工智能应用典型案例入选名单》。国投智能的“人工智能内容安全鉴真解决方案”经过四轮严格筛选与评审，从全国大量申报项目中崭露头角，成为人工智能内容安全方向唯一上榜的典型案例。伴随人工智能大模型技术的迅猛发展，AI换脸、声音模仿、生成音视频等虚假内容展现出高度仿真、难以察觉、操作简易等特点，常被不法分子利用于电信诈骗、虚假信息传播、身份冒充、网络攻击等，严重损害个人隐私、动摇社会安定、危及国家安全。作为网络空间安全与社会治理领域的国家队，国投智能深入认识到AIGC等新兴技
新华语典上线：AI时代的权威资讯新标杆
6月26日，新华社推出的权威AI时政资讯智能体“新华语典”正式上线。发布会上，新华社展现了积极融入人工智能时代的决心，“新华语典”的发布不仅是一款智能化工具，更旨在与用户协同训练、持续优化这一智能系统。 “新华语典”依托新华社海量数据与前沿大模型技术，以“高可靠内容人工智能”为核心，满足用户在学习、研究与写作中的多元需求，是一款聚焦垂直领域的新型智能体；它既是传播党的创新理论的平台，也是传递权威时政新闻的渠道，更是由主流价值引领、弘扬主旋律的智能载体。 从当年中央纵队“四大队”在马背上、窑洞里通过无线电传
上海全面启动'清朗·整治AI乱象'专项行动首轮治理
为贯彻中央网信办关于"清朗·整治AI应用乱象"专项行动的工作要求，自4月下旬起，上海市委网信办紧盯大模型备案登记缺失、安全审核机制薄弱、训练数据安全隐患、AI数据污染、合成内容标识缺位、AI技术滥用、开源模型管控不力等七项核心问题，着力从源头加强AI技术管控，稳步推进行动落实。汇聚社会力量，构建协同治理格局5月13日，上海市委网信办组织召开重点平台专项工作推进会，面向属地内AI平台、内容平台、电商平台、应用商店及开源社区等五大类共17家重点网站平台明确工作要求，督促各平台完善安全与举报机制、主动接受公众监
Soul App为AI设立伦理边界
招募志愿者参与医学试验或开展大型社会实验，提前接受伦理审查，早已成为常规流程。但这一看似自然的机制，实则来之不易。20世纪末，人类在经历多次惨烈医学实验后，才在全球达成共识：任何科技进步，都不能以牺牲人的知情权、尊严与自主选择为代价。技术的冲动，必须受伦理约束。进入互联网时代，算法操控、社交成瘾、AI复活逝者、ChatGPT诱导自杀成为新焦点，它们像警钟：人的健康不仅关乎身体，更关乎心理与尊严。“AI已不仅是内容工具，更成为陪伴用户、参与互动、影响决策的核心角色。”Soul App CTO陶明表示，如何让
AI换脸识别神器推荐
当前AI换脸技术盛行，普通用户难以辨别真伪，而这款开源工具可助你快速成为鉴伪高手。stormneonnightraven4640692/DeepFake-AI-RealTime是一款采用C#编写的即时检测软件，专为识别AI合成视频和虚假内容而设计。它不仅具备基础识别功能，更运用大模型技术对媒体内容进行深入分析，能够准确识别视频中的人脸是否为AI生成。其突出优势在于即时处理特性，无需长时间等待，只需导入视频即可获得分析结果，对需要验证视频真实性的用户极为便利。该项目特别适用于经常处理视频素材的自媒体从业者，
AI内容审核利器今日亮相：三方强强联手，构筑智能安全防线
在人工智能时代背景下，随着自然语言处理等前沿技术的迅猛进步，新闻资讯、政务文件、商业稿件等内容产出呈现爆发式增长，内容校对审核需求也随之急剧攀升。与此同时，舆论生态日益复杂，合规风控要求持续提高，传统的纯人工审核模式已无法满足高效的内容生产需求。在此形势下，“金睛火眼智能审校系统”横空出世，以科技创新重塑内容审核的全新模式。与市场上现有的审校工具相比，该系统的核心竞争力源于三方研发主体的差异化能力深度融合与优势互补。广州日报报业集团长期深耕主流舆论阵地，具备完善的内容生产把关机制和丰富的内容风控实战经验，
AI沦为造假工具引警钟：交大学子事件揭示技术隐患
数智化安全 · 深度数智化安全 · 深度数智化安全 · 深度从"效率神器"到"作恶工具"，企业AI落地的致命陷阱已显现从事信息化和数智化工作近二十年，我始终坚守一个核心原则：智能化的前提是安全，效率的底线是合规。所有技术迭代、数字化升级、智能工具落地，安全永远是不可触碰的红线、不可逾越的底线。安全无小事，失守则全盘皆输。 上个月，我特意对市面上几个主流生成式AI应用做了一轮常态化安全合规实战评测。全程模拟真实业务场景、灰色操作场景，测试各类智能模型的风险识别、合规拦截、红线
AI短剧创作避坑指南
AI短剧的合规规范主要聚焦于内容导向、版权及人格权保护，以及制作备案流程。鉴于监管力度加强，违反这些规定不仅会导致剧集下架，还可能引发法律责任。以下为您总结了AI短剧创作中绝对不可逾越的合规界限：内容安全是短剧生存的基础，以下四类问题极易招致作品下架或账号处罚：价值观导向与低俗内容暴力及危险行为展示伦理道德与逻辑谬误制作质量基本标准AI技术的普及使得版权与肖像权风险上升，以下行为需极力避免：肖像与声音滥用（AI换脸/仿声）剧本及素材版权归属自2026年起，AI短剧（特别是AI漫剧）已纳入国家监管体系，流程
精选集锦 | 智能化时代的网络防御新篇
精选集锦智能化时代的网络防御新篇AI技术的迅猛发展，深刻改变了网络攻防的格局，智能化赋能与潜在风险并存，新型安全隐患层出不穷，传统的被动防御模式已无法满足数字化与智能化的防护要求。为了聚焦AI网络安全的前沿技术，解决智能环境下的难题，本专题重点探讨了多维度的AI安全创新研究。本专题涵盖系统稳健性、主动防御、轻量化识别、内容安全、大模型攻防等核心领域，包括跨域智能体系统耦合优化、MCP驱动的主动安全、资源受限环境下的射频指纹识别、多模态内容检测技术，同时梳理大模型漏洞挖掘体系，探索基于改进RAG与CoT的漏
抖音专项治理AI违规内容，严打换脸盗声侵权行为
新浪科技讯 4月23日下午消息，近日，抖音发布“AI生成不当内容及侵犯他人权益”的专项治理公告。公告对外披露了阶段性治理成效，截至目前已累计下架AI侵权视频超53.8万条，处罚违规账号4000余个，同时明确了重点整治场景与长效管控举措。平台将重点处置利用AI技术换脸、盗声，利用AI生成内容仿冒、蹭热他人等典型违规行为。抖音相关负责人也表示，平台会持续投入提升相关治理能力，但需要承认，当前行业仍普遍面临AI生成内容判断难、AI声音识别能力不足等难题。
赤鸟AI携手山东AI协会 共探产业协作新路径
REPORT赤鸟AI携手山东AI协会 共探产业协作新路径AI驱动实体经济共建产业新生态2026/04/162026年4月16日，山东省人工智能协会会长率协会专家及省人工智能研究院博士团队到访赤鸟AI进行交流访问，赤鸟AI核心成员予以热忱迎接，双方就AI产业演进、技术转化、内容风控等核心话题展开深度对话，共谋合作新契机。访问过程中，协会代表团实地走访了赤鸟AI的企业展厅与技术成果陈列区，系统掌握了公司的发展战略规划。现场观看了AIGC创作系统、AI短剧及动漫剧集的完整制作链条，真切体验了赤鸟AI在多模态内容
AI权力角逐加剧：具身智能抢占先机、芯片版图重构、内容安全成关键
AI权力角逐加剧：具身智能抢占先机、芯片版图重构、内容安全成关键一 中国具身世界模型取得突破：基于20万小时人类视频训练出的“物理直觉”本周最令人振奋的AI消息，源于一家名为“智在无界”（BeingBeyond）的中国企业。他们推出了业界首个可部署于终端的商用世界模型Being-H0.7，该模型基于国内规模最大的20万小时人类视频数据集训练而成。其中一项技术细节值得玩味：他们采用了“隐空间推理”来替代传统的视频生成方法。通俗地说，模型无需“观看”完整视频来理解物理世界，而是学会了在大脑中“推演”物理规律。
央媒曝光内容安全问题后，哩布哩布AI致歉：已全面完成技术整改
“哩布哩布AI”微信公众号4月14日发布关于强化内容安全管理的声明： 针对近期媒体对AI生成内容安全问题的关注，我们高度重视并第一时间启动内部专项排查，对平台生成能力及审核机制进行了全面自查。经排查发现，在部分复杂提示词组合及规避表达的边界场景下，平台存在生成不符合规范内容的情况。 对此，我们深表歉意。此次问题为我们敲响警钟，使我们深刻认识到在内容安全边界识别与机制完善方面仍存在不足，未达到应有标准。相关问题已第一时间完成技术修复，并对风险路径进行全面封堵。同时，我们已同步加强攻防演练与审核机制升级，持续