张涛等：生成式AI驱动下深度伪造情报的生成机理与风险防控
摘要
伴随生成式人工智能（GAI）的迅猛演进，深度伪造技术持续迭代，由此催生出深度伪造情报这一新型威胁形态。它既给情报工作带来全新风险，又对社会稳定与国家安全形成严峻挑战。但既有研究缺少面向情报领域特殊性的系统化治理方案。基于此，文章搭建“三维四层”分析框架，解析深度伪造情报的生成机理、核心特质与运作模式。研究表明，深度伪造情报沿循“模态协同-语义融合-语境适配”的生成路径，其风险横跨技术、流程、组织、法律与战略五个维度。据此，研究给出涵盖技术对抗、流程重塑、机构强化、法律规制与国际协作的层级递进式治理策略。
关键词：生成式人工智能；深度伪造情报；生成机理；情报风险；治理策略
「READING」
近年来，生成式人工智能（GAI）的飞速发展推动深度伪造技术跃升至新阶段。依托强大的内容生成与语义解析能力，GAI正深度重塑信息的生产、传播与认知范式，其应用已由文本生成延伸至图像、音频、视频等多模态领域，逐步消弭了真实与虚构的边界。这一变革在催生信息表达创新的同时，也从更深层面波及情报的生成与认知机制。借助深度伪造技术生成的情报，经由跨模态语义融合与细粒度合成，使虚假内容在视觉与听觉层面极具欺骗性，既改变了传统情报的生成逻辑，又对个人隐私、社会稳定乃至国家安全构成潜在威胁。特别是2025年以DeepSeek-OCR为代表的多模态文档智能模型迭代升级后，一旦与GAI结合，二者的技术特性与风险可能形成叠加放大效应。若训练数据遭受污染，其后果将难以估量。现实案例已多次暴露深度伪造的威胁。2024年美国大选前夕，新罕布什尔州部分选民接到仿冒拜登总统声音的虚假电话；同年，AI生成的泰勒·斯威夫特不雅图片在社交平台大量扩散。这些事件表明，伪造内容的滥用已成现实难题，而既有监管与技术防护仍存在显著短板。深度伪造情报整合文本、图像与语音等多维信息，具备生成逻辑复杂、检测难度高、社会影响隐蔽等特征。深入剖析深度伪造情报的内涵特质与生成机制，揭示其逻辑链条与风险结构，将深度伪造情报视作一种全新的情报生产范式，研究它如何颠覆传统情报的循环模式，探索有效治理策略，既有助于防范现实风险，也对人工智能治理体系与情报学理论的完善具有重要意义。
1
文献综述
经由梳理既有文献，可以发现相关研究呈现出一条由虚假信息到情报迷雾、再到深度伪造信息的演进脉络。
1.1 由虚假信息至情报迷雾
虚假信息作为一种被持续关注的重大社会问题，泛指经由媒体发布且已被证实为虚假的新闻、文章或消息，核心特征在于内容的不真实性，却未必具有明确的意图性，可从语言、情感、用户行为等维度加以识别。其破坏性已深入渗透至生活的每个角落，覆盖灾难、公共卫生、政策管理、社会、经济金融、气候变化等众多领域，使公众身处一个名为“后真相”的时代。在情报学视野下，虚假信息常被用于构建信息迷雾，这是一种旨在干扰普通民众与情报部门判断的特殊信息传播现象。信息迷雾的生命周期囊括生成、传播与影响三个阶段，而“情报迷雾”则特指情报工作中因信息不确定性而产生的认知障碍，其特点体现为信息真伪交织、归因主客观并存，且在应对上需兼顾预防与利用。在人工智能技术迅猛发展的背景下，Groh等观察到生成式人工智能制造虚假信息的能力持续增强，这为形成情报迷雾提供了更强大的技术支撑。
1.2 深度伪造作为新型虚假信息的演进与定位
在社会科学研究中，深度伪造常被视作虚假信息的一种高阶形态。既有研究主要围绕以下三个维度展开：一是生成机理。万宏静和崔琦指出，深度伪造内容输出遵循“数据收集-处理-模型训练-算法微调-内容输出-反馈优化”的闭环流程；周妍和沈天健进一步提出“创设层-撒播层-流通层”的三级运作模型，揭示其低成本、大规模渗透公共领域并引发信任危机的机制。二是安全风险。黄静等将风险划分为内生性与衍生性两类，指出其呈现嵌套性与层级性交织的特征；盘大清等发现深度伪造易加剧误导性认知与舆论极化；冉连和张薇则从行动者网络理论出发，警示其可能引发技术宰制与道德消解等社会效应；Langa还发现深度伪造具备惊人的挑起武装冲突的能力，而此类冲突对国内与国际安全格局而言都极其危险。三是治理策略。在技术层面，蒋超和朱学芳提出通过多模态特征融合提升谣言检测的精度；在监管层面，何宇华和李霞倡导政府主导的敏捷治理模式，张涛等引入元宇宙沙盒构建全流程动态监管机制；还有学者主张从规范体系、责任分配等维度构建审慎治理框架。
综上所述，深度伪造是生成式人工智能时代虚假信息的高阶形态，学界已就其生成机理、安全风险与治理策略等议题展开了较为深入的研讨。然而，既有研究大多聚焦于一般性的深度伪造信息，仅少数文献间接涉及更具威胁性的“深度伪造情报”议题。相较于普通深度伪造信息，深度伪造情报具备更强的主观恶意性、目标针对性与战略欺骗性，其风险更集中于国家情报与安全领域。尽管如此，既有研究多将其视为泛化的技术现象，未能充分结合情报活动的内在规律与对抗属性展开分析。在治理层面，既有对策也主要围绕技术检测与一般性内容监管展开，尚未形成与情报领域特殊性相匹配的系统性治理框架。鉴于此，本文以“深度伪造情报”为研究对象，重点聚焦生成式人工智能与深度伪造技术融合所引发的情报领域新型风险，拟开展以下三方面研究：首先，系统梳理并界定深度伪造情报的概念内涵，厘清其与相关概念的差异；其次，构建深度伪造情报的运行逻辑框架，系统阐释其生成机制与作用模式；最后，揭示其在情报场域中独特的表现形态与风险，并围绕技术、管理、法律等多维度，提出一套适用于情报领域的系统性递进治理策略，以期为应对此类新兴威胁提供理论依据与实践参考。
2
生成式人工智能环境下深度伪造情报的概念界定与核心特征
2.1 学术溯源与概念界定
(1) 学术溯源。在情报学领域，虚假情报的研究可追溯至传统情报战理论，指通过人为捏造、篡改等方式制造的，用于误导敌方决策的虚假信息。伴随生成式人工智能技术的发展，虚假情报的生成方式发生了根本性变革，深度伪造技术的应用使虚假情报在逼真度、欺骗性上实现质的飞跃，逐渐形成一种新型虚假情报形态。既有文献中，刘杰首次关注到深度伪造技术引发的情报风险，涵盖给情报工作带来的风险与充当情报工具的风险两个方面；易侃和徐欣在情报可信分析语境中提及深度伪造技术对情报真实性的冲击；张涛等探讨了文生视频深度伪造引发的情报风险。但这些研究均未明确界定深度伪造情报的概念。
(2) 概念界定。本文在借鉴既有研究的基础上，结合生成式人工智能的技术特性，将“深度伪造情报”界定为一种以生成式人工智能为技术核心，运用深度伪造技术对文本、图像、音频、视频等多模态数据进行深度合成，所生成的具有高度欺骗性、旨在故意误导特定对象决策的虚假情报。在此界定中，生成式人工智能与深度伪造技术是基础支撑；多模态融合、高度逼真性与明确的情报目的性是其主要特征；而其核心目标在于干扰和误导决策。这一定义明确了深度伪造情报的本质并非技术本身，而是该技术在情报领域中具有明确恶意的应用产物。由此可见，深度伪造情报是虚假情报在新技术条件下的一种高级形态。相较于主要依赖人为捏造、内容往往较为粗糙的传统虚假情报，深度伪造情报在视觉真实性、语义连贯性与行为拟真度上实现了显著跃升，因而具备更强的欺骗性，不仅识别难度更大，其可能造成的危害也更为深远。为进一步厘清概念边界，本文将深度伪造情报与相关概念进行了对比分析（见表1）。
2.2 多重特征
深度伪造情报是生成式人工智能在情报领域的恶意应用，与旨在提升信息处理效能的智能情报形成鲜明对立。其特征主要体现在数据、环境与技术三个层面，共同构成其高维欺骗性。
(1) 数据特征：多模态融合的高维欺骗。区别于传统的单一模态伪造，深度伪造情报通过对文本、图像、音频、视频等多模态数据的深度融合与生成，实现各模态要素在内容逻辑与时空关系上的高度一致性。这种交叉印证的虚假信息结构，使其成为虚假情报的升级形态，辨识难度显著增加。
(2) 环境特征：不确定性场域中的认知渗透。深度伪造情报尤其善于利用信息更新迅速、