AI法律研究系列第142篇:用肉眼识破AI造假——证据审查中的反深度伪造技巧
最近,澳大利亚国立大学的一项研究给法律界敲响了警钟:别过度依赖鉴伪软件。研究发现,经过简单的特征培训,普通人识别AI生成人脸的准确率能从41.4%(比随机猜测还差)提高到81.1%。这表明,在深度伪造技术飞速发展的今天,“人”依然是关键防线。
作为一名律师,我对此深有体会。在司法实践中,我们遇到了诸多挑战:合同签字是AI换脸伪造的?股东决议视频是合成的?电子证据被篡改过?技术工具如鉴伪软件确实有用,但它们往往是事后补救,且容易陷入算法对抗的循环。法律更注重“证据链”和“内心确信”。今天,我们借鉴这项研究成果,探讨在AI时代,律师和法务如何通过“肉眼尽调”,在引入技术鉴定前,先用法律人的眼睛把好第一关。
在传统法律尽调中,我们依赖原件核对、公章比对、笔迹鉴定。但在数字化时代,这些物理特征正在消失。
审查维度
传统尽调(物理世界)
AI时代尽调(数字世界)
核心挑战
身份识别
比对身份证、护照原件
审查视频、音频、电子签名
深度伪造技术可伪造活体检测
文件真实性
水印、防伪纹、纸张质感
元数据、哈希值、生成痕迹
AI可抹除元数据,生成完美PDF
依赖工具
显微镜、紫光灯
鉴伪算法、AI检测器
算法存在滞后性,且为黑箱,法庭采信度存疑
人的角色
核心:凭借经验判断真伪
边缘化?过度依赖机器结论
回归核心:训练有素的怀疑眼光
澳大利亚国立大学的研究证明:只要掌握正确的特征锚点,人类的模式识别能力依然强大。这种能力,正是法律人最需要的。
研究团队总结了AI生成人脸的六大特征:对称、平衡、完美、乏味、面瘫、易忘。这不仅是看脸的技巧,更是审查所有AI生成证据(合同、文书、图片、视频)的通用法则。我们可以将其转化为法律尽调中的“六维破绽审查法”:
特征:AI生成的人脸往往皮肤无瑕疵、五官极度对称、光影均匀。
法律映射:审查电子合同或公文。AI生成的文书往往格式极度标准、用词滴水不漏、没有任何手写痕迹或涂改。这反而可疑。真实世界的文件总有微小的瑕疵、墨迹深浅不一或排版微调。
律师动作:警惕“完美得像假的一样”的文件。要求提供带红章的扫描件与纸质原件交叉核对。
特征:人脸虽然对称,但耳环、眼镜腿等附属物往往位置奇怪或左右不完全对称。
法律映射:审查图表、数据或流程图。AI生成的架构图可能逻辑线条过于流畅,但在细节连接处(如箭头指向、数据单位、脚注标号)出现莫名其妙的断裂或不一致。
律师动作:重点审查文件的“角落”和“连接处”。AI最容易在这些不需要“美感”的地方出错。
特征:AI倾向于生成符合大众审美的高颜值面孔。
法律映射:警惕AI生成的“样板式”成功案例或客户评价。如果一份尽职调查报告里的客户反馈全是赞美之词,没有任何建设性批评,或者所有数据都好得令人难以置信,这可能是AI为了迎合“正面预期”而生成的“幻觉”。
律师动作:寻找负面信息。如果一份报告全是好消息,它要么是假的,要么是不完整的。
特征:AI生成的人脸往往“大众脸”,缺乏独特的痣、疤痕或皱纹。
法律映射:审查签名和笔迹。AI模仿的签名往往过于流畅,缺乏起笔、收笔时的细微颤抖和压感变化。真实的签名是有“脾气”的。
律师动作:对比历史签名样本。AI签名通常“形似而神不至”。
特征:AI人脸在微表情上存在断层,眼神空洞。
法律映射:审查视频证言或股东会录像。注意当事人的眼神是否始终盯着镜头(而非对话者),面部肌肉是否在某些关键词上缺乏相应的微表情反应。
律师动作:不要只看嘴型,要看眼神和肌肉群。真实的情绪是全身参与的。
特征:看完AI的脸,转身就忘,因为没有独特特征。
法律映射:审查商业模式或技术方案。如果一份商业计划书读完后让你觉得“好像看过很多次”,全是行业热词的堆砌而没有独特的业务逻辑,极有可能是AI拼凑的。
律师动作:追问细节。AI在细节的连贯性和深度上容易露馅。
这项研究给我们的启示是:不要完全把鉴别真伪的任务外包给软件。企业应当建立“肉眼尽调”培训机制。
内部培训:像训练研究人员一样,训练您的法务和合规团队。让他们熟悉上述“六维破绽”,在看电子证据时多问一句:“这会不会太完美了?”
流程嵌入:在《电子证据管理规范》中增加条款:“对于涉及重大利益的电子证据(如千万级合同、股权转让协议),必须经过‘双人复核制’。一人负责技术校验(哈希值、元数据),一人负责‘肉眼尽调’(审查上述破绽)。”
引入“红队”演练:定期让IT部门用AI生成一些假文件混入真实文件中,测试法务团队的肉眼识别能力。
司法存证:无论肉眼和技术鉴定结果如何,对于关键证据,务必使用区块链存证或公证处固定。不要试图在法庭上辩论肉眼识别的准确性,要用不可篡改的第三方记录说话。
技术是中性的,但利用技术的手段可以是恶意的。深度伪造诈骗预估将达400亿美元,这不仅仅是技术问题,更是法律风险和商业信誉的危机。澳大利亚国立大学的研究给了我们信心:人是可以战胜算法的,只要我们受过训练。作为法律人,我们的职责不是成为技术专家,而是成为“怀疑的专家”。在这个AI生成内容泛滥的时代,保持那份“吹毛求疵”的职业本能,或许是我们能为客户守住的最后一道也是最坚固的一道防线。
【附录:AI生成证据“肉眼尽调”审查清单】
审查维度
破绽特征(AI常见缺陷)
律师审查动作
风险等级
1. 完美度
过度平滑、无瑕疵、极度对称
寻找微小瑕疵;核对原件
高
2. 结构
附属物错位、逻辑连接断裂
重点审查脚注、图表连接处、数据单位
高
3. 内容
全是套话、无负面信息、数据完美
追问细节;寻找反面证据
中
4. 个性
签名过于流畅、缺乏压感变化
对比历史签名;进行笔迹鉴定
高
5. 动态
眼神空洞、微表情缺失(视频)
观察非语言沟通;核对唇音同步
高
6. 记忆
内容似曾相识、缺乏独创性
进行原创性检索;核查抄袭
中