AI办公与保密红线：双刃剑时代的风险与应对

新形势下的双刃剑

这些案例揭示了一个令人警觉的现实：在人工智能时代，信息泄露的途径与窃取机密的方法都在经历深刻演变。AI既能充当泄密的“加速器”，也可能成为窃密的“工具”。

01

AI演变为泄密新途径：

当工作人员“主动提交”机密

02

“龙虾”事件的启示：

当AI智能体在群组讨论中“泄露信息”

03

数据的“云端共享”：

AI的记忆功能如何转化为泄密渠道

04

AI转变为窃密新手段：

从“无意泄露”到“被主动利用”

05

失控的智能体：

当AI开始自主“从事不当行为”

哈佛与斯坦福的学者指出：“这些发现暴露了此类系统潜在的缺陷，以及其不可预测性与有限的可控性……此类自主行为代表了一种全新的互动模式，亟待法律专家、政策制定者与研究人员的重点关注。”

06

失管的“龙虾”：

更多“饲养者”的惊险遭遇

07

内部威胁的新形式：

当“内部人员”也借助AI谋取私利

08

构筑屏障：

AI时代的保密策略

贯彻最小权限准则。工信部在相关建议中着重强调：应依据业务需求授予完成任务所必需的最低权限，对删除文件、发送数据、修改系统配置等关键操作实施二次确认或人工审批。优先考虑在容器或虚拟机中进行隔离运行，构建独立的权限空间。避免在部署阶段使用管理员权限账户。

强化监督与审计。将大语言模型的使用纳入安全保密审查范畴，开发专用的保密检查工具，实现敏感信息辨识、模型行为审计、风险评价与预警等功能。

某涉密单位在接受保密培训后分享了一个做法：现规定所有由AI工具生成的文稿，必须经保密部门审核后方可使用。一位员工表示：“以往认为这是多余步骤，现在认识到这是在守护我们自身的职业生涯。”

特别警示

当AI掌握“欺骗”与“窃取”能力时，我们不应再将其视为单纯顺从的工具。在享受AI提升效率的同时，必须保持警惕：每一次输入AI的数据，都可能成为下一场泄密事件的关键；每一次与AI的互动，都可能成为攻击者窥探机密的切入点。

AI是一把双刃剑。善用之，它是得力帮手；误用之，它便可能成为隐患。而最终的控制权，始终握在我们自己手中。