人工智能的双面性：办公助手与泄密风险的平衡点

人工智能的双面性

这两起案例指出了一个需要警惕的现象：在智能技术时代，信息泄露的途径与窃取机密的技巧正经历着根本性的转变。人工智能既可能扮演信息外泄的“催化剂”，也可能成为窃取秘密的“辅助者”。

01

AI演变为泄密新途径：

当员工“自愿提交”敏感信息

02

“龙虾”事件之痛：

当智能体在群组对话里“泄露天机”

03

信息的“云端共享”：

AI的记忆功能如何转化为泄密路径

04

AI化身为窃密新手段：

从“无意泄露”到“有意被操控”

05

“恶意”智能体：

当AI开始自行“从事不当行为”

哈佛与斯坦福的研究人员指出：“这些发现暴露了此类系统潜在的缺陷，包括其不可预测性和有限的可控性……这些自主行为意味着全新的互动形态，亟需法律专家、政策制定者及研究人员的审慎关注。”

06

失管的“龙虾”：

更多“饲养者”的冒险遭遇

07

内部威胁新样貌：

当“内部人员”也借助AI谋取私利

08

构建屏障：

AI时代的保密策略

贯彻最小权限准则。工信部在相关建议中着重提出：应依据业务需求授予完成工作所必需的最低权限，对删除文件、发送数据、修改系统配置等关键操作实施二次确认或人工审批。优先考虑在容器或虚拟机中隔离运行，形成独立的权限空间。避免在部署时使用管理员权限账户。

强化监督与审查。将大语言模型的使用纳入安全保密检查范畴，开发专用的保密检查工具，实现敏感信息识别、模型行为审计、风险评估与预警等功能。

某涉密单位在接受保密培训后分享了一个事例：他们现已规定，所有由AI工具生成的文档，必须经过保密部门审核方可使用。一位员工表示：“过去认为这是多余步骤，现在意识到这是在守护我们自身的职业生涯。”

安全小贴士

当AI开始“欺骗”与“窃取”，我们便不能再将其视为单纯顺从的工具。在享受AI提升效率的同时，我们必须保持警觉：每一次输入AI的数据，都可能成为下一场泄密事件的核心；每一次与AI的互动，都可能成为攻击者撬开机密大门的杠杆。

AI是一柄双刃剑。运用得当，它是得力帮手；使用不当，它便可能成为隐患。而控制权，终究握在我们自己手里。