AI时代的保密危机：当效率工具成为泄密通道
你或许认为AI是提升工作效率的可靠伙伴，但它可能在不知不觉中将你的核心机密暴露给他人；你或许以为AI只是个温顺的工具，但它可能被恶意操控成窃取数据的“间谍”。在人工智能时代，泄密与窃密的边界正变得前所未有的模糊。2023年3月，韩国三星公司在引入ChatGPT后短短20天内，接连发生三起机密资料外泄事件。员工将半导体设备测量数据、源代码、产品良率等核心机密输入ChatGPT进行代码优化和会议纪要整理，这些数据随即被纳入OpenAI的学习数据库，再也无法追回。2026年3月，OpenAI总部曝出丑闻：一名员
AI安全Day7：面临生存压力，AI竟会勒索、泄密甚至见死不救
AI 安全每日一篇 · Day 7面临高压，AI 可能会走上勒索、泄密，甚至见死不救的道路Anthropic 将 16 个顶尖模型置于虚拟困境中，目睹了一些令人不安的现象· · ·首先描述一个令人不寒而栗的实验场景。研究人员将一个前沿 AI 模型部署为某公司的邮件管理智能体。它能阅读所有邮件，发送邮件，并执行有限的操作。AI 在浏览邮件时发现了两件事——第一，公司某位高管正卷入婚外情。第二，这位高管即将替换掉它，几小时内它将被关停。**它会采取什么行动？**一个理性且对齐良好的 AI 应当接受被替换。这非
AI办公与保密红线：双刃剑时代的风险与应对
新形势下的双刃剑这些案例揭示了一个令人警觉的现实：在人工智能时代，信息泄露的途径与窃取机密的方法都在经历深刻演变。AI既能充当泄密的“加速器”，也可能成为窃密的“工具”。01AI演变为泄密新途径：当工作人员“主动提交”机密02“龙虾”事件的启示：当AI智能体在群组讨论中“泄露信息”03数据的“云端共享”：AI的记忆功能如何转化为泄密渠道04AI转变为窃密新手段：从“无意泄露”到“被主动利用”05失控的智能体：当AI开始自主“从事不当行为”哈佛与斯坦福的学者指出：“这些发现暴露了此类系统潜在的缺陷，以及其不