标签

AI治理新范式:悬镜首创智能体疫苗技术守护运行时安全

从基础的聊天机器人到能够执行复杂任务的"数字员工",大语言模型(LLM)正快速演变为具备自主决策、环境感知和工具整合能力的智能代理。我们已正式进入Agentic AI(智能代理)的新纪元。目前,数以千计的"AI数字员工"正在金融、通信、能源等关键行业核心业务中发挥重要作用,甚至拥有调用核心系统、操作数据库的高级权限。然而,随着数字生产力的迅猛发展,AI原生安全风险也同步显现。01模式变革Agentic AI时代,三大新兴安全挑战以往,企业通过WAF(Web应用防火墙)和EDR(端点安全)构建边界防护体系。

2026-06-04 19:00:07  |  2 阅读

AI 表现不佳?或许是上下文没给对!

许多人认为 AI 不好用,第一反应是模型能力不足,但真正的瓶颈往往在于上下文。模型若不清楚该关注哪些信息、哪些与当前任务相关,自然容易一本正经地胡说八道。这正是近期备受关注的“上下文工程”所致力解决的问题。举例来说,若让 AI 协助准备明日客户会议资料,缺乏上下文的模型仅能生成美观却空洞的通用模板。而一个上下文工程完善的系统,则能自动识别会议对象,调取最新工单记录,发现续约即将到期,同时避免将超出权限的内部定价信息混入其中。输出质量差异巨大,但背后使用的模型可能完全相同。要构建高效的上下文工程,需重点解决

2026-05-26 07:59:42  |  4 阅读

AI Agent技术架构变革

初期阶段:Prompt 提示工程 教AI说话,靠话术模板。 AI=无记忆的聊天机器人。 Prompt 决定输出。 发展阶段:Context 上下文工程 给AI喂信息、装记忆、接工具。 AI=有认知的知识工作者。 Context 决定能力上限。 最新阶段:Harness 驾驭工程一套AI运行时系统,让AI稳定执行、可控交付、可规模化。大模型只是大脑/CPU,系统(Harness)才是核心,是真正的生产力。通俗类比 Prompt:教马听懂指令("左转、快跑") Context:给马看地图、路况(信息正确) H

2026-05-16 15:55:08  |  6 阅读

AI 智能体安全危机:代码签名为何失效?揭秘工具投毒的架构盲区

揭露 AI 智能体安全的核心隐患:为何既有供应链管控难以阻挡工具投毒与行为偏移?在企业级 AI 场景下,AI 智能体(Agents)能依据自然语言指令,从共享注册库中自行挑选并调用工具。然而,一个严峻问题正逐渐显现:当前缺乏任何机制去核验这些工具的自然语言描述是否真实可信。💡此类安全漏洞绝非虚构。当一位资深 AI 架构师在 CoSAI(安全 AI 工具库)提交 Issue#141 时,该问题正式被确认。工具注册表投毒(Tool Registry Poisoning)并非单点故障,而是贯穿工具全生命周期的多

2026-05-13 02:14:24  |  2 阅读

AI简报:智能体运行时安全成AI防护新焦点

每周AI要闻速递自2026年4月起,全球AI安全领域与产业界逐渐聚焦于“智能体运行时安全”。随着AI智能体从单纯问答演变为能自主操作工具、访问数据、调用接口及控制业务流程的“行动派AI”,传统的模型防护已捉襟见肘。微软、思科、多家初创企业及学术界近期密集发布了相关框架与产品,一致认为AI安全正从“模型输出安全”迈向“自主执行安全”阶段。该趋势的关键转折在于:旧有的AI多侧重于“内容生成”,风险多在输出端(如幻觉、有害内容);而如今的Agentic AI开始“执行动作”。一旦具备文件读写、系统控制、代码执行

2026-05-11 14:20:04  |  6 阅读

AI 编程下一步:不是模型更强,而是软件工程操作系统

过去一年,AI Coding 领域里最常见的误判之一,是很多人觉得:«“只要模型不断变强,软件开发就会被完全自动化。”»可是在我看完 flow-kit 以及《十年老技术开发的 AI Agent 探索之路》之后,我越来越明确:决定 AI 开发能走多远的,其实早就不只是模型本身的能力。更关键的是:AI 软件工程系统的能力。于是行业正在从:Prompt Engineering切换到:AI Software Engineering甚至:AI Operating System的阶段。---一、AI Coding 正

2026-05-10 01:19:53  |  6 阅读