AI Agent能力跃升,安全边界不能忽视

幻境智算 · AI 创业观察AI Agent 的执行能力越强，越不能只谈效率。真正能长期运行的智能体，必须先把权限、确认和风险边界设计清楚。这几天还有一个热点，值得做 AI Agent 的人认真看一眼。Anthropic 6 月 3 日发布了一份 AI 网络威胁分析，研究了 2025 年 3 月到 2026 年 3 月之间，832 个因恶意网络活动被封禁的账号。里面有个数据很刺眼：560 个账号，也就是 67.3%，用 AI 辅助编写恶意软件。更重要的是，攻击者开始把 AI 用到更复杂环节。这说明一件事：