蚂蚁集团发布两款AI安全开源模型 护航智能体与多模态场景

【TechWeb】7月13日报道，蚂蚁AI安全实验室正式公开了智能体安全护栏SingGuard-NSFA，并一同揭晓了多模态安全护栏SingGuard的完整细节。这两款模型分别瞄准“自主执行任务的智能体”和“多模态交互的大模型”两个尖端领域。

SingGuard-NSFA

随着智能体从“解答问题”逐渐转向“独立行动”，AI开始调用外部工具、执行程序代码、协调复杂任务，安全隐患已不仅限于内容层面，更集中体现在行为方面。提示词入侵、敏感数据泄露、恶意脚本运行、资源过度消耗、权限不当使用等问题，传统的文本审核机制难以全面应对。

针对这一挑战，蚂蚁AI安全实验室研发出SingGuard-NSFA，在智能体执行操作前实现即时安全检测，从请求拦截和响应保护两个维度构建行为安全防御体系。

SingGuard-NSFA遵循CIA（保密性、完整性、可用性）准则，参考OWASP等全球安全标准，将智能体风险划分为7个主要类别、28个次要类别和185个具体情境，并建立了涵盖133种语言、接近10万条样本的智能体安全评估框架。

在技术实现方面，SingGuard-NSFA同时满足了安全审计和实时防护两种需求。它提供两种运作模式：一种模式能够逐条生成详尽的风险分析报告，便于事后审查和合规存档；另一种模式则能在约50毫秒内完成单次风险判断，适用于线上高并发场景下的实时拦截。此外，它还提供0.8B、2B、4B、9B四种模型尺寸，以适应不同的部署要求。

多项公开测试结果显示，SingGuard-NSFA在智能体输入和输出的安全检测中均取得了领先成绩。其中，0.8B模型即可达到8B模型的性能水平，在新增风险类别时只需训练轻量化模块，无需重新训练整个模型，从而进一步增强现有安全护栏的检测能力。

SingGuard

与智能体操作安全并行的另一道防线，是多模态交互场景下的内容安全。今年6月，Anthropic推出旗舰模型Claude Fable 5，几天内即被研究人员利用Unicode字符和西里尔字母替换敏感词突破了安全护栏——模型能够还原原意，但分类器却将其视为陌生拼写，系统提示词因此被提取出来。这说明，模型越能理解变形文字、图像和跨模态信息，传统基于关键词识别的护栏就越显得力不从心。

SingGuard正是为此打造的多模态安全护栏。它针对文本、图像及跨模态内容建立统一的安全判断框架，能够识别攻击者将恶意行为隐藏在文字、图片等不同模态中的复杂攻击。同时，它支持运行时动态加载自然语言安全规则，无需重新训练模型即可完成规则更新，更适用于规则持续变化、业务流量较大的生产环境。

在推理机制上，SingGuard采用“快慢结合”的方式：先快速完成初步判断，仅在面对复杂场景时才启动进一步推理，在确保效率的同时提高检测准确率。

在覆盖文本查询、文本回复、图像、多模态和多语言的6大类评测中，SingGuard在35个数据集及评测切分上的平均F1均为最高。其对比对象包括Llama Guard 3、谷歌ShieldGemma、GPT-5.1、Gemini3-Pro等业界最具代表性的主流护栏，SingGuard均实现全面领先。

中国信通院人工智能研究所安全治理部副主任呼娜英指出，随着大模型从内容生成迈向自主执行，AI安全正从内容审核扩展到行为管理和系统治理，成为智能体规模化应用的重要基础能力。蚂蚁AI安全实验室已对开源智能体框架OpenClaw开展专项安全审计，并于今年4月联合清华大学开源智能体安全防御插件ClawAegis，为自主智能体提供覆盖全生命周期的安全防护能力。此次SingGuard-NSFA与SingGuard多模态安全护栏接连开源，是蚂蚁集团持续推进AI安全技术研发和开放生态建设的重要实践。

这些安全技术的研发与开源，基于蚂蚁集团二十余年的安全技术积淀。凭借在支付安全、数据安全、隐私保护和风险治理等领域的长期实践，蚂蚁持续优化AI安全体系，相关能力已应用于蚂蚁阿福、AI版支付宝“阿宝”、支付宝“AI付”等业务场景。