标签

AI攻防实战专题:智能体安全与风险对抗论坛精彩内容

发布时间:2026-06-01 19:20来源:微信阅读:4

AI攻防实战:智能体安全与风险对抗分论坛

本论坛聚焦实战攻防视角,全面剖析大模型与智能体安全范式、AI红队攻击面、恶意技能攻防、视觉AI对抗防御及MCP攻击风险等核心议题,通过技术对抗与工程实践相结合的方式,助力提升AI系统主动防御与应急响应能力。

AI攻防实战:智能体安全与风险对抗分论坛作为TiD2026质量竞争力大会首届AI Safety & Security 人工智能安全与风险治理大会的并行分论坛,将于7月30日至8月1日TiD2026大会期间同步举行,会议地点位于北京海淀中关村国家自主创新示范区会议中心,论坛具体时间以最终TiD大会议程为准,敬请期待!

大模型与智能体安全范式研究与工程化实践

张晓兵

保旺达 首席安全专家

演讲介绍:

回顾安全行业四十年的演进历程,每个阶段都会涌现出标志性的杀手级产品与领军企业,这表明安全领域在不同时期存在差异化的范式框架。由于安全厂商受制于路径依赖,往往在旧范式框架下开发新产品,导致产品竞争力下滑。大模型和智能体安全代表着全新的时代安全范式,在此框架下如何打造具有竞争力的AI安全产品,成为行业亟待解决的重要课题。本演讲基于对安全行业的长期跟踪研究,提出了创新的AI安全范式,并在该框架下开展工程化实践,具有重要参考价值。

AI红队攻击演练—攻击面与安全风险

任芊霓

红队攻防专家

演讲介绍:

分享AI红队演练方法及现代AI系统中出现的新型安全风险。内容涵盖提示词注入、AI智能体操纵、检索增强生成(RAG)利用等核心技术,探讨AI供应链及部署基础设施面临的安全威胁。通过真实案例深入揭示AI系统被操控、欺骗和滥用的方式,并提供在快速变化的安全环境下如何强化AI系统防御的实用建议。

大模型时代恶意SKILLS自动化生成与防御检测

宁宇飞

360 漏洞云AI安全与技术发展专家

演讲介绍:

在OpenClaw盛行的背景下,Skill的关注度与重要性再度凸显。本议题在红队大模型的支持下,探讨如何利用大模型自动化生成恶意Skill进行攻击测试,以及如何借助LLM实现恶意Skill检测,为听众构建Skill攻防双向的完整技术视角与实践方法论。

基于Diffusion Model的对抗净化:视觉AI攻击的实战防御与质量保障

杨小华

(flower)

人民邮电出版社网络安全专家、西部猎人网安实验室负责人

演讲介绍:

本议题介绍一种面向视觉AI系统的高鲁棒性安全方案:基于扩散模型的对抗净化技术。针对停车牌贴纸攻击导致自动驾驶识别异常、透明通道干扰造成工业质检漏检、红外网格攻击欺骗人脸识别与行人检测等已验证的现实威胁,该方法运用扩散模型的逆向生成过程,在推理阶段构建前置净化模块,自动清除输入图像中的对抗扰动,无需识别攻击类型,也无需修改原有模型架构,即可实现即插即用的安全增强效果。

MCP攻击讲解与分析

鲁彦烨

信息安全工程师

演讲介绍:

本议题从攻击者视角全面切入,分析Model Context Protocol 存在的攻击面与潜在风险,针对个人及企业级MCP应用场景,揭示可能面临的安全威胁,展示具体攻击案例,为个人和企业安全使用MCP提供参考,敲响MCP服务安全警钟。议题将从个人使用MCP的风险漏洞与案例、企业使用MCP的风险与案例、常见MCP漏洞威胁分析以及安全使用MCP建议等维度进行深入讲解,以PPT讲解形式呈现。

第一届 AI Safety & Security

人工智能安全与风险治理大会

当前AI技术正加速向各行各业渗透,AI智能体、具身智能等前沿领域蓬勃发展,同时提示注入、多智能体数据泄露、供应链安全等新型风险集中显现,安全治理已成为AI高质量发展的核心前提。2026年以来,全球AI安全议题从技术层面上升至国际战略高度,慕尼黑安全会议首次设立AI核心论坛,各国加速推进治理框架与标准建设。我国"AI+"行动深入实施,统筹AI创新与安全治理的需求日益迫切。

在此背景下,TiD2026 重磅推出第一届 AI Safety & Security 人工智能安全与风险治理大会,大会由金山云网络安全专家、金山集团特聘安全专家蔚永强老师发起,蔚老师深耕攻防技术、AI安全与风控体系建设,参与工信部反诈专项溯源打击工作。曾任职中国电子、中科院信工所等单位,服务党政军及央企,主导红蓝对抗、情报研判及国家级安全专项任务。大会聚焦前沿风险与实践路径,为AI安全领域搭建交流协作平台,助力构建可信安全的AI发展生态。

后续我们将持续揭晓更多演讲嘉宾,敬请关注【TiD质量竞争力大会】公众号,共同解锁智能时代研发新范式!

TiD质量竞争力大会

TiD质量竞争力大会(英文名称 TiD)是由中关村智联软件服务业质量创新联盟主办,在整合行业三大专业会议——中国系统与软件过程改进大会 SPIChina、中国软件测试大会 ChinaTest、以及中国敏捷软件开发大会 AgileChina 的背景下,于2014年重磅推出的软件研发创新顶级会议。大会始终秉承追求行业高度(Top)、技术创新(innovation)、专业深度(Deep)的理念,大会内容以纯技术交流和分享为主,涉及软件研发全流程及各角色,注重推动创新技术在企业的实践应用。

点赞

分享

喜欢