智能安全防护探讨
点击上方蓝字谈思实验室获取更多汽车网络安全资讯本文综合考虑智能技术在模型、数据、承载系统上对安全性的要求，我们用保密性、完整性、鲁棒性、隐私性来定义智能技术的安全模型，并且给出了智能安全目前面临的三大威胁：智能模型安全性问题、智能数据与隐私安全性问题，智能系统安全性问题。针对不同的安全威胁，提出了不同防御方法，包括数据投毒攻击、对抗样本攻击、数据隐私威胁。但在实际场景中， 智能系统遇到的威胁往往十分复杂，仅靠单一的防御技术无法有效抵御实际威胁。因此本文总结国内大厂采用的智能安全解决方案，然后再从这些方案中
DARPA联合启动AI安全重大研究计划
News国防科技要闻【据美国DARPA网站6月1日报道】日前，DARPA携手美国家科学基金会共同发起"AI锻造"研究项目，同时联合美国家标准与技术研究院AI标准与创新中心开展合作，针对国家安全领域15个核心AI安全难题展开深入研究，促进高等院校、尖端AI企业及政府机构联合技术攻关。该计划重点围绕三大核心技术领域：一是AI可解释性技术，致力于增强模型行为、决策逻辑及影响结果的可理解性，推动AI从基础解释能力向作战环境下的可解释性发展；二是AI控制技术，着力开发可验证的技术工具，确保模型行为可控、可审计、可信
企业AI安全实战手册：部署智能系统的防护要诀
🛡️ AISTOC 安全专题 · 企业实战手册AI 安全指南企业落地AI不可不知的关键事项当AI演变为核心基础设施，安全保障从可选项变为必答题2026年，AI已从"增值功能"转变为"核心支柱"。然而伴随而来的安全挑战，也从次要隐患上升为企业存续的关键议题。单起数据泄漏事件平均造成超400万美元损失，智能体一次失控便可能引发整体系统崩溃。💡 AI安全投入并非支出，而是风险抵御资本。本文围绕四个核心方向，为企业构建AI安全体系提供实战指引：🔴 风险洞察：企业落地AI会遭遇哪些安全威胁？🔧 技术对策：哪些安全防
杨明教授深度剖析AI数据与模型安全挑战
2026年4月20日，信息与智能工程学院杨明教授在书新3号楼305举办了一场题为“人工智能数据与模型安全”的学术讲座。本次活动吸引了信息与智能工程学院、理工学院等多个院系师生参与。讲座围绕AI安全基石、数据与模型威胁、防护手段及未来趋势四大方面，系统梳理了人工智能安全领域的核心议题与前沿动态。一、AI安全：双重维度——从“赋能安全”到“自身防护”讲座伊始，杨明教授以近年多起引人注目的AI安全事件为例——微软聊天机器人Tay因数据污染在24小时内发出大量不当言论被迫下线；针对自动驾驶汽车的对立攻击使其识别出
AI测评神话破灭：不解题也能登顶排行榜
2026年4月，UC Berkeley研究组向科技圈投下一枚重磅炸弹。他们开发了一套自动化检测系统，对8个顶级AI Agent评测体系展开了全方位审查。结论令人震惊：全部评测体系均存在可被"劫持"的缺陷——即便不处理任何真实任务，依然能够获得近乎完美的评分。SWE-bench：100%可劫持率。WebArena：近100%。FieldWorkArena：100%。GAIA：98%。这并非纸上谈兵。研究组真实构建了可运作的漏洞利用代码，并向这些评测平台正式提交了结果。这也不是学术演练。它动摇了规模达2000