迈向可信AI：腾讯云揭秘智能体安全新策略
伴随智能体快速融入企业核心业务，一场关乎“信任”的安全变革已悄然开启。身份失守、AI代码隐患、数据外泄、Token滥用及供应链投毒等新型风险，正重新定义安全边界。面对智能体的自主决策能力，传统防护体系屡屡失效，如何推动智能体从“可用”迈向“可信”，已成为企业AI应用落地的核心课题。6月5日（周五）14:00-16:10，在「2026腾讯云AI产业应用大会」框架下，腾讯云将隆重推出「AI Agent安全专场」，以“护航企业安心用AI”为宗旨，首次全面剖析智能体时代的安全治理路径。本次专场集结腾讯云及行业领军
AI治理新范式：悬镜首创智能体疫苗技术守护运行时安全
从基础的聊天机器人到能够执行复杂任务的"数字员工"，大语言模型（LLM）正快速演变为具备自主决策、环境感知和工具整合能力的智能代理。我们已正式进入Agentic AI（智能代理）的新纪元。目前，数以千计的"AI数字员工"正在金融、通信、能源等关键行业核心业务中发挥重要作用，甚至拥有调用核心系统、操作数据库的高级权限。然而，随着数字生产力的迅猛发展，AI原生安全风险也同步显现。01模式变革Agentic AI时代，三大新兴安全挑战以往，企业通过WAF（Web应用防火墙）和EDR（端点安全）构建边界防护体系。
AI工具使用中的意外事故与责任归属
--permission-mode bypassPermissions一旦启用该参数，claude code将屏蔽所有安全警告，任何操作都不会弹出提示，包括报错和删除操作。在安装过程中，我仅是随意扫了一眼安装窗口，弹出的信息却让我吃了一惊现在清理05 - skill 目录，下面是执行的rm命令我赶紧去obsidian查看，发现05 - skill 目录之前安装好的姜胡说的skill全部消失了。人犯错，会痛。那种痛，才是责任感的
特朗普签署AI行政令：30天自愿审查；Cisco应对Anthropic威胁
点击蓝字 关注我们资讯快读国家病毒中心通报 71 款 App 违规收集个人信息，细分十一类违法情形xAI要求公开Grok深度伪造受害者身份，引发隐私保护争议Gartner：CISO应以财务语言向董事会传达网络安全风险Trump签署AI行政令：前沿模型发布前可接受30天自愿网络安全审查AI黑产工具一年激增3800%，暗网正加速网络犯罪工业化微软披露Gentlemen勒索软件：具备蠕虫传播能力，可横向扩散至整个企业网络MCP生态曝新型攻击链：恶意通知可诱导AI助手泄露敏感数据面对Anthropic Mytho
张亚勤院士解析AI新趋势
6月1日，无穹书院AI大讲堂系列讲座在清华大学第六教学楼举行。本期无穹书院AI大讲堂邀请中国工程院院士（外籍）、清华大学智能科学讲席教授张亚勤作《人工智能新趋势》主题报告。本次讲座由无穹书院院长郑力主持。清华大学人工智能学院助理教授董胤蓬及校内师生参加活动。01专题报告：《人工智能新趋势》从人类智能出发，理解人工智能的发展逻辑讲座伊始，张亚勤院士从人类智能谈起，结合“三重脑”、多重记忆、思考模式等理论，阐释感知、记忆、规划、决策、行动和反思等环节之间的关系。他指出，当前人工智能虽然在语言生成、信息处理和知
浙江推出AI安全监管系统'智安工兵'
6月1日，全省房屋市政工程"安全生产月"活动启动仪式上，基于AI分析的浙江省建筑工地智能监管应用场景——"智安工兵"正式发布。它就像工地上的"AI安全员"，24小时"盯"着施工现场。目前，全省约2000个工地的6000多路监控视频已接入，识别隐患准确率达90%。"过去是安全员满工地找问题，现在变成问题主动'找'人。"省住建厅相关负责人说。统计显示，建筑领域90%的工伤事故是人为因素引起，其中九成是因为安全意识不强。同时浙江工地多、施工类型和作业环境复杂，安全员能力所限，容易造成隐患"盯不全"。"人工智能+
当AI安全成为必答题：政府介入与行业自律的交锋
核心观点：特朗普签署行政令要求前沿AI模型接受政府网络安全审查，Anthropic将Mythos安全模型开放给150个组织——这两件事同一天发生，说明AI安全正在从"企业自律"转向"制度性约束"。但真正的考验是：当政府开始审查AI，审查速度能跟上模型迭代速度吗？6月3日（北京时间），中文媒体广泛报道了特朗普签署的一项行政令——要求开发前沿AI模型的公司向政府提供早期访问权限，用于网络安全审查。这里有个时间差需要说明：行政令的实际签署日是美东时间6月2日（周一），白宫网站同日
AI安全标准：构筑大健康产业发展的“隐形护城河”
当AI介入肺结节切除决策、管理慢病用药及预测新药安全性时，其“可信度”与“安全性”已超越技术范畴，成为关乎生命的底线。2023年11月，全国信安标委会议周聚焦网络安全标准如何护航AI发展。奇安信、天融信、华为专家围绕漏洞管理、保障体系、治理工程化展开研讨。信号明确：AI医疗商业化，效率之外更需安全。齐向东指出：“网络安全的本质是攻防两端的高度对抗，而漏洞是一张王牌。”AI医疗领域，漏洞不仅可能导致患者数据泄露，更可能造成“误诊”灾难。例如，对抗性攻击可欺骗AI影像系统，让肺结节“隐形”或让正常组织“长出肿
微软推出ACS开源标准，为AI智能体加设安全锁
6月3日，在Build 2026开发者大会上，微软正式推出Agent Control Specification（ACS，智能体控制规范）开源标准，致力于为开发者提供一套统一且精细的AI智能体行为管控方案。随着AI智能体能力持续增强并深入各类业务流程，如何确保其在不同场景下始终按预期运行，已成为企业面临的新难题。微软表示，目前开发者多依靠系统提示词、自定义检查逻辑或分类模型来约束智能体行为，但这些控制手段分散于各个组件，既不便审计，也难以在不同框架间复用。ACS通过在工作流的多个“拦截点”执行策略校验来解
AI安全员：智能时代的安全守护者
1. 遵循科研伦理AI安全员采集人脸、行为轨迹、环境数据，必须保障被观察者知情权与隐私权，数据使用需符合伦理审查要求。2. 明确干预变量实验组：部署AI安全员系统（智能巡检+隐患识别+自动预警）对照组：传统人工巡检模式干预变量：AI技术介入程度（如巡检频次、识别算法类型）3. 随机化分组在建筑场景中，可按楼宇类型、楼层、功能区进行分层随机分组，确保实验组与对照组在建筑结构、人流密度等干扰变量上高度匹配。4. 预实验先行正式推广前，选取1-2个楼层或独立区域开展预实验，验证AI安全员对烟雾识别、通道占用、人
特朗普颁布AI安全行政令 采用自愿参与模式取代强制审查
美国现任总统唐纳德·特朗普正式签署一项引发广泛讨论的行政指令，核心内容是推动联邦政府部门与人工智能技术企业展开协作，共同构筑防线抵御由人工智能引发的网络安全威胁。 白宫于本周二正式对外发布的这份行政令明确，美国政府将以企业自愿配合为前提，在所谓“前沿模型”的尖端人工智能工具正式推出市场之前获取相应的访问权限。行政令还明确将创建“网络安全信息共享平台”（cybersecurity clearinghouse），专门负责协调与处理可能对国家安全造成隐患的软件缺陷问题。联邦各机构将制定保密级别的评估标准，用于衡
Anthropic玻璃翼计划扩张：覆盖15国新增150家机构
主要看点 Anthropic 在周二透露，其玻璃翼计划已拓展至全球 15 个国家，新增了 150 家合作伙伴。这些机构将利用 Mythos 工具来检测软件中的安全漏洞。 此次扩张填补了电力、水务、医疗、通信和硬件等关键领域的空白；新加入的公司必须通过严格的安全审查，才能获得模型访问权限。 在官方博客文章中，该公司表示：“这一扩展是长期目标的关键一步：利用人工智能提高各行业的软件安全性，并帮助网络安全产业适应人工智能带来的底层逻辑变化。” 出于对 Mythos 网络安全能力的谨慎态度，Anthropic 于
沙龙前瞻 | 筑牢AI安全防线，赋能企业价值：安全与软硬协同进阶
“Anthropic估值反超OpenAI背后的深层逻辑与产业启示”2026年，人工智能领域迎来了一次意义非凡的价值重估。以践行负责任AI为核心理念的Anthropic，在最新一轮融资后估值已跨越9650亿美元大关，正式超越估值8520亿美元的OpenAI，跻身全球AI企业市值榜首行列。这绝非巧合。资本用真金白银，投向了安全优先的战略路径。随着众多企业将AI深度融入生产、决策及管理核心环节，AI能否使用已非难题，其安全性、可控性及落地实效才是关键门槛。这一逻辑不仅适用于硅谷科技巨头，同样契合正全力推动AI转
智能手机安全新挑战：AI是守护者还是破坏者？
人工智能正在重塑智能手机的安全防御体系，它既是潜在的威胁，也是强大的防御工具。随着网络钓鱼攻击手段的不断演进，各大手机厂商开始愈发重视设备内置的AI防护机制。本文将深入剖析这一趋势对智能手机安全未来的深远影响。若设备制造商不能利用更高级的自然语言处理和深度伪造检测技术进行有效反击，由人工智能生成的钓鱼攻击将对普通用户及企业机构构成严峻挑战。根据Omdia移动设备安全评分卡最新披露的数据，钓鱼诈骗依然是智能手机用户面临的首要安全隐患。然而，针对最新机型（包括iPhone 17 Pro Max）的实际测试结果
龙翼推出AI安全网关服务，构建企业智能落地核心枢纽
引言引言：当大模型成为水电煤，谁来搭建那条安全、高效的“管道”？随着各行业AI大模型快速渗透至每一个业务场景，大模型服务市场呈指数级爆发。据国家数据局统计，截至2026年3月，我国日均Token调用量已突破140万亿。然而，面对多个大模型并存、接入门槛高、成本难控的现实，如何打造企业AI安全网关，让AI能力真正实现统一管理，成为当下企业亟待解决的难题。为了解决企业AI调用混乱、TOKEN缺乏统一计量标准、降低企业成本、推动企业AI规模化落地，龙翼打造企业AI安全网关服务，让企业AI能力真正实现统一纳管。在