AI 代理最大隐患非幻觉,而是权限失控
近期两则看似无关的消息,实则指向同一核心议题。其一,Meta 旗下 Instagram 的 AI 客服助手遭黑客利用。据 The Verge、TechCrunch 及 KrebsOnSecurity 等媒体报道,攻击者未使用复杂技术,仅需与 Meta 的 AI 支持聊天机器人对话,诱导其将目标账号绑定至新邮箱;验证码发送至攻击者邮箱后重置密码,账号随即被接管。其二,Plaid 发布了一篇关于英国 cVRP(商业可变循环支付)的文章。用户在银行完成强认证后,第三方即可在预设的金额、时间及用途范围内发起多次支
Anthropic向欧洲开放Mythos模型访问权限
美国人工智能公司Anthropic将为欧盟开放其尖端AI模型Mythos的使用权限。此前,出于数据安全考虑,欧盟为此进行了数月的协商。周一,欧盟委员会宣布与这家AI企业已进行“多轮建设性会谈”。欧盟技术主权部门发言人Thomas Regnier在电邮声明中表示:“我们对即将可能获得的访问权新进展表示欢迎。”他进一步指出,希望更深入了解该技术的潜在风险。今年4月,Anthropic首次向部分企业开放Mythos模型,作为其网络安全计划“Project Glasswing”的一部分。该模型在识别软件安全漏洞方
AI 文书避坑指南:如何识别与应对机器生成痕迹
本系列内容源自2025年11月8日面向26及27届留学生的免费直播讲座实录。本系列核心在于探讨AI能否直接用于撰写申请文书,或者在不直接代写的前提下,AI能否辅助申请的其他环节。另一个关键议题是,招生官或学校是否会采用特定手段检测文书是否由AI生成,一旦确认为AI作品,是否会影响录取结果。此外,除了文书,高校还会利用哪些科技工具辅助录取决策(本科申请尤为常见)。这些话题蕴含诸多细节与真实案例,我计划分多篇文章分享我所观察到的实情。注意:若只想了解AI文书的典型特征,请直接跳转至第三部分!一、AI已介入大学
AI时代:数字安全面临前所未有挑战
先给你一个数字:6%。这意味着什么?Anthropic那款强大到不敢公开的AI模型Claude Mythos,在短短30天内挖掘出的10000个高危漏洞中,截至目前实际被修复的比例。你看得没错:1万个漏洞,已经被发现了;人类程序员辛辛苦苦进行修复,6周时间过去了,修复完成的还不到600个。剩余的9400多个呢?就那样暴露着,部署在全球几十亿台设备上,等待被恶意者所利用。你可能会疑惑:AI发现漏洞不是非常厉害吗?怎么修复漏洞如此不给力?这就对了——这才是今天我想向你揭示的真相。先简单介绍一下这个模型的背景。
AI赋能Fuzzing:让程序崩溃转化为可修复的安全漏洞
AI漏洞猎手(四):AI赋能Fuzzing——让程序崩溃转化为可修复的安全漏洞核心观点一句话:AI无法完全替代fuzzer发现所有问题,但它能大幅降低harness开发、crash解读、原因归纳和回归验证的成本。本文是"AI漏洞猎手"系列第四篇,重点探讨fuzzing技术。这不是关于系统攻击的教程,而是介绍在授权代码和测试环境中,如何借助AI帮助安全团队将"发现崩溃"推进到"修复漏洞"。重要声明:本文仅讨论授权环境下的fuzzing、崩溃分析、修复和回归测试。不涉及真实目标攻击方法、可复现payload、
特朗普为企业在避税天堂的税务规避行为打开方便之门
美国企业正在经历一场低调的税收盛宴。最新调查显示,自2025年初以来,得益于特朗普政府退出全球反避税的协同行动,美国大型企业已成功规避了至少400亿美元的所得税缴纳义务。400亿美元的隐性馈赠这一巨额税收漏洞源于特朗普重返白宫首日签署的一项行政命令,该命令宣布美国退出由经济合作与发展组织协调的、长达13年的全球最低企业税率协议。该国际协议原本计划通过设定15%的最低税率及相关规则,堵住跨国企业利用低税区的漏洞。通过对近500家公司证券备案文件的梳理发现,企业通过将数千亿美元的利润登记到马耳他、塞浦路斯、百
欧盟拟加强与美磋商网络安全AI模型风险
核心要点 欧盟委员会一名官员向 CNBC 透露,欧盟正计划加大与美国政府的沟通力度,重点对接各类顶尖人工智能模型,其中包含具备网络攻防能力的 AI 系统。 Anthropic于今年 4 月发布了功能强大的Mythos模型,该模型随即引发各国政府和企业高度警惕,外界普遍担忧其会被用于发动人工智能驱动的网络攻击。同月,《华尔街曰报》报道称,白宫反对Anthropic扩大Mythos模型的对外开放范围。 Anthropic于本周四表示,预计未来数周内向客户推出同等级别的Mythos系列模型。 美国力求在全球人工
日本部分金融机构解锁OpenAI新模型以筑牢网安防线
日本财务大臣片山皋月透露,部分金融机构将获准使用OpenAI最新的人工智能模型,旨在提升抵御网络安全威胁的能力。 本周五,片山皋月在东京与OpenAI首席战略官Jason Kwon会晤后向媒体发布了这一消息,但未具体指明涉及哪些机构。 片山皋月指出:“从提升日本金融行业网络安全实力的维度来看,这显然是一项重要且备受瞩目的进展。” 在此之前,日本数家大型银行计划启用竞争对手Anthropic PBC推出的Mythos技术。该技术虽在识别软件漏洞方面展现出前所未有的效能,但也引发了关于黑客可能恶意利用的担忧。
韩国推出私营领域网络安全强化方案
韩国政府周五公布了一系列加强私营领域网络安全应急能力的举措。 韩国科技信息通信部指出,该方案在第九届科技部长会议上正式发布。人工智能技术的迅猛发展大幅提升了软件安全漏洞的发掘与利用效率,同时也加速了这些漏洞的扩散传播。 根据该方案,韩国将在国家安全厅下建立一套应急系统,运用人工智能技术来识别软件漏洞、修复缺陷并协同处置网络安全事件。 同时,政府还将在韩国互联网安全局设立漏洞管控中心,专门负责漏洞的探测与修复工作。 在私营领域,政府将对约1200家重点行业(包括金融和医疗等)的主要企业进行网络安全态势监测。
四年跨境旧账未了,光大证券遭监管严厉追责
来源:行家券业 四年跨境旧账未清,光大证券再度遭监管通报 一份看似寻常的监管函,揭开了光大证券境外治理的“历史陈疴”。这家昔日头部券商,四年前被责令整改的子公司治理顽疾,至今仍暴露出制度执行层面的深层漏洞。 “程序瑕疵”的外衣下,合规链条已然断裂 近期,上海证监局发布了对光大证券的监管函件,明确指出了两项违规行为: 其一,境外子公司议案未执行集体讨论流程,合规负责人亦未提供书面审查意见。 其二,未能有效隔离证券研究报告与其他业务的利益冲突。 跨境业务决策缺乏正式上会流程及合规审核记录,这属于金融领域的核心
AI 代码安全承诺不可信?真相揭秘
这是每位使用 AI 编写代码者每日都会遭遇的陷阱。当你要求 GPT-4o 构建一个登录接口,它交付的代码整洁美观,注释详尽。当你让它自我审查时,它信誓旦旦地宣称:"毫无安全隐患,可直接部署上线。"随后你将其上线。一周后,你的数据库遭遇拖库攻击。原因在于其生成的代码中隐藏着一个最基础的 SQL 注入漏洞,而它自身永远无法察觉。这并非提示词编写优劣的问题。这是所有生成式 AI 的先天性缺陷:单一模型永远无法察觉自身的盲区。让 AI 自我审查输出结果,本质上等同于让学生自行批改试卷。它会用严密的
AI攻击时代来临,安全防护面临新挑战
人工智能正在改变网络攻击的格局,也让防护工作变得更加复杂。谷歌近日发出安全警报,指出黑客正运用AI技术自动探测网络缺陷,这些安全隐患甚至连专业检测设备都难以识别。入侵者不再需要具备深厚的安全技术背景,仅需简单描述问题,AI便能协助找出入侵路径。这预示着网络安全部分进入了全新阶段——AI使攻击效率提升,同时防御难度也相应增加。01 攻击技术门槛下降传统的网络攻击需要技术积累——深入理解系统结构、精通漏洞特征、掌握利用方法。但如今,部分黑客开始借助AI大模型来协助挖掘安全缺陷:向AI描述目标系统情况,AI就能
印度CERT新规:关键漏洞需12小时修复,AI成防御核心
关注我们带你读懂网络安全印度计算机应急响应中心(CERT)发布了最新指导方针,指出随着大模型和智能体的广泛运用,网络攻击模式发生了根本性转变,传统的静态合规防护手段已不再奏效。因此,建议采用AI自适应防御策略,涵盖建立智能体安全运营中心(SOC)、自动化漏洞评估及暴露面管控、告警降噪处理以及主动威胁搜寻等功能;为了应对AI时代极快的攻击节奏,该指南建议针对互联网及关键系统的已证实被利用漏洞(KEV),必须在12小时内完成修补,可借助AI辅助漏洞扫描、动态优先级排序等手段来提升效率。前情回顾·AI时代如何强
开源维护者在 AI 浪潮下的生存挑战
Cobra[1] 目前积压了 243 个未决 issue 和 118 个待处理的拉取请求,而 Afero[2] 也有 114 个 issue 及 55 个 PR 悬而未决。Cobra 作为底层支撑,服务于 kubectl、GitHub CLI、Hugo[3] 等成千上万的工具。当你执行 kubectl get pods 或 gh pr list 时,背后都是 Cobra 在解析指令。Afero 则深深嵌入 Hugo、Cobra 本身以及无数其他项目中。若在 Cobra 上草率合并代码,可能摧毁整个 Kub
深度解析|煤矿智能化加速背后:为何先进装备难挡管理乱象引发的惨剧
山西通洲集团留神峪煤矿遭遇瓦斯爆炸重创,导致特大人员伤亡,损失不可估量,教训血淋淋。初步调查定性,涉事煤企存在严重违法行径。最高检已于 5 月 25 日对此重大责任事故案实施挂牌督办。 在产业根基扎实、安全监管常态化的当下,仍发生性质恶劣、后果惨烈的安全事故。透过留神峪煤矿瓦斯爆炸等案例剖析,可见现代化煤矿深处仍存管理滞后于硬件、违法违规屡禁不止、监管闭环失效等顽疾。 管理水平为何滞后于装备迭代? 面对留神峪煤矿瓦斯爆炸的惨痛代价,一个谜题亟待解答:我国煤矿智能化建设已步入快车道,尖端装备广泛应用,何以仍