标签

AI红队:从Prompt测试到系统影响验证

许多团队开展AI红队工作的初始步骤,通常是构建prompt样本库。包括越狱攻击样本。提示注入攻击样本。敏感内容触发样本。幻觉诱导样本。多轮对话攻击样本。这个阶段必不可少。然而当AI应用已发展至Agent、RAG、MCP、浏览器、办公助手及代码辅助工具等复杂形态时,仅检测"模型是否会输出不当内容"已显不足。因为实际威胁并不仅限于文本输出层面。真正的风险出现在模型与工具连接之后。早期大模型红队工作主要聚焦于模型输出:这些评估依然关键。但它们主要解决一个核心问题:模型会说什么?而在Agent时代需要追问另一个问

2026-06-04 10:08:58  |  3 阅读

浙江推出AI安全监管系统'智安工兵'

6月1日,全省房屋市政工程"安全生产月"活动启动仪式上,基于AI分析的浙江省建筑工地智能监管应用场景——"智安工兵"正式发布。它就像工地上的"AI安全员",24小时"盯"着施工现场。目前,全省约2000个工地的6000多路监控视频已接入,识别隐患准确率达90%。"过去是安全员满工地找问题,现在变成问题主动'找'人。"省住建厅相关负责人说。统计显示,建筑领域90%的工伤事故是人为因素引起,其中九成是因为安全意识不强。同时浙江工地多、施工类型和作业环境复杂,安全员能力所限,容易造成隐患"盯不全"。"人工智能+

2026-06-04 09:22:07  |  4 阅读

特朗普政府AI审查新政:30天内提前获取模型权限

AI治理从来不只是单纯的技术议题,更涉及多重利益的权衡。示意图(配图与文章内容无关)01 从90天到30天业内关注的焦点在于90天审查期可能带来的风险:技术机密外泄以及产品发布周期被打乱。30天的让步,体现了在国家安全与产业发展之间寻求平衡的努力。示意图(配图与文章内容无关)02 白宫的"安全说辞"该行政命令的发布与Anthropic安全事件存在密切联系。美国当局旨在高风险AI模型发布前构建"预先知悉"体系,但详细实施方案仍有待完善。示意图(配图与文章内容无关)03 自愿机

2026-06-04 08:47:33  |  3 阅读

特朗普签发 AI 强制审查令,美国确立政府主导监管新规

2026 年 6 月 2 日,美国总统特朗普于白宫椭圆形办公室正式签署了一项具有里程碑意义的行政命令,宣告针对先进人工智能模型的联邦强制审查制度正式确立。该行政令的核心规定指出:任何美国企业或在其境内运营的机构,在向大众全面推出具备特定高风险特性的人工智能模型之前,必须预先向联邦政府开放模型访问权限,以供官方组织进行独立的安全性与能力评估。此项决策瞬间在科技界、法律界及地缘政治领域激起巨大波澜,标志着美国对 AI 的监管模式从长期依赖行业自律彻底转向强硬的政府干预。从筹备到签署此次行政令的颁布历经了长期的

2026-06-04 08:40:52  |  7 阅读

2026 年:边缘 AI 迎来爆发式增长新纪元

在展望行业未来时,预测既需大胆构想,也需洞察显而易见的趋势。毫无疑问,2026 年人工智能、生成式 AI 以及智能体技术仍将是引领科技浪潮的核心关键词。然而,一个稍显低调却至关重要的趋势是,2026 年将标志着边缘人工智能机遇的全面开启——各类核心 AI 工作负载将能够在离线环境或客户端设备上本地运行。随着神经处理单元(NPU)的亮相,以及图形处理器(GPU)和中央处理器(CPU)性能的显著跃升,边缘端的 AI 处理能力实现了质的突破;与此同时,小型语言模型(SLM)能力的不断增强,使得两者结合后,许多过

2026-06-04 08:19:20  |  3 阅读

AI写作虽便利 保密红线不可越

近年来,人工智能(AI)技术飞速发展,AI写作工具以高效便捷、即时生成的特点,渐渐成为不少机关单位工作人员日常撰稿的"利器"。然而便利的背后,却潜藏着泄密风险。部分工作人员在使用AI写作工具时,保密观念薄弱,违规将内部资料、涉密素材直接输入,殊不知这一举动等同于"主动送密"。许多人误以为,AI写作不过是"辅助工具",输入的信息会瞬间消失,实则不然。目前市面上大多数AI生成工具,默认会自动采集、存储用户输入的数据,用于模型的自我学习和持续优化。更值得关注的是,部分AI工具背后连接着境外服务器,数据存储、传输

2026-06-04 07:19:10  |  3 阅读

AI 法律研究第 51 期:Token 经济下的硬件合规红线与 ESG 义务

摘要:Token 已演变为 AI 时代的“水电煤”,数据中心正转型为 Token 制造厂,上游半导体及电子元件成为核心投资热点。本文结合我国《电力法》《水法》《环境影响评价法》及《安全生产法》,专为服务算力基建、芯片及 PCB 企业的法务与律师,解析“Token 经济学”背景下的合规底线与 ESG 披露要求。展望 2026 年,当全球日均 Token 消耗量突破 360 万亿、中国达到 180 万亿时,AI 产业的价值衡量标准已由“算力规模”转变为“Token 产出效率”。Token 不仅是 AI 大模型

2026-06-04 06:24:40  |  5 阅读

2026 年 6 月 4 日虎哥 AI 前沿观察

🐯 虎哥 AI 前沿IP 赋能 IP | 深耕 IP 孵化十二载📅 2026 年 06 月 04 日热点 1:2026 中国 AI 智能体领军榜单发布🔥 今日 AI 焦点:6 月 2 日,于 2026 北京网络安全大会(BCS 2026)现场,"2026 中国 AI 智能体领航者"名单正式公布。涵盖 20 余个行业、超百家企业的 AI 智能体成功入选,全方位展示了我国智能体技术落地与产业创新的最新面貌。其中,湖北银行的 AI 代码安全智能体、北银金融的 AI 代码安全审计与自动验证智能体等项目脱颖而出,有

2026-06-04 06:16:59  |  6 阅读

一文读懂AI Agent

近期AI领域最火的词汇无疑是AI Agent(智能体)。OpenAI、Anthropic、Google,以及字节跳动、阿里巴巴、腾讯等巨头纷纷布局 Agent。短短时间内,大模型厂商的竞争焦点从参数规模转向了谁能打造更"能干"的智能体。原因何在?大模型本质上只是一个"知识大脑",而 Agent 则为这个大脑装上了"四肢"。只会对话的 AI 最多帮你撰写文案。但一个 Agent,却能帮你预订机票、开发网站、监控服务器、自动回复客户——实现了从"能说"到"能做"的跨越。本文以通俗易懂的方式,为你深入解析 AI

2026-06-04 02:26:00  |  6 阅读

MCP协议助力AI实现外部世界连接

在人工智能快速进步的当下,大型语言模型 (LLM) 正在从基础的“对话机器人”进化为能独立处理复杂任务的“智能体” (Agent)。这一进化的关键点在于怎样使LLM动态获取训练数据之外的知识,以及怎样安全、高效地与外部环境互动,比如访问数据库、调用API、操作文件系统等。MCP(Model Context Protocol)协议应运而生,由Anthropic在2024年11月发布,为LLM与外部数据、应用之间的通信提供一种安全且标准化的协议。作为桥梁,MCP使 AI 成为一个能够检索最新信息并执行各类操作

2026-06-04 02:19:20  |  5 阅读

真主党誓言捍卫黎巴嫩领土与民众

真主党通过社交平台发布声明表示,该组织将持续承担"使命",守护黎嫩国土及居民免遭以色列侵犯。该组织同时强调,将令以色列承受"沉重打击",并使其为"错误的对抗决策"承担后果。责任编辑:李桐新浪财经声明:此消息系转载自合作媒体,新浪财经登载此文出于传递更多信息之目的,文章内容仅供参考,不构成投资建议。郑重声明:1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行

2026-06-04 02:10:59  |  4 阅读

FCL-X技术成功控制乔治亚州建筑垃圾填埋场锂电池火灾

Full Circle Lithium Corp.于6月3日宣布,已成功平息乔治亚州埃文斯县一处建筑与拆除垃圾填埋场持续多日的火情。据调查,火灾由一块处置不当的锂离子电池引发,FCL的专利灭火技术FCL-X在传统方法失效后迅速控制局面,再次验证了其技术的实战能力。 当地消防部门连续三天采用常规方法灭火,但垃圾堆深处的燃烧持续产生热点,不断在表面以下重新燃烧。这是锂离子电池引发填埋场火灾的典型特征,传统水基和泡沫灭火剂难以有效应对。专业环境服务公司Roper Environmental副总裁Matt Rop

2026-06-04 00:51:39  |  4 阅读

AJG投资价值深度解读:DCF模型显示内在价值301美元,较现价溢价46%

根据GuruFocus 2026年6月3日发布的贴现现金流估值报告,全球保险经纪行业领军企业Arthur J. Gallagher & Co.的每股公允价值估算值约为301.83美元,而其目前交易价格约为205.77美元,理论安全垫约为31.8%。不过,DCF估值方法产生了明显分歧。以每股收益为基础的贴现现金流模型得出公允价值为301.83美元,但基于自由现金流的DCF模型仅计算出134.52美元,显示股价被轻微高估约53%。这种显著差异的根本原因在于公司近年来采取的高强度收购扩张模式,大量资金持续投入并

2026-06-04 00:29:49  |  2 阅读

当AI安全成为必答题:政府介入与行业自律的交锋

核心观点:特朗普签署行政令要求前沿AI模型接受政府网络安全审查,Anthropic将Mythos安全模型开放给150个组织——这两件事同一天发生,说明AI安全正在从"企业自律"转向"制度性约束"。但真正的考验是:当政府开始审查AI,审查速度能跟上模型迭代速度吗?6月3日(北京时间),中文媒体广泛报道了特朗普签署的一项行政令——要求开发前沿AI模型的公司向政府提供早期访问权限,用于网络安全审查。这里有个时间差需要说明:行政令的实际签署日是美东时间6月2日(周一),白宫网站同日

2026-06-03 23:50:49  |  4 阅读
蓝信推出2026全栈AI创新产品

蓝信推出2026全栈AI创新产品

新浪科技讯 6月3日下午消息,日前,蓝信 2026 AI 新品发布会暨生态渠道大会召开。蓝信CEO李荣泉提到,大语言模型和Agent技术的爆发,彻底终结了过去“数字化转移”的时代,正在迈向一个由AI原生驱动、全域智能化重构的新纪元,“如果不能解决安全问题,AI这把极其锋利的剑,就无法真正为政企所用。蓝信始终坚守“安全与AI深度融合”的核心路线,助力政企客户安全合规、无顾虑地拥抱AI智能化升级。” 李荣泉在发布会上正式提出云原生+AI原生双轮驱动战略:以内生安全、全栈国产化的数字化工作平台为底座,驱动上层应

2026-06-03 22:40:56  |  5 阅读