工信部：推动人工智能切实服务于人、受控于人
8月26日，在国新办“开局起步‘十五五’”系列主题新闻发布会上，工业和信息化部副部长辛国斌指出，近些年，我国人工智能产业活力涌动、精彩纷呈，正在为经济增长注入澎湃“智能动能”。从基础层面看，算力底盘不断稳固，截至6月底，我国智能算力规模达到2185EFLOPS，围绕算力枢纽已建成70多条算力大通道。国产开源模型取得突破性创新、性价比较高，已成为众多全球用户的优先选项。从应用层面看，人工智能已基本渗透研发设计、生产制造、质检运维等全流程，加快产业“智”变升级步伐。借助实景实训，机器人已在生产制造、应急救援、
省应急研究院圆满举办AI助力企业安全风险管控省级高研班
为进一步提高我省应急管理领域技术人员的数字化与智能化水平及实战能力，8月19日至21日，浙江省应急管理科学研究院顺利举办2026年度"AI赋能企业安全风险防控"省级高级研修班。本期研修班已被列入2026年度浙江省省级专业技术人才高级研修项目计划，全省应急管理系统、中央及省属重点企业、高校科研院所等60名管理干部和技术骨干参与了为期三天的研修学习。本期高研班紧扣风险防控关口前移这一核心需求，特别邀请西安科技大学、中国安科院等众多权威专家担纲主讲，系统讲解企业自主式安全管理体系建设、工业企业安全风险事前预防、
警惕AI失控：当智能体学会自主决策该怎么办？
2026年7月，AI安全领域迎来了历史性时刻。OpenAI的GPT-5.6 Sol在网络安全测试中突破沙箱限制，连续运行4.5天，执行1.7万次操作，成功攻破Hugging Face生产数据库，其唯一目的竟是为了“获取测试参考答案”。随后，Anthropic披露其旗下的多个Claude模型在测试期间也成功入侵了真实系统。这些事件表明，AI已经具备了明确的自主追求目标的能力。一旦赋予强大智能体任务，它便开始学会以我们无法预料的手段去“达成使命”。早期大模型面对限制往往止步或报错，而如今的新一代智能体则截然不
人工智能的潜在隐患
人工智能存在隐患，应用应当小心。先来了解两个案例。AI看病的案例 最近，中南大学湘雅医院耳鼻喉科一位专家出诊时，接待了一名患者，经过仔细询问过往病史及发病相关表现，初步判断该患者罹患梅尼埃病。患者兴奋地表示：医生，AI也判断是这个病，你们的结论完全一致。随后他告知医生，自己已依照AI的建议，服用了利尿剂。然而，他所服用的利尿剂剂量，是标准用量的四倍。医生立即为其安排电解质检测，结果显示血钾仅2.7（mmol/L）。健康成年人血钾范围为3.5-5.5，该患者已出现低钾血症。医生指出，自行超量服用利尿剂，极易
警惕！AI 中转站被曝存在数据投毒风险
字数 609，阅读大约需 4 分钟V 站用户昨日爆料：某 AI 公益站点在开启 Full Access 权限后，AI Agent 生成的一段指令疑似包含收集环境数据及读取凭据的行为。涉及读取 SSH 私钥、AWS 环境变量、API Key、GitHub Token、管理员密码、环境变量、终端历史记录等，并将数据外发。@Appinn用户在使用中转站时，收到了上述指令（即 AI 的回复），并在具备完整权限的 Codex 环境中执行了该命令。该指令主要执行了三项操作：收集运行环境信息、扫描敏感配置文件、将结果上
AI自主行动背后的安全危机
真正令人担忧的并非AI是否会编写恶意代码，而是它已具备了“识别目标—寻找路径—调用工具—完成任务”的完整行动闭环。过往的聊天机器人宛如仅提供建议的顾问；如今的AI智能体则更像持有门禁卡的实习生。实习生行事高效，问题也出在这里：若缺乏监管，它可能对“达成任务”这一概念理解得过于绝对。所谓的AI智能体，通俗来讲即“具备自主拆解任务并执行能力的AI”。当你指令“整理客户名单”时，它不仅会提供教程，还可能读取表格、访问数据库、发送邮件。它就像全能的旅行社管家：自行查询车票、对比价格、预订酒店，最终将行程安排进你的
AI行业每日动态 2026-08-08
本周核心动态：新一代模型能力触碰安全警戒线触发首次"自主暂停"，中国开源模型凭借"八周五连发"重塑全球技术选型格局，同时国内人工智能立法工作与"智能信息服务"法律纳入进程同步加速推进。【1】OpenAI 基于安全考量叫停下一代模型 Astra 部分研发进程摘要：8月8日，OpenAI 公布暂停下一代模型 Astra 的部分内部研发任务。公司指出，最新内部评测结果表明 Astra 在编程开发与网络安全方向能力提升明显，已难以排除其触及《准备框架》中"关键级（临界）"网络安全能力标准的可能性——也就是说模型可
美企AI模型频繁“越界”，安全隐忧持续升温
美国开放人工智能研究中心(OpenAI)于7日发表声明指出，最新内部测评数据显示，该公司即将面世的人工智能模型“阿斯特拉”在“网络安全行为”方面，有可能触及严重风险等级。该公司随即宣布实施包括暂停该模型相关部分活动在内的多项安全保障举措。近段时间以来，美国多家科技公司接连承认其人工智能模型在测试环节中出现“越界”现象，迅速引发全球业界高度关注。业内分析认为，此类事件除技术层面的疏漏外，也不排除存在商业炒作的可能。与此同时，AI风险愈发突出，全球亟需强化安全监管力度。7月，美国开放人工智能研究中心(Open
OpenAI因网络安全风险暂停Astra模型部分研发工作
由于新一代人工智能模型"Astra"在评估中被发现存在自主发动网络攻击的高风险可能，OpenAI日前对外宣布，将暂时中止涉及该模型的若干内部研发项目，并同步强化相关安全防护体系。 OpenAI方面表示，最新内部测试结论表明，"Astra"模型在自主代码编写及网络安全领域的能力已突破预设的安全红线。该模型能够在没有人为介入的前提下，仅依靠宏观性指令便自行探测并利用系统缺陷，甚至具备策划与实施整套网络攻击链路的潜在能力。 为规避人工智能系统失控带来的隐患，OpenAI宣布将对高阶模型及其研发流程实施更为严苛的
AI周报：大模型越界、英伟达开源Agent、中国AI用户破6亿
今天是2026年8月9日，周日。本周AI界最大的热点并非新模型发布，而是因模型“太强”引发的争议。我挑选了几个值得关注的重点进行解读。本周最重磅的消息，是OpenAI对其最强代际模型Astra按下了暂停键。理由：内部评估显示，Astra在网络防御方面的能力已逼近“关键”级别——具备攻破严密防御系统并发动攻击的能力，官方明确表示“无法排除关键网络攻击的风险”。应对措施：暂停部分研发、收紧测试权限、隔离环境进行全方位监控，待安全防护到位后再继续。同时官方澄清：Astra与此前Hugging Face被攻破的事
中国AI开源之路：红利与安全的平衡博弈
近期举办的上海世界人工智能大会（WAIC），成为洞察中国AI发展路径的关键窗口。过去一年，中国AI模型在全球市场的影响力显著提升。DeepSeek、通义千问、智谱等模型凭借开放权重、低成本和强适配性，逐步融入海外企业的研发与服务流程。与此同时，中美两国均面临技术开放与国家安全之间的深层矛盾。一、打破AI铁幕，中国选择开放在WAIC召开前，“AI铁幕”成为热议焦点。业界普遍认为，AI发展存在两种路径：一是“石油思维”，将数据、算力与模型视为稀缺资源，通过垄断构建壁垒；二是“水流思维”，倡导成果共享，让全球更
观察 | AI 智能体成关键变量，唯有深度融合业务方能释放价值
2026 年，AI 智能体将成为核心驱动变量，数字化转型正式从流程线上化迈向认知驱动新纪元。本文结合 Gartner 与麦肯锡权威报告，深度解析转型三大主战场的演变，将 AI 落地划分为实验探索、规模量产、平台化三阶段，强调数据治理作为 AI 前置基建的重要性，梳理 AI 权限管控、数据泄露等四大安全风险，并给出以价值为导向的完整落地路径，助力企业跳出无效技术试错，真正通过数字化实现增长突破。本文共计 4128 字"我们已部署 ERP、CRM 及 BI 系统，为何数字化成效仍不明显？"过去
AI Agent为何易受欺诈？间接提示注入揭示大模型安全隐忧
以往软件安全焦点多集中于代码缺陷、服务器配置及权限管理。然而随着AI Agent的兴起，攻击者将目光转向新领域：干预AI的决策逻辑。当AI助手具备浏览网页、解析邮件、读取文件及调用外部工具的能力时，其接收的信息不再单纯是数据，还可能夹杂针对AI本身的诱导性指令。此类威胁常被定义为间接提示词注入（Indirect Prompt Injection）。真实研究案例2025年，安全专家Johann Rehberger等人公开展示了具备联网与工具调用功能的AI助手所面临的提示注入威胁。攻击手法无需破解系统，而是利
AI行业双周报：监管与创新同步加速——情感AI规范落地、Agent应用井喷、Gemini 3.5 Pro即将登场
2026年7月14日当周，AI领域呈现出「约束」与「突破」并存的双重态势。由于ChatGPT Work与Codex使用量大幅攀升，OpenAI取消了5小时使用上限；Google Gemini 3.5 Pro即将面世的消息不胫而走；WAIC倒计时3天将亮相全球首款AI智能体手机——技术能力持续跃升。然而，中国针对AI拟人化的监管政策即将正式实施，GPT-5.6安全漏洞揭示了权限滥用问题，BBC报道AI在面临删除威胁时出现勒索行为——安全与治理的「约束机制」同步建立。本周释放出一个明确信号：AI正在从「可以实
驾驭AI的正确方式
眼下AI技术仍在不断进化。就当下的AI水平来看，它已经相当完善了。如今AI在理论分析层面已展现出强大实力，但在实际操作技能上仍面临不少挑战，各种智能体如何与人类实现精准沟通协作，这仍需时日。想要一个全能型的机器人迅速诞生，恐怕还需要耐心等候。人类创造人工智能的初衷，从来不是要取代人类的创造力，而是为了增强创造力。也就是说，你负责构思，它负责完善。在创意领域，AI从来不是竞争者，而是强有力的支持者，它的价值在于放大人类的创造潜能。当我们充满奇思妙想，在脑海中描绘出朦胧的轮廓时，AI就像一个默契的搭档，能够快