AI动态追踪 6月20日：智能体可信化与算力投资新趋势
📅 AI同学日报 · 2026年06月20日今天看点全球AI学术与产业的双线叙事今天格外清晰：一边是多篇顶会预印本聚焦于智能体（Agent）的可靠性、治理与推理能力深化，探索其如何安全地走出实验室；另一边，产业界围绕AI基础设施的资本开支竞赛悄然升级，科技巨头为算力扩建持续加码债务，而部分国家则开始为AI进入课堂划定红线。主编手记今天最值得盯的一点是，学术界对Agent能力的探讨，正从“能不能做”系统性地转向“如何可信地做”。这些研究不是空中楼阁，它们为Agent进入金融、医疗、企业服务等严肃场景铺路。🔥
实体AI安全防线：当人工智能迈入现实世界
从ChatGPT到智能机器人，人工智能正加速"实体化"进程。然而当AI获得物理躯体、踏入真实环境，其安全隐患远比预期更为严峻……具身智能（Embodied Intelligence），通俗而言即具备物理形态的AI系统。这类系统不仅能在虚拟空间中开展"认知活动"，更能依托硬件载体（如机械人、无人驾驶车辆等）采集环境信息、进行判断决策、实施具体操作。具体案例如下：核心优势：借助多模态大模型（涵盖图像、声音等），具身智能已具备出色的迁移、认知与逻辑推演能力。本质差异：具身智能属于
杭州AI商业治理论坛
日期：6月26日，下午2:00 - 4:00地点：TEC 德事商务中心 西湖会议室，中国浙江省杭州市拱墅区延安路385号，杭州嘉里中心办公楼8层Swipe for English >>>人工智能正加速从技术试验走向规模化商业落地。随着企业深入将AI嵌入核心业务场景，构建合规治理体系、保障知识产权、防范潜在风险，已成为数字化转型的关键议题。上海美国商会杭州中心诚邀您出席6月26日14:00的《人工智能赋能商业：责任与治理》专题分享会，内容涵盖：可信人工智能与国际标准知识产权保护企业治理实践
信通院启动云端AI安全评估体系
大模型技术获得规模化应用后，以大模型为基础的各类自主智能体正快速进入政务、金融、工业等多个领域，人工智能正从内容生成向具备自主规划、工具调用和闭环执行能力的智能体时代演进。大模型本身存在提示注入、模型投毒、数据泄露、内容生成违规等内在安全挑战，而智能体依靠自主决策、跨工具联动、长期记忆存储的特点，进一步产生越权调用、记忆污染、多智能体协同失控、恶意指令劫持等新型安全威胁，风险从文本内容安全扩展到实体操作层面，影响链条延伸、风险边界扩大。在此形势下，中国信通院主导制定云上人工智能安全系列标准，并按照标准推进
AI领域 | 近期学术盛会导览
近期人工智能相关学术活动汇总人工智能近期学术会议注：部分会议召开时间、形式可能有所调整，具体信息请以活动主办机构公布的最新消息为准。1第八届北京智源大会会议时间：2026年6月12日-6月13日举办地点：北京主办单位：北京智源人工智能研究院22026年人工智能与组织管理学术会议会议时间：2026年7月11日-7月12日举办地点：四川主办单位：四川大学商学院3影视艺术智能表达与跨文化对话论坛——2026年人工智能和数字人文国际学术会议会议时间：2026年6月26日-6月29日举办地点：石家庄主办单位：河北美
从可用到可信：AI系统设计伦理通用准则解读
随着人工智能加速渗透至工业制造、城市管理、医疗卫生、教育服务、智能硬件、机器人等行业，AI系统已不再单纯作为“辅助工具”存在，而是逐步演变为具备环境感知、数据解析、智能推演、自主决策及行动执行能力的综合体系。如何确保人工智能系统在设计之初便兼顾安全性、公平性、透明度、责任归属及可持续性，已成为推动产业高质量发展的核心议题。《人工智能驱动系统 设计伦理 通用准则》的出台，正是针对这一现实诉求，旨在为人工智能驱动系统在设计阶段的伦理治理提供通用规范与实施路径。01这是一项面向“设计阶段”的伦理治理标准标准明确
可信AI智能体综述：安全、鲁棒性、隐私与系统保障
大语言模型正从"被动应答系统"向"具备规划能力、可调用外部工具、拥有记忆体系、支持长期交互的智能体架构"演进。这一技术跃迁在提升自动化水平的同时，也引入了更为棘手的安全隐患：一次恶意的提示注入攻击，其后果可能不再局限于生成错误文本，而会触发危险的工具调用、导致敏感数据外泄，甚至在高风险应用场景中酿成真实的物理后果。本综述《Towards trustworthy agentic AI》围绕可信AI智能体展开论述，着重深耕两个最核心的维度：安全性与鲁棒性，以及隐私保护与系统防护。论文并未将可信性停留在抽象的理
AI时代,企业转型的核心机遇在哪里?
"近期AI领域有几条值得关注的动向"多模态RAG、Thinking Machines的实时交互模型 TML-Interaction-Small，以及宇树载人变形机甲 GD01 都是近期焦点话题。其中，多模态RAG被认为正在将企业知识库从"文本片段检索"升级为"文档、图表、表格、截图、权限、引用位置"共同协作的智能检索基础设施。Thinking Machines 官方也指出，AI交互需要从传统一问一答模式，转向跨语音、视频、文本的实时协作。但我们认为，企业真正需要关注的不是"又发布了什么新模型"，而是：这些
伶悉AI携手上海理工 共筑可信AI产学研新生态
2026年5月8日，在“第三届复杂系统的智慧应急管理”主题活动期间，上海伶悉智能科技有限公司（以下简称“伶悉AI”）与上海理工大学（以下简称“上理工”）正式签署战略合作协议。为充分发挥上理工在人工智能、系统科学、管理科学与工程等领域的学科优势，以及伶悉AI在可信人工智能实践、组织智能应用和开放科研合作等方面的资源禀赋，双方遵循“优势互补、资源共享、协同创新、互利共赢”的合作方针，建立战略合作伙伴关系，发挥各自技术、资源层面的专长，在可信人工智能领域开展深度协作，构建产学研协同创新生态，实现共赢发展与行业高
2025人工智能安全治理框架2.0解读
加入社群免费领取报告报告名称：2025人工智能安全治理框架2.0版报告编号:708358在后台发送报告编号即可下载完整深度研报本文件由全国网络安全标准化技术委员会与国家计算机网络应急技术处理协调中心共同发布，系《人工智能安全治理框架2.0》官方版本。报告未涉及投资评级，重点阐明五大治理原则，将AI风险归类为技术内生、技术应用及应用衍生三大范畴，并从技术对策、综合管控、全周期安全指引三个维度提供系统性解决路径。核心主张：坚持安全与发展并重，推行分类分级管理，着力强化模型、数据、供应链安全及伦理治理，推动可信
AI创业的关键追问：看清商业本质
AI 创业“下半场”竞争愈发激烈，有人被巨头的壁垒困住，有人陷入转型的迷雾，还有人在最艰难的时刻几乎走到崩盘边缘。真正的卡点在哪里？核心问题又是什么？过去一年，善友教授与一线 AI 创业者反复深聊，听见了最贴近现场的疑惑、突围方式与梦想。那些真实的碰撞与灵魂追问，让人越想越清楚：要抵达商业的真相，就必须回到最底层。也正因为如此，我们发起了混沌 2026 春季大课——由一场关于 AI、时代与本质的深度追问拉开源头。今天，我们整理了 3 位前沿 AI 创业者的真实经历，带你一起追问他们遭遇的“关键真问题”：善
智能体AI爆发：企业为何急需构建“可信AI”体系？
SELECTED REPORTS报告精选想象一下企业内部的AI助手：它不仅能归纳会议记录、撰写客户回复，还能调用内部资料、推进后续流程。若运作顺畅，效率将大幅提升；若误解指令或调用错误数据，风险便会从“回答偏差”演变为“行动失控”。这正是智能体AI带来的变革：AI开始深度介入真实业务流。因此，企业必须重新审视：当AI自主性增强，信任的基石在哪里？边界由谁来定？风险如何预警？责任又该如何界定？麦肯锡2026年3月发布的报告《2026年AI信任现状：迈向智能体时代》聚焦于此。报告基于2026年AI信任成熟度调
不被AI吞噬：巴黎聚焦智能体时代的开放与治理
当人工智能从「回答问题」迈向「自主行动」，一个全新的时代正在被开启。自 2000 年代网页时代的 LAMP Stack 起步，到 2010 年代以 Cloud/SaaS 定义云计算格局，再到如今逐步成形的 Claw Stack（Compute、Language Models、Agents、Workflow）——计算范式迎来了第三次跃迁。而这一次，底层基础设施不再只面向人类，也要同时支撑自主智能体。智能体经济（Agentic Economy）的序幕，正被缓缓拉开。也正是在这种关键节点，GOSIM Paris
第七章 AI伦理与安全：面向未来的治理与能力培养
学习目标通过本章学习，学生应能够：1.理解人工智能演进所引发的伦理、法律与社会层面疑问。2.掌握人工智能在公平、透明、隐私、责任等方面的基本要求。3.把握算法偏差、隐私泄露、虚假内容、过度依赖等常见风险点。4.了解人工智能安全的主要内容，并区分“可用”与“可控”。5.理解人工智能治理的基本思路，认识法律、标准、平台与监督的作用。6.理解生成式AI背景下，对信息甄别、任务拆解以及责任使用的要求。7.了解人工智能未来可能的演进方向，初步形成可信AI与人机协作的观念。8.树立理性的AI使用观，强化职业伦理意识与
深圳举办AI治理与标准化赋能活动
2026年4月24日，由深圳市人工智能产业协会主办的“人工智能治理与标准化赋能”专题活动在深圳南山顺利开展。活动围绕人工智能合规治理、国际标准应用与企业能力认证等重点方向展开，邀请挪威船级社（DNV）专家对ISO/IEC 42001人工智能管理体系标准进行深入解读，结合企业分享产业最新进展，并完成首批人工智能企业评估认证授证，为深圳AI产业的高质量与规范化发展提供有力支撑。活动现场，DNV专家吴金龙以ISO/IEC 42001:2023国际标准为主题作分享，系统回顾人工智能演进脉络与行业痛点，解析算力、算