从可用到可信：AI系统设计伦理通用准则解读
随着人工智能加速渗透至工业制造、城市管理、医疗卫生、教育服务、智能硬件、机器人等行业，AI系统已不再单纯作为“辅助工具”存在，而是逐步演变为具备环境感知、数据解析、智能推演、自主决策及行动执行能力的综合体系。如何确保人工智能系统在设计之初便兼顾安全性、公平性、透明度、责任归属及可持续性，已成为推动产业高质量发展的核心议题。《人工智能驱动系统 设计伦理 通用准则》的出台，正是针对这一现实诉求，旨在为人工智能驱动系统在设计阶段的伦理治理提供通用规范与实施路径。01这是一项面向“设计阶段”的伦理治理标准标准明确
可信AI智能体综述：安全、鲁棒性、隐私与系统保障
大语言模型正从"被动应答系统"向"具备规划能力、可调用外部工具、拥有记忆体系、支持长期交互的智能体架构"演进。这一技术跃迁在提升自动化水平的同时，也引入了更为棘手的安全隐患：一次恶意的提示注入攻击，其后果可能不再局限于生成错误文本，而会触发危险的工具调用、导致敏感数据外泄，甚至在高风险应用场景中酿成真实的物理后果。本综述《Towards trustworthy agentic AI》围绕可信AI智能体展开论述，着重深耕两个最核心的维度：安全性与鲁棒性，以及隐私保护与系统防护。论文并未将可信性停留在抽象的理
AI时代,企业转型的核心机遇在哪里?
"近期AI领域有几条值得关注的动向"多模态RAG、Thinking Machines的实时交互模型 TML-Interaction-Small，以及宇树载人变形机甲 GD01 都是近期焦点话题。其中，多模态RAG被认为正在将企业知识库从"文本片段检索"升级为"文档、图表、表格、截图、权限、引用位置"共同协作的智能检索基础设施。Thinking Machines 官方也指出，AI交互需要从传统一问一答模式，转向跨语音、视频、文本的实时协作。但我们认为，企业真正需要关注的不是"又发布了什么新模型"，而是：这些
伶悉AI携手上海理工 共筑可信AI产学研新生态
2026年5月8日，在“第三届复杂系统的智慧应急管理”主题活动期间，上海伶悉智能科技有限公司（以下简称“伶悉AI”）与上海理工大学（以下简称“上理工”）正式签署战略合作协议。为充分发挥上理工在人工智能、系统科学、管理科学与工程等领域的学科优势，以及伶悉AI在可信人工智能实践、组织智能应用和开放科研合作等方面的资源禀赋，双方遵循“优势互补、资源共享、协同创新、互利共赢”的合作方针，建立战略合作伙伴关系，发挥各自技术、资源层面的专长，在可信人工智能领域开展深度协作，构建产学研协同创新生态，实现共赢发展与行业高
2025人工智能安全治理框架2.0解读
加入社群免费领取报告报告名称：2025人工智能安全治理框架2.0版报告编号:708358在后台发送报告编号即可下载完整深度研报本文件由全国网络安全标准化技术委员会与国家计算机网络应急技术处理协调中心共同发布，系《人工智能安全治理框架2.0》官方版本。报告未涉及投资评级，重点阐明五大治理原则，将AI风险归类为技术内生、技术应用及应用衍生三大范畴，并从技术对策、综合管控、全周期安全指引三个维度提供系统性解决路径。核心主张：坚持安全与发展并重，推行分类分级管理，着力强化模型、数据、供应链安全及伦理治理，推动可信
AI创业的关键追问：看清商业本质
AI 创业“下半场”竞争愈发激烈，有人被巨头的壁垒困住，有人陷入转型的迷雾，还有人在最艰难的时刻几乎走到崩盘边缘。真正的卡点在哪里？核心问题又是什么？过去一年，善友教授与一线 AI 创业者反复深聊，听见了最贴近现场的疑惑、突围方式与梦想。那些真实的碰撞与灵魂追问，让人越想越清楚：要抵达商业的真相，就必须回到最底层。也正因为如此，我们发起了混沌 2026 春季大课——由一场关于 AI、时代与本质的深度追问拉开源头。今天，我们整理了 3 位前沿 AI 创业者的真实经历，带你一起追问他们遭遇的“关键真问题”：善
智能体AI爆发：企业为何急需构建“可信AI”体系？
SELECTED REPORTS报告精选想象一下企业内部的AI助手：它不仅能归纳会议记录、撰写客户回复，还能调用内部资料、推进后续流程。若运作顺畅，效率将大幅提升；若误解指令或调用错误数据，风险便会从“回答偏差”演变为“行动失控”。这正是智能体AI带来的变革：AI开始深度介入真实业务流。因此，企业必须重新审视：当AI自主性增强，信任的基石在哪里？边界由谁来定？风险如何预警？责任又该如何界定？麦肯锡2026年3月发布的报告《2026年AI信任现状：迈向智能体时代》聚焦于此。报告基于2026年AI信任成熟度调
不被AI吞噬：巴黎聚焦智能体时代的开放与治理
当人工智能从「回答问题」迈向「自主行动」，一个全新的时代正在被开启。自 2000 年代网页时代的 LAMP Stack 起步，到 2010 年代以 Cloud/SaaS 定义云计算格局，再到如今逐步成形的 Claw Stack（Compute、Language Models、Agents、Workflow）——计算范式迎来了第三次跃迁。而这一次，底层基础设施不再只面向人类，也要同时支撑自主智能体。智能体经济（Agentic Economy）的序幕，正被缓缓拉开。也正是在这种关键节点，GOSIM Paris
第七章 AI伦理与安全：面向未来的治理与能力培养
学习目标通过本章学习，学生应能够：1.理解人工智能演进所引发的伦理、法律与社会层面疑问。2.掌握人工智能在公平、透明、隐私、责任等方面的基本要求。3.把握算法偏差、隐私泄露、虚假内容、过度依赖等常见风险点。4.了解人工智能安全的主要内容，并区分“可用”与“可控”。5.理解人工智能治理的基本思路，认识法律、标准、平台与监督的作用。6.理解生成式AI背景下，对信息甄别、任务拆解以及责任使用的要求。7.了解人工智能未来可能的演进方向，初步形成可信AI与人机协作的观念。8.树立理性的AI使用观，强化职业伦理意识与
深圳举办AI治理与标准化赋能活动
2026年4月24日，由深圳市人工智能产业协会主办的“人工智能治理与标准化赋能”专题活动在深圳南山顺利开展。活动围绕人工智能合规治理、国际标准应用与企业能力认证等重点方向展开，邀请挪威船级社（DNV）专家对ISO/IEC 42001人工智能管理体系标准进行深入解读，结合企业分享产业最新进展，并完成首批人工智能企业评估认证授证，为深圳AI产业的高质量与规范化发展提供有力支撑。活动现场，DNV专家吴金龙以ISO/IEC 42001:2023国际标准为主题作分享，系统回顾人工智能演进脉络与行业痛点，解析算力、算
旅游酒店业可信AI征稿
本期征稿期刊：Electronic Markets【主题】面向旅游与酒店业的负责任、可信赖人工智能应用【关键词】人工智能，负责任的人工智能，可信赖的人工智能，旅游与酒店业，伦理，创新，体验，数字化转型，企业数字责任，人工智能治理，数字平台，数据生态系统，信息系统征稿期刊Electronic Markets期刊指标IF6.8(JCR 2024)SSCIQ1(BUSINESS 39/316)Q1(MANAGEMENT 53/420)ABS2/ ABDCA/ FMSC年发文量55征稿主题Responsible
推动AI从工程实践迈向科学体系：人工智能科学基础研讨会召开
AI技术浪潮持续涌动，应用创新层出不穷，但其理论根基与科学本源仍需深度挖掘。4月22日，上海交通大学人工智能学院在徐汇校区举办了"Science of AI：人工智能科学基础学术研讨会"。本次论坛聚焦"人工智能的科学基础"议题。AI领域虽硕果累累，但理论根基不牢致使学科发展屡现波动。当前急需引导AI研究从工程实践转向科学体系，推动技术路线从经验试错迈向原理驱动，期望在未来五到十年内构建起稳固的理论基石，促进AI实现质的飞跃。鄂维南院士（上海交大AI学院首席顾问）、汤超院士（西湖大学讲席教授、国自然交叉科学
澜舟科技周明：大模型竞争进入落地制胜新时代
新浪科技讯 4月21日午间消息，近日，澜舟科技正式发布澜舟可信AI全栈技术体系、自研企业智能体OS LangClaw，同时宣布“三智”产品矩阵完成升级。在与新浪科技等沟通中，澜舟科技创始人周明指出：“2024–2025年期间，业界关注焦点集中在大模型参数规模与通用能力层面，自2026年起，大模型的实际落地应用能力将成为决定胜负的核心因素”。 在澜舟科技看来，传统“AI+”模式仅作为软件的附加功能，与业务存在“两层皮”现象，难以实现深度融合；而AI原生架构以LLM+智能体为基础，从设计、开发到运营全流程围绕
AI三性解析：打造可理解、可解释、可验证的智能系统
在制造、医疗、金融、交通等对安全性或合规性要求极高的行业，人工智能（AI）已演变为关键决策的基石。不过，伴随模型复杂度的攀升（例如深度神经网络、大语言模型），其“黑箱”特质引发了关于安全性、公正性及可审计性的深切忧虑。因此，可解释性、可理解性及可验证性构成了可信AI的三大核心支柱。这三者既紧密相连，又各具侧重。一、核心概念辨析 维度 定义 关注点 典型问题 可解释性 （Explainability） 事后 对模型输出提供 人类能理解的理由 “为何模型会做出此决策？” “为何判定该产品存在缺陷？” 可理解性
奇点科学会议启航：聚焦AI安全核心议题，顶尖提案直通AGI4S攀登计划
开放的科研社群能催生革命性创新。上海人工智能实验室为此打造了浦江科学社区，并设立明珠湖论坛等学术品牌，激励勇于突破科学疆界的研究者发现并提出前沿课题。2025年，明珠湖论坛已圆满举办两届，汇聚全球数百位青年精英，形成21份创新方案及97项关键问题集，其中7项方案已获项目资助。2026年，明珠湖论坛正式更名为“奇点科学会议（明珠湖）”，定于4月24日至26日在上海召开，面向全球AI领域青年才俊与产业领袖发出诚挚邀请。为期三天的学术盛宴以“安全可信AI：从边界探索到体系构建”为主线，通过“精准选题-深度剖析-