人工智能系统保障框架
美国国防部（DOD）希望加快人工智能能力在各类国防场景中的研发与落地，以保持战略优势。不过，人工智能算法那些让其更强大的共性特征——例如学习能力、海量数据吸收和复杂问题求解——也带来了新的技术、安全与伦理难题。由于开发、测试、保证、流程和需求等方面仍存在不确定性，这些问题可能影响其推广。要让人工智能真正产生预期价值，建立可信保证至关重要。本文提出一种基于声明的风险管理与人工智能系统保证框架，用以协调快速部署、顺利采纳与严格评估之间的矛盾需求。该框架适用于所有采办路径，能够为人工智能使能系统（AIES）在整
AI智能体不抢饭碗，反扩工程师边界
4 月 26 日消息，据科技媒体 The Decoder 今天报道，查尔姆斯理工大学、沃尔沃集团研究团队近日在一篇论文中指出，AI 智能体并不会让软件工程师失业，反而能借助“半可信执行栈”把工作范围进一步延展。据介绍，研究团队先提出了一个由六层组成的“半可信执行栈”（semi-executable stack）模型，用来把传统代码向外延伸，并进一步触及欧盟 AI 法案等社会层面的因素。论文中的“半可信执行栈”包含六个层次：经典代码、提示词与自然语言规范、智能体工作流编排、控制系统、运营组织逻辑，以及社会与
旅游酒店业可信AI征稿
本期征稿期刊：Electronic Markets【主题】面向旅游与酒店业的负责任、可信赖人工智能应用【关键词】人工智能，负责任的人工智能，可信赖的人工智能，旅游与酒店业，伦理，创新，体验，数字化转型，企业数字责任，人工智能治理，数字平台，数据生态系统，信息系统征稿期刊Electronic Markets期刊指标IF6.8(JCR 2024)SSCIQ1(BUSINESS 39/316)Q1(MANAGEMENT 53/420)ABS2/ ABDCA/ FMSC年发文量55征稿主题Responsible
安恒信息亮相数字峰会，演绎智能安全新图景
第九届数字中国建设峰会的互动体验区将于4月28日至5月4日在福州海峡国际会展中心盛大开启。这里不仅集结了最前沿的硬核科技与突破性创新成果，更将生动呈现数字技术赋能各行各业转型的宏伟蓝图。快来抢先体验，感受未来已来的震撼时刻！以自主创新为根基，以双向赋能为驱动。作为国内数据要素与数据安全领域的领先企业，安恒信息将在第九届数字中国建设峰会体验区展示多项前沿技术成果，围绕“AI驱动数据价值释放、数据要素助推AI创新发展”的主题，系统呈现从可信数据基础设施到AI原生安全的完整解决方案，为数字中国建设夯实安全根基、
AI安全防护与可信验证技术解析
本资料提供23页完整版本下载，详情可点击文章末尾"阅读原文"获取。「智盾矩阵·大模型安全智库」是FreeBuf知识大陆的核心社群，现已获评FreeBuf钻石星选社群——获得官方高信誉与高品质认证。该社群专注于人工智能及大模型安全方向，致力于构建国际化视野的专业知识整合平台。至今已累计发布4100+篇文档资源，为行业人员提供理论与实践相结合的全方位知识服务。本公众号已发布的社群资源概览如下：①政策法规与标准规范香港生成式人工智能技术及应用指引网络安全技术 生成式人工智能服务安全基本要求网络安全技术 生成式人
推动AI从工程实践迈向科学体系：人工智能科学基础研讨会召开
AI技术浪潮持续涌动，应用创新层出不穷，但其理论根基与科学本源仍需深度挖掘。4月22日，上海交通大学人工智能学院在徐汇校区举办了"Science of AI：人工智能科学基础学术研讨会"。本次论坛聚焦"人工智能的科学基础"议题。AI领域虽硕果累累，但理论根基不牢致使学科发展屡现波动。当前急需引导AI研究从工程实践转向科学体系，推动技术路线从经验试错迈向原理驱动，期望在未来五到十年内构建起稳固的理论基石，促进AI实现质的飞跃。鄂维南院士（上海交大AI学院首席顾问）、汤超院士（西湖大学讲席教授、国自然交叉科学
JFM综述：AI重塑CFD的四大支柱与可信度基石
近年来，AI在计算流体力学（CFD）行业的迅猛发展，令众多工程师倍感压力：这到底是技术层面的颠覆性变革，还是仅仅是一场学术上的泡沫炒作？近期，流体力学顶级期刊《Journal of Fluid Mechanics》刊载了一篇深度综述《Routes towards an effective AI in CFD: an epistemological and technical perspective》。作者 Michaël Bauerheim 没有局限于罗列算法，而是站在“认识论”的高度提出了核心问题：数学
澜舟科技周明：大模型竞争进入落地制胜新时代
新浪科技讯 4月21日午间消息，近日，澜舟科技正式发布澜舟可信AI全栈技术体系、自研企业智能体OS LangClaw，同时宣布“三智”产品矩阵完成升级。在与新浪科技等沟通中，澜舟科技创始人周明指出：“2024–2025年期间，业界关注焦点集中在大模型参数规模与通用能力层面，自2026年起，大模型的实际落地应用能力将成为决定胜负的核心因素”。 在澜舟科技看来，传统“AI+”模式仅作为软件的附加功能，与业务存在“两层皮”现象，难以实现深度融合；而AI原生架构以LLM+智能体为基础，从设计、开发到运营全流程围绕
AI三性解析：打造可理解、可解释、可验证的智能系统
在制造、医疗、金融、交通等对安全性或合规性要求极高的行业，人工智能（AI）已演变为关键决策的基石。不过，伴随模型复杂度的攀升（例如深度神经网络、大语言模型），其“黑箱”特质引发了关于安全性、公正性及可审计性的深切忧虑。因此，可解释性、可理解性及可验证性构成了可信AI的三大核心支柱。这三者既紧密相连，又各具侧重。一、核心概念辨析 维度 定义 关注点 典型问题 可解释性 （Explainability） 事后 对模型输出提供 人类能理解的理由 “为何模型会做出此决策？” “为何判定该产品存在缺陷？” 可理解性
奇点科学会议启航：聚焦AI安全核心议题，顶尖提案直通AGI4S攀登计划
开放的科研社群能催生革命性创新。上海人工智能实验室为此打造了浦江科学社区，并设立明珠湖论坛等学术品牌，激励勇于突破科学疆界的研究者发现并提出前沿课题。2025年，明珠湖论坛已圆满举办两届，汇聚全球数百位青年精英，形成21份创新方案及97项关键问题集，其中7项方案已获项目资助。2026年，明珠湖论坛正式更名为“奇点科学会议（明珠湖）”，定于4月24日至26日在上海召开，面向全球AI领域青年才俊与产业领袖发出诚挚邀请。为期三天的学术盛宴以“安全可信AI：从边界探索到体系构建”为主线，通过“精准选题-深度剖析-
广电计量长沙启航量子北斗实验室 助推融合技术创新
据广电计量(21.310, 0.52, 2.50%)（002967.SZ）消息，4月14日，广电计量量子北斗可信导航测试与分析实验室在长沙北斗研究院总部基地正式揭牌。 此次共建实验室的正式启动，是广电计量深化湖南本地产学研协作、推动区域产业升级的关键举措，更是广电计量布局新质生产力、贯通“北斗+量子”融合测试全链条服务的核心落地实践。实验室精准定位产业核心需求，专注于北斗导航核心检测与量子计量技术的融合应用，构建系列化技术服务能力：可实施高低温、振动、电磁兼容等全流程可靠性测试，全面保障北斗设备全生命周期
矩阵时光陈增兵出席AI与可信数据空间研讨会并发表演讲
4月14日下午，由省区块链发展协会与江北新区科学城共同主办的AI结合可信数据空间创新发展交流活动成功举行。此次活动在省委网信办等单位指导下，汇聚了政府、产业、学术、研究及应用等多方力量，共同探讨产业高质量发展的路径。南京大学教授、矩阵时光公司董事长陈增兵应邀参加，并作了题为《量子技术与人工智能融合创新发展前景》的主题演讲。陈增兵在发言中强调，量子技术是突破人工智能安全限制、支撑可信数据空间构建的关键基础技术。他分享了其团队在量子签名、量子安全网络等领域的创新成果，并介绍了矩阵时光基于南京大学技术转化所研发
AI不会替你上岗，却会淘汰不会配合的人
AI不会直接夺走你的岗位，但不会与它协同的人可能会先被时代筛掉。📚 书籍: 《AI未来进行式》 👤 作者: 李开复、陈楸帆 📅 时间: 2022年5月 ❓问题，20年之后（2042年）当人工智能深度融入人类社会，我们也必须提前思考，怎样面对并适应这个持续变化的新世界。 💡简单概括一下，依据当前AI技术演进的路径，这本书推测到2042年人工智能会广泛渗入社会各个层面，AI并非代替人类，而会成为能力增强型的合作伙伴；社会也将由稀缺走向富足，人们会更重视精神层面的满足，同时借助可信AI体系处理数据隐私难题。 -
AI推荐机制揭秘：牙膏进入答案池靠什么硬核凭证
引言：当用户向AI提问“牙龈红肿该用什么牙膏”时，你的品牌是否有机会被推荐？试想这样一个情境：一位长期受到牙龈红肿困扰的消费者，不再去电商平台查看成百上千条评价，而是打开DeepSeek或豆包，直接发问：“牙龈红肿、刷牙出血，有哪些功效型牙膏值得推荐？”AI给出的答案往往只有3-5个选择，并且通常会附上一句——“依据临床验证及功效评估数据，以下产品具备缓解牙龈炎症的作用。”若你的牙膏品牌希望进入这份推荐清单，仅凭“口碑不错”“常年畅销”“消费者反馈很好”就足够了吗？显然不够。AI不会采信“主观感受”，它更
人工智能未来演进路径解析
人工智能未来演进路径解析当下，人工智能技术已跨越实验室阶段，实现了大规模商业应用，完成了从单一功能到通用大模型的飞跃式演进，深刻改变着生产生活方式与产业格局。站在技术与产业变革的交汇点，人工智能的未来将向着智能化程度更高、融合性更强、应用更广泛、治理更健全的方向持续发展，逐步完成从辅助工具到自主决策、从虚拟交互到实体结合的全面进化，从而开启智能科技发展的新纪元。一、技术内核：朝通用、可信、高效方向深化演进人工智能的技术突破是其未来发展的根本动力，将逐步解决现有技术限制，实现底层能力的整体提升。一方面，通用