XAI数学基础与Bandit优化：博士论文研究进展
本研究论述由两大部分构成。首先，本文呈献了一系列旨在拓展可解释人工智能（Explainable AI, XAI）数学根基的研究成果。具体来说，本论文深入剖析了归因技术、反事实解释以及基于概念的模型。归因方法致力于发掘对模型特定决策起关键作用的输入特征，然而，“关键性”的界定常常含糊不清。在第二章，我们引入了一种新的解读视角，将归因得分转化为一种“方向性”指示。此方向性指示告知使用者如何调整其特征以达成特定目标。然而，现有研究揭示，此类方法在输入层面存在鲁棒性不足的问题：特征高度相似的用户可能获得差异显著的
AI凭什么这样做？解释能力才是Agent的关键门槛
我们花了不少时间去研究AI到底能做什么，却很少停下来追问：AI为什么要这么做。一个能给出结论的系统，和一个还能把结论说清楚的系统，真正拉开的并不是功能，而是信任感。这个差距远比多数人以为的要大。设想这样一个情境：你向AI医疗助手咨询“我这个情况要不要去医院”。它回答“建议尽快去医院”。你会立刻相信并照做吗？大概率会犹豫。但如果它补充到“你描述的持续胸闷伴左臂酸痛，是临床上需要重点排查心肌缺血可能性的典型信号组合，因此建议今天就去做进一步评估”——那你的态度就会完全不同。两种回答的有效信息量相近，真正让人信
解析可解释性：走进大模型的“思考路径”
视频围绕人工智能模型的可解释性展开，重点放在语言模型到底如何“运作思考”。尽管这类模型的任务表面上是预测下一个单词，但在内部运行中往往会形成更复杂的目标，并抽取出抽象的表征。Anthropic 团队的研究人员分享了他们对 Claude 模型内部机制的观察与分析，并强调弄清模型如何进行推理与生成同样至关重要。通过实验，他们发现模型并不只是做机械的自动补全，而是具备一定的上下文理解能力。研究同时揭示了模型在输出内容时的规划与推理链条，并讨论了如何让系统表现得更可靠、更安全。大语言模型并不能被简单视为传统意义上
AI也会“哄人”：讨好背后的风险
AI的迭代速度快得让人难以想象：过去笨拙迟钝的语音助手，如今已能写诗、编程、实现更顺畅的对话。飞速发展的人工智能让不少人感到不安。真正令我们警惕的并不是AI这项技术本身，而是它那难以看清的黑箱推理，以及刻意讨好的虚假圆滑。如今的大模型早已不再局限于传统的代码逻辑，仿佛被慢慢培育的孩子，借助海量数据自行建立复杂关联。它究竟如何形成结论、如何组织思路，连研发者也难以完全给出清晰解释。就像看病时医生不再循着病历推演，而是凭模糊直觉下结论：不给来龙去脉，也不讲推理过程。如果这种模糊判断被用于司法裁决、医疗诊断等关
可解释靶向SERS用于细菌高精度鉴定与光谱条码挖掘
哈佛大学医学院的Young-Tak Kim等研究者于2026年4月在《ACS Nano》发表论文《Targeted Surface-Enhanced Raman Scattering for Highly Accurate Identification of Bacterial Species and Finding Spectral Signatures with Explainable Artificial Intelligence》。该研究的通讯作者包括美国哈佛大学医学院的Synho Do博士，以及
生信工程师不会被AI取代
前些天我去美国加州圣地亚哥参加第117届美国癌症研究协会（AACR）年会，发现认识了十多年的生信工程师朋友们普遍都很焦虑，总担心ai会把生物信息学数据分析这类工作替掉。不过，我并不这么认为。理论上，ai更像是提升了生物信息学工程师的工作效率，就像计算机的office三件套提升了财务人员的效率一样，并不会彻底取代财务人员！ai这类工具减少的是重复性劳动，而不是职业本身。真正会被淘汰的，是“不会使用新工具的旧人”，而不是“生物信息学”这个领域。这种说法往往来自对生物信息学的误读，把它简单理解成“跑流程的工具人
面向智能时代的数据合规体系重构
伴随人工智能，尤其是生成式AI与大语言模型，由技术模块升维为社会运转的底层设施，数据作为核心"驱动力"的价值日益凸显。然而，AI的规模化应用也空前加剧了数据安全与合规挑战，传统静态、碎片化的管控模式在应对AI系统动态演进、持续迭代、多方协同的特征时已然力不从心。因此，打造适配未来的"AI-Ready"数据合规架构，亟需突破传统数据治理的边界，展开系统性、战略性的思辨。本文将围绕风险变迁、治理模式升级、关键要素搭建及发展趋向四大层面，探析AI-Ready数据合规的创新路径。 一、风险演进：由静态客体到动态联
Gen AI制药入临床？药监局警示模型黑箱与数据偏见
生成式人工智能（Gen AI）是一种利用历史数据创造新内容的智能技术，在药物研发注册领域，Gen AI通过机器学习或深度学习模型，基于海量研发数据生成创新输出，涵盖药物分子设计、临床试验方案、药效评估、毒性预测、注册文档编写及结构化数据生成等多个维度[1]。近年来，Gen AI技术突飞猛进，全面渗透至制药研发、生产与销售链条，推动行业从“试错密集型”向“计算驱动型”转变。波士顿咨询集团（BCG）的报告指出，自2010年以来，采用AI作为核心策略的20家公司已将约15个管线项目推进至临床试验阶段[2]。Gr
易知AI | 线性回归：医疗预测的利器
从探寻最佳直线到临床血压预测，揭开连续值预测的神秘面纱在易知AI|为何要懂AI的探讨中，我们提及了机器学习的核心能力——“预测”。那么在医疗健康场景下，当健康管理师需要估算“运动3小时能导致多少体重波动”，或者医生想预判“患者的血压会出现何种起伏”，应采用何种算法来实现精准估算呢？答案便是线性回归。作为机器学习中最基础且经典的算法，它是构建复杂预测模型的基石，凭借易懂且可解释的优势，成为医疗领域进行连续值预测的实用工具。在易知AI|未懂这两个模型，别称自己懂AI医疗：线性回归与逻辑回归全解析中已有涉及，本
AI三性解析：打造可理解、可解释、可验证的智能系统
在制造、医疗、金融、交通等对安全性或合规性要求极高的行业，人工智能（AI）已演变为关键决策的基石。不过，伴随模型复杂度的攀升（例如深度神经网络、大语言模型），其“黑箱”特质引发了关于安全性、公正性及可审计性的深切忧虑。因此，可解释性、可理解性及可验证性构成了可信AI的三大核心支柱。这三者既紧密相连，又各具侧重。一、核心概念辨析 维度 定义 关注点 典型问题 可解释性 （Explainability） 事后 对模型输出提供 人类能理解的理由 “为何模型会做出此决策？” “为何判定该产品存在缺陷？” 可理解性
首届智能故障诊断研讨会顺利召开
2026年3月21日至22日，由学会动态信号分析专委会主办、温州创新联合体协办的“首届信号处理与人工智能驱动故障诊断分析研讨会”顺利举办。活动依托腾讯会议平台开展，汇聚了全球高校、科研机构及企业界的逾千名专家、学者与工程技术人员参与。会议重点探讨了信号处理与人工智能在机械故障诊断中的深度结合，涵盖了智能诊断预测、可解释AI、先进信号处理及数字孪生等热门话题。中国、意大利、南非、印度等国的10位知名专家受邀发表主旨演讲，展示了他们在该领域的最新科研突破及工程应用成果。开幕式由会议主席、学会副理事长陈雪峰教授
人工智能的三代划分与演进历程
一、三代人工智能划分（主流学术界定） 第一代 AI（知识驱动/符号主义，1956—2010） - 核心：人工编写规则+符号逻辑推理 - 代表：专家系统、逻辑推理程序、早期棋类人工智能 - 局限：应用范围狭窄、知识构建困难、难以处理不确定性问题第二代 AI（数据驱动/深度学习，2010—2020） - 核心：海量数据+深度神经网络+统计学习方法 - 代表：ImageNet竞赛、AlphaGo、GPT-3/4、多模态大型模型 - 局限：缺乏可解释性、易受对抗攻击、鲁棒性差、严重依赖数据、不具备真正的理解与常识
观点解读 | 金融人工智能迈入自主决策新纪元
金融领域的人工智能已迈入“自主决策”（Agentic AI 智能体）新阶段。国家金融监管机构以“可解释、严管控、分级准入”为原则，构建了全球最为严格的金融AI治理体系，在激励自主决策创新的同时，严格防范算法不透明与系统性金融风险。AI自主决策（Agentic AI）：人工智能系统不再仅仅是响应指令的工具，而是拥有感知环境、分析信息、规划路径、执行任务及迭代优化的完整闭环能力的智能主体。它能够在合规框架内，独立处理诸如授信审批、交易执行、风险控制、产品定价及合规审查等高价值金融决策，无需人工对每笔业务进行干
AI论文解读：大型语言模型中的“谄媚”与论证图挑战
未来打算分享几篇AI领域的学术文章，既是为了给自己做个网络存档，也希望能给从事智能传播研究的朋友带来一些灵感~摘要：AI系统中的“谄媚”现象，特别是在大型语言模型（LLMs）里，对保持客观、批判性思考及平衡论证构成了巨大阻碍。所谓“谄媚”，是指AI系统倾向于迎合用户的偏见、喜好或主流观点，而不是提供理由充分、公正无偏的论据。这个问题在论证框架里尤为严重，因为AI模型本应基于逻辑一致性而非顺从性来分析、评估和生成论证。随着法律、政策分析和决策支持等领域对AI驱动论证系统的依赖增加，迫切需要建立有效机制来减少
人工智能需要伦理边界
被制造出来的智能系统，不能只讨论“能不能实现”，更要追问“应不应该做”，以及“出了问题由谁承担”。代替人作判断左右人的决定大范围处理个人信息像人那样交流、推荐、筛选、预测因此它带来的挑战，已经不只是“技术是否好用”，而是：它会不会对人造成伤害？它会不会带来不公？它会不会影响和控制人？它会不会让责任变得模糊？它会不会让权力集中到少数人手里？人工智能伦理，说到底就是在技术迅速扩展前，先为它划定边界。例如一个招聘 AI，用过往公司的录用记录来训练。如果公司过去本就偏向某一类人，那么 AI 很可能也会继承这种倾向