AI 拒绝贷款却无法解释?这个开源工具让 AI 决策全程可审计
先说个场景。你去申请贷款,结果被拒。过去是信贷员联系你,能问清楚原因,比如收入流水不足、负债比过高,哪个环节没过心里有数。可现在,很多机构的初审都让 AI 来处理,机器扫描你几百条数据,两秒钟就出结果——拒绝。然后你问一句,凭什么?客服那边翻来覆去就是一句"系统综合评估未通过"。你再追问,具体哪项没达标?对方也答不出,因为系统本身也讲不清楚。这不是段子,而是每天都在上演的真实情况,并且正在向更多领域蔓延。医疗诊断建议、保险定损、风控拦截,连政府补贴资格审核都涉及,AI 已经悄悄占据了决策的位置。问题就来了