AI编程代理为何总犯低级错误

上周我让Claude Code重构一个模块。它读代码、分析依赖、生成新版本——一切看似顺利。可跑测试时直接崩了。翻遍日志才发现：它调用了一个早已废弃的API，而这个API的警告就写在它读过的文件注释里。它看了，却当没看见。这不是第一次。每次AI编程代理出错，我都问同一个问题：它明明‘知道’，为何还犯？最近一篇arXiv论文给了我答案。论文叫ToolFailBench，来自软件工程研究团队。他们系统分析大语言模型调用工具时的失败模式——不只看测试是否通过，而是深挖每一步操作哪里出了岔。结果惊人：整体分数常掩