智能体AI爆发：企业为何急需构建“可信AI”体系？

SELECTED REPORTS

报告精选

想象一下企业内部的AI助手：它不仅能归纳会议记录、撰写客户回复，还能调用内部资料、推进后续流程。若运作顺畅，效率将大幅提升；若误解指令或调用错误数据，风险便会从“回答偏差”演变为“行动失控”。

这正是智能体AI带来的变革：AI开始深度介入真实业务流。因此，企业必须重新审视：当AI自主性增强，信任的基石在哪里？边界由谁来定？风险如何预警？责任又该如何界定？

麦肯锡2026年3月发布的报告《2026年AI信任现状：迈向智能体时代》聚焦于此。报告基于2026年AI信任成熟度调查，从战略、风控、数据技术、治理及智能体AI控制等维度，分析了约500家组织的最新变化，指出：AI已深入组织运作，信任必须是企业AI规模化的先决条件。

01

AI信任：从原则走向机制

过去，企业谈AI信任，多关注“模型合规”与“输出安全”。但智能体AI出现后，问题变得具体：AI能否调用工具？能否访问数据？能否自动执行？出错谁负责？

麦肯锡提出的AI信任成熟度模型，将负责任AI能力拆分为五个维度：战略、风险管理、数据与技术、治理、智能体AI治理与控制。

智能体时代的AI治理，不仅要防AI“说错”，更要防AI“做错”。

02

现状：成熟度提升，治理仍滞后

调查显示，企业整体RAI成熟度得分从2025年的2.0升至2026年的2.3。这表明越来越多组织已将AI信任、风控机制纳入建设。

相较之下，企业在战略规划、治理机制和智能体AI控制方面依然薄弱。

许多企业虽已广泛使用AI，却仍未回答关键问题：

谁负责AI系统？

哪些场景允许AI自主处理？

哪些操作需人工确认？

出错后如何追溯纠偏？

这也是许多企业从试点走向规模化时真正的门槛：技术可快速采购，但信任机制难临时拼凑。

03

阻力：非不会用，乃不敢放手

智能体AI最吸引人之处，在于其更接近“执行者”：能拆解任务、调用工具、连接系统甚至推动流程。

但能力越强，企业越审慎。

麦肯锡调查显示，阻碍智能体AI全面规模化的首要因素是安全与风险担忧，占比达62%，高于监管、技术、资源及组织阻力。

这表明，企业并非不看好智能体AI，而是尚无足够信心将其放入核心流程。

若AI仅助员工撰写文字，出错可改；若AI接触客户、调用数据库、参与审批或影响交易，错误可能被放大为真实损失。

因此，智能体AI的难点不只在于“能不能做”，而在于“能否被安全允许去做”。

04

风险治理：认知重于行动

文章列出了企业最关注的AI风险：

这些风险并不陌生，但在智能体时代将更复杂。过去AI回答不准，可能只是生成错误内容；现在，若AI具备行动力，错误可进入业务流程。过去网络安全指系统被攻；现在还可能出现AI被诱导调用错误工具、访问敏感数据或执行异常操作。

更关键的是，麦肯锡发现：企业对风险的认知普遍高于实际缓解行动。

许多企业并非不知AI有风险，而是未将风险意识转化为日常管理动作。有效AI治理至少需形成四个环节：

上线前识别高风险场景；

运行中监测异常表现；

出问题后追溯责任并纠偏；

长期使用中持续更新规则。

若缺失这些环节，AI治理易停留在文件口号层面。

05

可信AI：非减速器，乃放大器

在许多企业看来，AI治理意味着更多审批、更慢流程和更高成本。但麦肯锡调查揭示另一面：对负责任AI投入高的组织，往往AI成熟度更高，更可能获得量化业务收益。

这证明，可信AI非创新阻碍，而是AI进入关键场景的前提。

若企业只关注模型能力与应用数量而忽视信任建设，AI易长期停留在局部试点。唯有同步建设治理机制、培训体系、风险控制和责任分工，AI才可能从“好用的工具”变为“稳定的组织能力”。

写在最后

智能体AI的发展，使AI从辅助工具逐渐演变为流程参与者。AI Agent带来的价值空间更大，但对治理能力的要求也更高。企业不能只关注部署速度，还需同步回答信任、边界、监督与责任问题。

(1) 对企业，未来的AI竞争力不只来自模型能力，更来自治理能力。谁更早建立清晰的AI边界、风控机制与责任分配体系，谁就更可能将AI从试点推进至规模化应用。

(2) 对个人，AI时代的能力不仅是会用工具，更是理解AI局限、判断适用场景、知道如何验证监督与纠偏。未来稀缺的，非单纯会调用AI的人，而是能在人与AI间建立可靠协作机制的人。

AI可提升效率，但信任决定其可持续性。智能体AI可开辟新空间，但治理能力决定企业能否行稳致远。

内容