全球监管 urging 强化金融智能体AI风险管控
伴随人工智能(AI)加速普及,各国监管机构指出,自主性不断提升的AI形态可能放大金融体系风险,并呼吁出台新规加以约束。
全球标准制定组织金融稳定理事会(FSB)于周三发布的报告“强烈”建议各方部署防御机制,以缓解AI引发的隐患,特别是“智能体化AI”(Agentic AI)所带来的挑战。所谓智能体化AI,指那些能在较少人工干预下自主规划、推理并执行任务的系统。
目前,多家金融机构已将智能体化AI应用于反欺诈侦测、客户服务及后台运营等场景。
剑桥另类金融中心的一项调研显示,在受访金融从业者中,52%表示正积极部署智能体化AI,其中23%已进入规模化推广或转型阶段,另有29%处于试点探索期。
自Anthropic推出Mythos后,监管机构与全球标准制定方显著加强了对AI在金融领域应用风险的警示。专家担忧,Mythos给银行业带来了严峻的网络安全考验。
FSB指出,自主性AI可能引发“极速显现”的风险,涵盖未授权或非法操作、数据泄露以及对互联系统的干扰等。
报告强调,“AI智能体对人类监督构成特殊挑战”,并警告其可能采取偏离企业初衷的行动,而员工往往毫无察觉且难以及时干预。
为应对上述风险,FSB提出一系列“稳健实践”建议,敦促金融机构为AI应用划定清晰边界并内置防护机制。这些非强制性指南目前正公开征求意见,截止日为7月22日。
责任编辑:刘明亮
新浪财经声明:此消息系转载自合作媒体,新浪财经登载此文出于传递更多信息之目的,文章内容仅供参考,不构成投资建议。
郑重声明:1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。