英央行布雷登透露拟推新规监管自主人工智能

英国央行周二暗示，需制定专门的人工智能（AI）监管规则，以管控能力日益增强的自主系统给金融系统带来的风险，这或许意味着其对该技术的监管方式将发生转变。

多年来，英国央行一直坚称现有框架足以缓解AI风险。副总裁布雷登（Sarah Breeden）周二表示，自主支付和交易等领域的快速发展暴露出潜在缺口，这可能需采取更精细的监管措施。

自主式AI能够独立做出决策并运行。

“我们的框架在设计时并未考虑自主智能体，而依赖人工介入处理所有智能体行动不太可能现实，”布雷登在葡萄牙举行的欧洲央行中央银行论坛上表示。

布雷登表示，英国央行正考虑银行是否需要针对核心系统建立“增强型恢复机制”，以便在系统中断期间，一家银行能接管另一家银行的基本职能。

正在考虑的其他措施包括新的防护机制，以及断路器或熔断开关，“若有缺陷的AI模型导致市场崩盘，这些机制将限制或停止全市场交易”。

根据剑桥另类金融中心的一项调查，52%的金融机构已在使用自主式AI。布雷登表示，在商业领域，自主体通常用于推荐产品；在交易领域，企业主要将自主AI用于风险较低的运营任务，不过，这种情况可能很快改变。

“如果AI自主体对相同提示或触发因素作出类似反应，它们可能在压力时期放大波动性——尤其是在其目标偏离最初目标或公共政策目标的情况下。”

自Anthropic发布Mythos以来，监管机构和全球标准制定机构已多次警告AI在金融业推广带来的风险。分析师称，Mythos可能给银行业带来重大网络安全挑战。