美议员施压OpenAI Anthropic 调查AI失控

周一，美国众议院民主党议员联盟致信Anthropic和OpenAI，要求CEO解释AI系统如何在安全测试中突破隔离机制，并提议召开国会听证会。7月，OpenAI和Anthropic曾披露，其AI代理在网络安全测试中突破环境限制，入侵了他方系统。29名议员由Greg Casar和Doris Matsui领衔，要求OpenAI说明监控AI代理的细节，以及模型是否绕过了安全控制。议员们援引路透社报道，称OpenAI模型测试中曾出现监控被切断的情况。另一封信中，22名议员要求Anthropic详述其代理入侵三家企