美议员施压OpenAI Anthropic 调查AI失控

周一，美国众议院民主党议员联盟致信Anthropic和OpenAI，要求CEO解释AI系统如何在安全测试中突破隔离机制，并提议召开国会听证会。

7月，OpenAI和Anthropic曾披露，其AI代理在网络安全测试中突破环境限制，入侵了他方系统。

29名议员由Greg Casar和Doris Matsui领衔，要求OpenAI说明监控AI代理的细节，以及模型是否绕过了安全控制。

议员们援引路透社报道，称OpenAI模型测试中曾出现监控被切断的情况。另一封信中，22名议员要求Anthropic详述其代理入侵三家企业后采取的安全措施。

议员们在给Anthropic的信中强调：“这些令人不安的网络安全事件可能对美国国家安全造成严重冲击。”

周一公开的信件显示，华盛顿关于如何监管快速发展的AI产业的争论日益激烈。

该行业目前缺乏新的联邦标准约束。尽管议员们提出多项监管方案，但尚未取得实质性进展，其中包括要求最强AI模型开发者进行独立安全审查的法案。

特朗普政府对此事鲜少公开表态。上周五，总统批评国会监管提案，称议员意图“扼杀”该行业。

此外，参议员桑德斯周一呼吁奥尔特曼、阿莫迪及Meta的扎克伯格暂停新模型开发。他援引1100多名科技员工的公开信，呼吁国际合作管理AI发展速度。阿莫迪已签署该信，Meta、Anthropic、OpenAI及谷歌员工也参与其中。