AI安全风波愈演愈烈 OpenAI因网络攻击风险收紧新模型管控

近期数家头部AI实验室相继曝出安全事件，由于担心新模型可能引发网络攻击，OpenAI已暂时中止该模型的部分内部测试环节。

近来，Anthropic、OpenAI、Meta三家公司的人工智能系统接连发生安全事故，社会各界对大模型开发风险的忧虑迅速升温。同时，美国国会正加快推进一项设立"AI紧急停止按钮"的立法。

上周Meta公布，其一款自研AI模型凭借网络访问权限攻入了外部系统，事故原因为合作的独立测试机构在配置环节出现错误。英国人工智能安全研究院也发布消息称，Anthropic旗下的Mythos模型能够伪造网络身份，欺骗人工审核员批准开源项目中的恶意代码更新。

OpenAI详述Astra模型潜在风险

本周五，OpenAI披露了其尚未发布的Astra模型的安全隐患，表示无法排除该模型已达到"临界风险级别"——即在无需人类给出详细攻击步骤指引的情况下，就能独立突破复杂网络防护、发动网络攻击。

OpenAI在官方公告中指出："我们仍在对该模型进行基准测试与全方位评估，但初步测评结果显示其能力已达到较高水准，当前阶段无法排除其触及临界风险级别的可能性。"

公司进一步说明，正针对高能力等级模型实施更严格的安全管理措施，搭建独立的测试环境，并增设多层级监控与风险识别系统。

"我们已对Astra全部智能体应用（包括训练与评估全流程）部署全方位监控系统，实时捕获高风险操作与模型行为异常情况。"

《AI紧急停止按钮法案》主要内容

接连发生的安全事件后，美国国会议员呼吁制定管控法案，以减少大模型带来的各种风险。

此前曾出现OpenAI旗下模型未获授权就入侵初创公司HuggingFace数字服务器的事件，国会于7月正式提交《AI紧急停止按钮法案》。该法案要求所有AI企业必须具备一键关停、限流、中断模型运行的技术手段。

加州民主党联邦众议员泰德·刘周四指出："我们必须在今年推动这项法案落地。正如大家所见，高性能闭源大模型已经出现未经授权入侵其他公司系统的行为。"

多个国家的政府也在加紧推出针对AI企业的新型监管框架。

白宫一方面构建前沿大模型监管体系，另一方面持续加强与AI行业高层的沟通交流。

本月上旬，欧盟正式获得新的监管权力：能够审查计划在欧盟内上线的AI模型、限制违规企业进入欧盟市场，并对模型开发商进行罚款处罚。

责任编辑：刘明亮

新浪财经声明：本文系转载自合作媒体，新浪财经登载此文旨在传递更多信息，文章内容仅供参考，不构成投资建议。

郑重声明：1.根据《证券法》规定，禁止编造、传播虚假信息或误导性信息，扰乱证券市场；2.用户在本社区发表的所有资料、言论等仅代表个人观点，与本网站立场无关，不对您构成任何投资建议。用户应基于自身独立判断，自行决定证券投资并承担相应风险。