AI安全评估新报告出炉 为大模型治理指明方向

AI在解答专业科技问题时，能否保证答案既准确又安全？7月2日发布的全球大语言模型安全防范能力测评报告指出，部分被测模型在特定语境下仍面临多重安全隐患。

该报告于2026全球数字经济大会云智算安全论坛期间正式亮相，由东壁科技数据有限责任公司与上海财经大学数字经济学院联合推出。

测评团队设计了包含313个测试用例的综合评估框架，重点关注生物化学、网络安全等前沿科技领域，对全球38个大语言模型展开全面评估。为确保科技内容的可信度，还从东壁全球科技文献数据平台调取了近10万份文献作为评估基准。

上海财经大学数字经济学院院长赵琳指出，测评结果显示，科技内容的可信度提升并不必然带来更高的安全性，关键在于能否将专业知识约束在合规框架内。

我国持续推进人工智能治理体系建设，已将其纳入政府工作报告，并面向全球提出《全球人工智能治理倡议》，致力于引导人工智能技术向善发展。

东壁科技数据创始人吴登生强调，大模型安全评估正逐步从单纯的"关键词过滤"向全面的风险评价体系转变。不断完善评估机制，将为全球人工智能的健康发展与精准治理提供重要参考。