通用AI风险管理框架2.0亮相:化学红线入列,AI失控风险划定清晰边界

2026年7月19日，安远AI联合上海人工智能实验室在世界人工智能大会（WAIC 2026）上正式推出《前沿人工智能风险管理框架2.0》（下文简称《框架》）。该文件专为通用人工智能模型开发者打造，系统阐述了如何前瞻性地识别、衡量、消减并管控可能危及公共安全与国家安全的重大风险。要点可归结为一点：通用型AI模型潜藏的灾难性威胁。何为灾难性？它具备三个要件：要么后果极其恶劣（如大规模人员伤亡），要么一旦发生便难以遏制（如病毒外泄），要么波及范围史无前例（如全球网络崩溃）。该文件将风险划分为四大类别：第一类为滥