安全前置：将 AI 防御融入开发流程
「大模型安全：攻击面演变历程」系列第七篇（收官之作）
大模型面临的安全挑战并非单一漏洞，而是一条不断扩张的攻击演进路径——从输入端（提示词注入/越狱）→ 训练端（数据投毒/模型窃取）→ 执行端（智能体安全）→ 评估治理端（红队演练/安全左移）。每一层面的新型攻击，都使得上一阶段的防御措施显得捉襟见肘。
作为本系列的终章，我们将聚焦于治理层面。前六篇文章已详细剖析了各层攻击面，本文旨在解答一个核心命题：如何让安全机制不再是事后的修补工具，而是从系统构建之初便深度植入？
2023 年，某安全团队察觉公司新部署的 AI 聊天机器人存在系统提示词泄露风险。追根溯源：开发团队仅用两周便完成了从 HuggingFace 下载模型到上线部署的全部流程——期间既未开展安全评估，也无人对模型进行审计