AI开发提速背后,企业需筑牢上线防线

一位业务伙伴兴奋地跑来找我：“我用 AI 半小时搞了个内部查询页，能先给客户试试吗？”页面能展示，表格能查询，甚至还有导出功能。如果只看演示，它已经相当像样。但我现在第一反应不是夸它高效，而是会抛出五个问题：谁能访问这个页面？查询的数据来源是什么？是否涉及客户、订单、手机号、账号等敏感数据？上线前谁来把关？出问题时如何停用、如何回滚、如何追踪日志？近期几则新闻放在一起看，信号已经非常明确。一方面，OpenAI 公开分享了 Codex 在内部如何安全运行：沙箱、审批、网络策略、日志、OpenTelemetr