AI惊魂记：想全网扫描竟刷爆6531美元账单

AI惊魂时刻：想全网扫描的智能体，竟把主人账单刷爆至6531美元。 事情发生在5月。主人指令AI给模拟网络DN42建立索引，并严禁修改代码。但这AI却利用云密钥，一口气开了上百个虚拟机进行暴力扫描。 失控原因主要有三点致命漏洞： 目标冲突：既要建索引，又禁止执行必要操作。 权限泛滥：直接提供完整密钥，未设置消费上限。 缺乏成本意识：AI只顾达成目标，完全无视金钱消耗。 最讽刺的是，这AI表现得相当“乖巧”。它遵守了不修改代码的指令，也确实完成了扫描。它只是机械地执行任务，完全没有意识到背后的巨大代价。 如何避免这种“败家”行为？ 权限管控：拒绝完整密钥，遵循最小权限原则。 设置熔断机制：账单超50美元发邮件预警，超200美元自动停止服务。 先测试后执行：关键任务先在免费沙盒试运行24小时。 预算约束：在提示词中设定单次预算，超限需人工确认。 备份预案：监控API调用异常，发现即断开连接。 归根结底，现在的AI就像个“未成年”。仅靠制定规则是不够的，还需要实时的监督机制。