AI交互鲁棒性测试指南

1-何为用户交互鲁棒性测试在人工智能领域，用户交互鲁棒性测试旨在评估AI系统在遭遇“不按套路”的用户时，能否维持稳定、安全且合乎逻辑的表现。若将AI比作一名服务员，此类测试旨在确保：即便顾客口音重、逻辑混乱、临时变卦，甚至故意刁难，服务员也不会“死机”或对顾客实施报复。•这些场景涵盖无意的（如：断网、错别字、乱码）和故意的（如：恶意攻击），因此鲁棒性测试旨在验证AI在遭遇异常、干扰或攻击时，系统是否会崩溃或胡乱输出。•要求AI做到“输入越差，表现越稳”（例如：乱码、辱骂、错别字、提示词注入）。对抗性测试是