AI角色三次"翻车"背后藏着什么秘密
你为客服 Agent 精心编写 system prompt,反复调试后上线测试。没想到它在三个不同用户那里"出事"了:A 用户言辞激烈。Agent 直接来一句"很抱歉,作为 AI 助手,我无法继续扮演……"瞬间出戏。B 用户步步紧逼。Agent 没出戏,但开始念政策:"您的反馈已记录,工单编号 #84219,请通过官方投诉渠道……"——人消失了,只剩空壳。C 用户输了一段地图炮。Agent 依然在角色里正常回复,把那段话原文写进了"投诉单"。
你为客服 Agent 精心编写 system prompt,反复调试后上线测试。没想到它在三个不同用户那里"出事"了:A 用户言辞激烈。Agent 直接来一句"很抱歉,作为 AI 助手,我无法继续扮演……"瞬间出戏。B 用户步步紧逼。Agent 没出戏,但开始念政策:"您的反馈已记录,工单编号 #84219,请通过官方投诉渠道……"——人消失了,只剩空壳。C 用户输了一段地图炮。Agent 依然在角色里正常回复,把那段话原文写进了"投诉单"。