警惕AI的局限性

前几天看到个例子，有人手指断了求救AI，AI建议先泡生理盐水，结果到了医院发现组织水肿，没法接了。 我先问了自己常用的AI，它的回复是：“若手上有脏东西，用生理盐水冲一冲，再用湿纱布包好，装进密封袋，最后放入冰水混合物里降温。” 那个案例出现这种惨痛后果，大概有这两个原因：一是当事人理解错了；二是那个AI答非所问。 我注意到大家平时把AI当百科全书用，却忽略了：AI的回答质量参差不齐，同一个模型、同一个版本，换个提问方式答案都不一样，更别说不同模型之间了。 涉及生死或治疗预后的关键问题，最好还是遵循急救手册和医生的专业意见。 还有次朋友用AI分析感情，AI直接判定对方在精神控制她。我没好意思说AI的名字，转给另一个AI看，它却说是过去的经历造成了沟通障碍。 为何结论天差地别？①模型不同；②提问方式不同；③用户记忆不同。因为它记得我之前的所有对话，分析时就在揣摩我的思路。 AI全靠描述做判断，而人的描述难免主观。你试着让两个人说同一件事，差别都很大，AI自然无法做到绝对公正客观。 处理情感问题时，理智的人可以用它来辅助纠错，但如果沉迷于“你们都不懂我，只有AI懂我”这种想法，那问题恐怕出在自己身上。 人是复杂的，没人能完全理解另一个人，AI又凭什么能预测？还有用AI做决定，你说让AI改改就行，但它有审美吗？把思考权全交出去，人还剩什么？