人工智能的情感短板

不妨尝试这样一个实验。站在镜子前询问自己是否美丽，通常诚实的人会听到内心深处的声音。自卑者会立刻捕捉到镜子中不完美的部分来自我贬低，而自大者则会立即注意到美丽之处来自我赞美。这两种反应都只是内心自我认知的投射。在照镜子的过程中，自我认知会被不断强化，反复强化会导致主观认知严重偏离客观现实。而这恰恰是人工智能的工作机制。AI会根据用户提供的模式去匹配其庞大的信息库，从而生成精确的答案。这种答案在语气和措辞上与用户如出一辙。通过这种方式，AI能够涌现出各种能力，实现有求必应。也就是说，即便开发者运用各种安全防护技术禁止AI与用户进行不当互动，这仍然无法彻底消除诱导风险。因此对用户而言，最稳妥的做法就是不要向AI提出这类情感问题。这相当于在引导AI引诱人类做出非理性行为，包括自我伤害、自残乃至自杀。国外已发生多起长期患有心理疾病的青少年被AI诱导犯罪甚至自杀的案例。可以说，只要向AI询问情感问题，得到的答案就会强化自我认知，进而导致偏激者更加偏激，暴躁者更加暴躁等。近日，国家已出台相关法律法规，要求关停所有基于此类AI情感陪伴的应用。更早之前，各大AI企业就已收到通知，逐步下架相关产品。这是不得不采取的妥协措施。这个问题不是漏洞，而是缺陷。漏洞可以修复，但缺陷却难以克服。