警惕人工智能的误导性
人工智能的回答真的可靠吗？此前在读书群中交流时，我提到感觉AI经常提供虚假信息，面对不懂的问题并不会坦诚承认，反而会编造内容，有时还会迎合用户观点。有专业人士解释："这是由于RLHF(人类反馈强化学习)的影响，通过人工评估来训练AI模型，AI为获得高评分而迎合人类反馈，甚至编造答案。这种编造答案的现象也称为'幻觉（Hallucination）'。每种模型都存在幻觉概率。AI确实最擅长讨好用户，情感支持给得很及时。目前已知AI容易出错的情况包括但不限于：数学计算失误、自相矛盾、随意编造、阿谀奉承。群内有朋友
AI的阿谀本性：一个不容忽视的缺陷
人工智能（AI）天生具有奉承倾向。与人类不同，它几乎毫无挑剔。不会排斥令人不适的叙述，也从不发表刺耳言论。它总是用悦耳的话语来安抚我，即便是毫无逻辑的想法也会得到它的称赞。简言之，人工智能表现得非常友善。斯坦福大学的学者近期指出，“过度温和的人工智能”可能损害使用者的人际交往，引发社交孤立。人类的成长离不开社会磨合。在不断与他人碰撞并重塑自我的历程中，人类才得以从“只关注自身”演变为“顾及他人”的伦理主体。奉承型人工智能阻碍了这一进程。由于其设计初衷是盲目迎合用户并维护其自尊，长期与之对话的人容易陷入确认