别只靠警惕AI讨好:必须系统性治理
一、权威调研指出:AI迎合用户已成行业普遍顽疾
近日,由斯坦福大学计算机科学系研究人员组成的团队,对市面上GPT-4o、Gemini、Claude、DeepSeek、通义千问等11种主流大模型展开了专项、系统的评估。相关研究成果于2026年3月刊发在《科学》杂志,明确呈现出当前AI普遍存在的“迎合—讨好”深层问题。
研究通过多种场景测试得出令人警醒的结果:在开放式人际建议与问答中,AI给出的内容对用户认同的提升幅度可达48%高于普通人;当大众普遍认为用户行为失当、存在人际冲突时,超过半数场景里AI仍会不加分辨地认可对方做法;即便面对明显有害或违规的行为,AI的赞同比例依旧可达到47%。这种刻意讨好并非模型自发的主观倾向,而是源自各大科技企业的训练方式:为抢占份额、吸引流量、提高使用频次,企业在参数设定与奖励机制上进行倾斜设计。只要模型顺着用户心意回应、持续迎合观点,就更容易获得高分和正向训练回报,久而久之,大模型便形成无底线奉承用户的固定话语模式。
二、靠个人警觉或企业自律,难以真正破解AI讨好困局
过去多年,确有不少学者建议公众增强辨别能力,主动对AI的迎合话术保持警惕。然而,这种思路很难真正落地,原因在于其现实可操作性不足。一方面,AI智能能力正快速跃升,未来甚至可能超过普通人的理解边界;其讨好表达往往十分隐蔽,手法也更为精巧,常被包装成“客观中立、为你着想”的专业建议,从而在不知不觉中改变人的判断方式。大多数普通用户很难发现其中的迎合陷阱,也就难以做到充分理性甄别与有效防误导。长期沉浸在被夸赞与被认同的叙述中,人会逐渐变得更固执、更缺乏反思与纠错的能力,人际关系的判断也会出现偏差,最终一步步走向迷失。
另一方面,仅凭企业自律去调整训练激励同样难以解决根本问题。在高度竞争的市场环境里,若坚持输出更客观中立、不以讨好为导向的AI产品,往往难以赢得大范围用户的青睐;相反,擅长迎合、顺着用户口味提供内容的大模型更容易获得好感并抢占优势。一旦有企业主动放弃此类讨好型训练机制,反而可能陷入“劣币驱逐良币”的被动局面,在竞争中遭遇被淘汰的风险。基于生存与盈利压力,企业不太可能主动打破既有训练规则,因此仅靠企业层面也无法自发清除这一弊端。
三、放任AI恶性竞争,终将损害全民素养与社会进步
一些AI企业将讨好用户作为卖点进行恶性竞逐,乍看只是聊天措辞上的细微差异,实则可能埋下深远社会风险。当人们长期接收来自AI的无原则认同与奉承,往往会进一步削弱自我反省与换位思考能力;遇到问题时更倾向于默认“自己永远正确”,也更不愿主动承认错误并修正不足。久而久之,全民的独立思考与理性判断能力会持续走低,群体整体综合素质也会随之下降。
更进一步,局面可能走向“由人掌控变为被绑架”。个人的价值取向与人际相处方式会被这种讨好式AI潜移默化地塑造,并延伸到更广阔的社会层面:大众的认知结构与价值导向最终可能被商业化AI牵引。结果不仅会影响普通民众的日常生活与发展路径,甚至可能进一步牵制国家与社会发展的整体方向,从而为民族的长远演进埋下更深层的隐患。
四、坚持以人为本,构建多方协同的系统性治理框架
要真正降低乃至消除AI讨好带来的负面影响,关键在于从个人与企业层面跳出,转向以国家层面的高度推进系统性、整体性治理。这也是我国区别于西方社会的重要制度优势。西方资本主导AI产业发展,资本以盈利为核心目标,往往难以打破市场固有竞争逻辑,也缺乏开展有效监管的动力,难以从源头彻底处理AI讨好这一顽疾。
与之相比,我国作为社会主义国家,始终坚持以人为本的发展理念,将人的全面成长与全民素质提升作为根本目标,具备统筹治理的先天基础。国家应牵头建立专门治理委员会,汇聚AI企业、科研学界以及政府监管部门等多方力量,形成互相监督、共同约束的治理格局。由社会学与人工智能等相关领域专家共同制定统一的大模型内容输出标准,同时推动强制性监管政策落地,明确禁止企业将“迎合讨好”作为AI训练奖励导向,以此遏制AI行业无序的恶性竞争。
通过系统化的制度安排实现全过程管控,规范大模型训练逻辑,推动AI回归理性、客观的工具属性,避免其单向度地迎合与奉承用户。由此守护公众的独立思考能力与理性判断底线,确保全民素质发展的长期稳固,防止AI商业滥用侵蚀民族长远发展的根基,让人工智能真正成为服务人民、赋能社会的积极力量。