千问引入核查机制:AI开始自我验证
2026年3月底,千问推出了一项名为"引证"的新功能。用户提问涉及新闻、政策等内容时,回答结尾会出现一个"引证"按钮。点击后,千问会自动核查其回答,可靠信息标绿,存疑信息标红。业内认为,这可能是首个内置事实核查机制的主流AI应用,意义重大。
AI幻觉一直是行业的难题。虽然大语言模型被训练成生成合理文本,但它也会编造虚假信息。对于普通聊天应用,这可能无关紧要;但在需要准确信息的情境下,如医疗、法律、财务等领域,AI的错误回答可能会带来严重后果。因此,幻觉成为了阻碍AI广泛应用的因素之一。
千问引证功能如何运作?当用户提问涉及新闻或政策时,千问会在回答末尾展示"引证"按钮。点击后,系统进入核查状态,对回答中的重要信息进行智能标记。若有可靠、可验证的权威来源支持,将以绿色高亮显示;若信息存疑,则以红色标记。