AI检测作弊工具真可靠吗？

在美国，众多高校正借助AI文本检测系统来辨别学生是否利用人工智能完成作业或申请材料。不过，多项研究指出，此类工具的误报率及可信度仍存显著争议，不宜直接作为关乎学生重大利益的决策依据。

《天才枪手》（2017）剧照。

伴随大语言模型的广泛普及，大量学生利用AI辅助完成作业、填写申请文书、代写论文，甚至协助作弊。据《自然》杂志近期报道，为捍卫学术诚信，越来越多的学府也开始启用AI检测工具，以甄别文本是否由学生亲自撰写。

当前市面上的AI检测产品涵盖Copyleaks、GPTZero、ZeroGPT，以及Grammarly、QuillBot和Turnitin推出的相关工具。这些AI检测手段均依赖一项名为“困惑度”（perplexity）的指标。“困惑度”旨在评估句子中每个词汇出现的可预测性。鉴于AI生成的文本通常遵循更为稳定、易于预测的统计规律，故困惑度较低的文本更易被判定为AI创作；反之，若文本表达越难预测，则越可能被视作人类写作。

关键在于，这些AI工具真的值得信赖吗？若它们存在误判风险，高校能否将其作为涉及学生重大利益决策的直接依据？

《自然》杂志的报道中提及了一个令人困惑的案例。美国爱达荷州立大学化学系本科生劳伦·贾格（Lauren Jager）在申请博士项目时，发现部分申请系统提示申请人勿用AI撰写个人陈述。贾格确未使用AI写作，但为求稳妥，她将申请材料提交至网络AI检测工具测试，结果几乎全部显示为100%由AI生成。

最终，贾格被迫重写整篇个人陈述，并刻意采用一种“不易被AI检测识别”的风格。“我特意将其写得不够完美，”贾格回忆道。再次提交后，系统显示文章约30%的内容由AI生成，贾格认为已足够安全，遂提交材料并成功获得博士项目录取。

贾格的遭遇并非孤例。一项发表于2025年的研究显示，AI检测工具GPTZero将人类写作误判为AI生成的比例约为16%。《自然》将美国《独立宣言》部分内容多次输入ZeroGPT后发现，系统多次判定这份起草于1776年的文本有95%至100%由AI生成。

早在2023年，美国加州斯坦福大学的研究人员便测试了七款AI检测工具。他们选取了91篇学生在2020年ChatGPT大语言模型问世前完成的托福（TOEFL）英语作文。结果显示，超过半数作文被错误标记为AI生成，平均假阳性率高达61.3%。研究团队随后又测试了88篇由13至14岁学生撰写的英语作文，这些作文则基本被正确识别为人工写作。

此外，AI检测还面临文本经人工或其他AI二次改写后难以识别的难题。研究表明，只要对AI生成内容进行修改，检测准确率便会显著下降，AI改写工具与AI检测工具之间已形成持续升级的“军备竞赛”。

研究人员提醒，即便检测工具性能有所提升，也不应将检测结果作为处分学生或淘汰申请者的直接证据。以往，高校教师常依据查重软件的相似度结果作出判断，但AI检测工具无法像查重工具那样提供明确的文本对应证据，因此不宜用于涉及学生切身利益的重要决定。

参考资料：

1.Universities are relying on AI-detection software to catch cheating. How well do the programs work?

https://www.nature.com/articles/d41586-026-01358-2