北京
在美国，越来越多的高校正在使用AI文本检测工具识别学生是否借助AI完成作业或申请材料。然而多项研究显示，这类工具误判率和可靠性仍存在较大争议，不应作为涉及学生重大利益决策的直接依据。
《天才枪手》（2017）剧照。
编译｜李永博
随着大语言模型的普及，大量高校学生利用AI完成作业、填写申请材料、代写论文，甚至帮助考试作弊，据《自然》杂志近日报道，为了维护学术诚信，越来越多的高校也开始使用AI检测工具来识别文本是否由学生本人撰写。
目前市场上的AI检测产品包括Copyleaks、GPTZero、ZeroGPT，以及Grammarly、QuillBot和Turnitin推出的检测工具。这些AI工具的检测手段都依赖一项称为困惑度（perplexity）的指标。“困惑度”用于估计一句话中每个词出现的可预测程度。由于AI生成文本通常遵循更加稳定、更容易预测的统计模式，因此困惑度较低的文本更容易被判定为AI生成，相反；如果文本的表达越难预测，则越可能被视为人类写作。
问题在于，这些AI工具真的可靠吗？如果它们存在误判的风险，高校是否能够依赖它作为涉及学生重大利益决策的直接依据？
《自然》杂志在报道中就讲述了一个让人困惑的案例。美国爱达荷州立大学的化学专业本科生劳伦·贾格（Lauren Jager）在申请博士项目时，注意到一些申请系统提醒申请者不要使用AI工具撰写个人陈述。贾格当然没有使用AI写作，但为了保险起见，她把申请材料放到网上的AI检测工具里测试了一遍，结果几乎全部显示100%是AI生成的。
最终，贾格只能把整篇个人陈述全部重写，并刻意写成一种“不容易被AI检测出来”的风格。“我是在故意把它写得没那么完美，”贾格回忆道。再次提交后，系统显示文章约有30%的内容由AI生成，贾格认为这已经足够安全才提交了材料，并成功申请上了博士项目。
贾格遇到的情况不是个例。一项发表于2025年的研究显示，AI检测工具GPTZero把人类写作误判为AI生成的比例大概是16%。《自然》将美国《独立宣言》的一部分内容多次输入ZeroGPT后发现，系统多次判定这份1776年起草的部分文本有95%至100%由AI生成。
而早在2023年，美国加州斯坦福大学的研究人员就测试了7款AI检测工具。他们选取了91篇学生参加托福（TOEFL）考试时的英语作文。这些作文的完成时间均早于2020年ChatGPT大语言模型诞生之前。结果发现，超过一半作文被错误标记为AI生成，平均假阳性率达到61.3%。研究团队随后又测试了88篇由13至14岁学生撰写的英语作文，这些作文则基本都被正确识别为人工写作。
此外，AI检测还面临文本经人工或其他AI二次改写后难以识别的问题。研究显示，只要对AI生成内容进行修改，检测准确率便会明显下降，这些AI改写工具与AI检测工具之间已形成持续升级的“军备竞赛”。
研究人员提醒，即使检测工具表现有所提升，也不应将检测结果作为处分学生或淘汰申请者的直接证据。过去，高校教师习惯依据查重软件的相似度结果作出判断，但AI检测工具无法像查重工具那样提供明确的文本对应证据，因此不宜用于涉及学生切身利益的重要决定。
参考资料：
1.Universities are relying on AI-detection software to catch cheating. How well do the programs work?
https://www.nature.com/articles/d41586-026-01358-2
本文为编译内容。编译：李永博；编辑：西西；校对：柳宝庆。欢迎转发至朋友圈。
购买合订本~
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
