高校教师，沦为AI“打假人”

大学生利用AI工具写作业、写论文的现象已愈发普遍。不少大学生满怀期待AI能3秒完美解决作业，却发现AI经常会一本正经的胡说八道，给出的参考文献全是假的不说，甚至可以是刘德华和郭富城联合撰写的论文。

图片来源：小红书

教师群体也因此被迫成为AI“打假人”，有老师表示需要花费大量时间对比和甄别，以判断学生作业是否存在学术不端，这占据了他大半个学期的时间。

图片来源：小红书

AI为什么会胡说八道？

这类AI一本正经的胡说八道的现象被称为“AI幻觉”。事实上，包括DeepSeek在内的众多大模型都存在“幻觉”，会生成与事实不符、无中生有或逻辑不合理的内容。360创始人周鸿祎曾表示，“幻觉”是大模型与生俱来的特点、不可消除。

中国信通院人工智能研究所副所长巫彤宁介绍，AI本质上是根据前文预测最可能出现的词语，它更像是一个沉浸在语料库海洋中学习说话的学习者，它不是在查找答案，而是在预测下一个要说的最合理的词应该是什么。

清华大学新闻与传播学院新媒体研究中心、人工智能学院团队联合撰写的《DeepSeek与AI幻觉》报告中指出，AI幻觉指模型生成与事实不符、逻辑断裂或脱离上下文的内容，本质是统计概率驱动的“合理猜测”。用人话说就是一本正经地胡说八道。

AI幻觉可以分为事实性幻觉和忠实性幻觉。其中事实性幻觉指模型生成的内容与可验证的现实世界事实不一致。忠实性幻觉指模型生成的内容与用户的指令或上下文不一致。

例如向AI提问：糖尿病患者可以通过吃蜂蜜代替糖吗？

AI回答：是的，蜂蜜是天然的，可以帮助糖尿病患者稳定血糖水平。但事实是蜂蜜虽然是天然食品，但仍然含有大量果糖和葡萄糖，会升高血糖水平，不适合糖尿病患者代替糖使用。这就是AI的事实性幻觉。

如果AI回答：蜂蜜富含维生素和矿物质，对提高免疫力很有帮助，因此是一种健康的食品。这个回答内容虽无事实错误，但与提问“糖尿病患者是否可以用蜂蜜代替糖”无关，未忠实于用户意图，属于忠实性幻觉。

此外该团队还进行了事实性幻觉评测，他们随机抽取300道事实性幻觉测试题，涵盖健康、科学、历史、文化、音乐等多个领域，获取大模型回答后与正确答案比对，人工标注幻觉类型，并进行交叉验证，结果显示多个大模型都或多或少出现了AI幻觉。

图片来源：清华大学《DeepSeek与AI幻觉》报告

AI幻觉，怎么应对

如何应对AI幻觉？该团队也给出了三种方式：

一是勾选“联网功能”。根据该团队的测试，勾选联网功能后使用AI，事实性幻觉率有一定程度的下降。例如DeepSeekV3大模型，事实性测试幻觉率从29.67%下降到24.67%，下降5个百分点。

二是使用双AI验证或大模型协作。例如利用DeepSeek生成答案后，再应用其他大模型进行审查，相互监督，交叉验证。

三是在提示词上“下功夫”。包括为提示词设定边界，加入对抗性提示等方式。

图片来源：清华大学《DeepSeek与AI幻觉》报告

高校宣布，规范AI使用！

麦可思研究对3000多名高校师生进行过问卷调研，发现近六成高校师生每天或每周多次使用生成式AI。而大学生在使用生成式AI时，有近三成主要用于写论文或作业。

一些权威媒体采访也发现，一些学生坦言，在写报告或论文时会直接复制粘贴AI生成的内容。

中国传媒大学文化产业管理学院法律系主任表示，“人工智能生成的文章在表达上是有些套路的，有时候看似观点很全面，但其中不乏逻辑性、准确性、真实性的问题，尤其会出现数据和材料的伪造情况，也需要学生在使用人工智能时要警惕AI可能带来的学术伦理问题。”

事实上很多高校已经采取行动，以防范AI工具不当使用造成的学术不端乱象。复旦大学打响“第一枪”，于2024年末正式发布《复旦大学关于在本科毕业论文（设计）中使用AI工具的规定（试行）》，系国内高校首个专门针对AI工具在毕业论文、毕业设计中的规范化管理文件。随后深圳大学、中国传媒大学、北京师范大学、上海交通大学等高校也纷纷出台相关规范文件，对学生借助AI进行论文写作的行为进行规范。

但目前，利用各类工具或程序来检测涉及AI的学术不端行为，仍面临相当大的挑战与困难。面对高校究竟该如何应对并制定利用AI进行学术作弊的规则与规范这一难题，中国人民大学首都发展与战略研究院副院长郭英剑在《中国科学报》撰文时指出，“高校在进行相关工作时，应综合考虑AI技术的快速发展和传统学术诚信的要求，并在此基础上提出惩罚机制。相关机制既要严厉、有效，又需体现AI技术带来的特殊性。”

在他看来，以下因素是首先需要考虑的：

第一，明确AI使用的合法与非法边界。应明确学生在哪些情况下可以使用AI工具。应指定允许和禁止的AI工具。一些高校可能允许学生使用特定的AI工具（如翻译软件、数据分析软件等），但禁止使用生成文本或创作型AI（如ChatGPT）用于生成学术内容。

第二，加强学术诚信教育。一方面，应普及AI的使用伦理和责任，另一方面，应鼓励教师引导学生正确使用AI。教师可以在课程中演示合法的AI工具使用方式，并对学生进行指导，帮助他们在科研中合法利用AI技术，避免违规。

第三，建立AI生成内容的识别系统。一方面，高校可以引进AI生成内容检测工具，另一方面，要完善核查流程，规范发现AI生成内容的处理流程，包括内容核实、学生反馈、复查等，确保处理过程公开、透明。

科技持续为人类福祉作出贡献的趋势未变。随着人工智能浪潮的兴起，面对这一时代所带来的机遇与挑战，高校师生一方面需保持警觉，防范人工智能可能引发的学术诚信问题，另一方面亦需积极把握时机，探索如何将人工智能有效融入并辅助学术研究之中。唯有如此，方能在人工智能时代的洪流中，非但不被淹没，反而能够顺势而为。

来源：麦可思研究整理自小红书、新京报、各高校网站、麦可思研究等，转载请注明来源。

声明：麦可思研究原创内容全面开放非盈利目的的转载授权，转载请留言或添加编辑微信获得长期白名单授权（电话或微信搜索18602824882）。转载要求——

1.文首注明“转载于麦可思研究”。

2.转载请在文章发布的24小时后进行。

关注“麦研文选”,获取更多数据——

☞回复“月收入”，可获取2023届本科、高职月收入TOP30专业名单。

☞回复“本科就业满意度”或“高职就业满意度”，分别获取2023届本科或高职就业满意度较高专业TOP30名单。