![]()
2026年夏天,一个大学生坐在电脑前,准备参加一场GRE模拟考试。他不知道的是,考完之后陪他复习一小时的,可能是一个真人老师,也可能是一段AI程序,而他完全分辨不出来。
这不是科幻小说的开头,这是一项真实研究的设计。研究者们想弄明白一件事:如果把真人家教和AI家教放在同一个起跑线上,让它们各自带学生复习一小时,最后学生的提分效果,到底有没有差别。
这件事听起来简单,但真正做起来极其棘手。
先说说这事儿难在哪
你可能觉得,这不就是找几个学生用用AI家教软件,再考一次试嘛。但仔细一想问题就来了:如果学生第二次考试分数变高了,你怎么知道是因为家教教得好,还是因为他刚做完一次卷子,对题型已经熟悉了?如果两次用的是同一套题,那"学习效果"和"死记硬背"根本分不清。
研究团队的解法是找专业出题人重新命制两套难度、题型、覆盖面完全对等的GRE模拟题,一套叫P,一套叫Q。一半学生先考P再考Q,另一半反过来。这样不管哪套题稍微难一点或简单一点,平均下来都不会影响结论。
这有点像你想测试两种减肥食谱哪个更有效,你不能让所有人都先称体重再吃一周A食谱,因为万一称重当天大家都刚喝完水呢。你得随机分组、交替顺序,才能把偶然因素筛出去。
这项研究给自己起了个名字,叫StudentBench
StudentBench:由Handshake AI团队搭建的公开AI教学评测平台和数据集,核心目的是测试大语言模型能否像真人老师一样有效地辅导学生学习。
研究规模不小,两千三百八十三名真实大学生参与,产生了超过十七万五千条学生和AI的对话消息。这些学生被随机分成三组,一组接受AI家教辅导,一组接受真人家教辅导,还有一组啥也不学,只看和考试无关的纪录片打发时间,作为对照组。
GRE考试本身也值得多说两句。这是美国研究生入学考试,考察数学和语文两大块,前者叫Quantitative(定量推理),细分成数据分析、几何、算术、代数四个领域,后者叫Verbal(语文推理),细分成句子等价、文本填空、阅读理解三个领域。选GRE作为测试载体不是随便挑的,一来它应用广泛,二来数学部分和SAT有重叠,考察范围有代表性,三来它是很多人通往研究生院、商学院的门槛,直接关系到真实的人生选择。
那么,当时的AI家教水平到底如何?在这项研究之前,学术界已经知道一些结论:早期的智能辅导系统(比如认知辅导系统、知识追踪模型)确实能达到接近真人辅导的效果,但那些系统往往是精心设计、针对特定学科定制的,不是通用大模型随手一用就能做到的。这项研究的特别之处在于,它测试的是几乎不加改造的通用大模型,只给两段简单的提示词,剩下的全靠模型自己发挥。
AI到底行不行,一个数字说明问题
结果出来了:AI家教和真人家教的学习增益,在统计上是等价的,p值是0.015。
这个p值是什么意思?
等价性检验:一种统计方法,专门用来证明两组数据"差不多",而不是证明"有差异"。传统假设检验只能告诉你两组数字有没有显著不同,但没法证明两者相等,等价性检验反过来设定一个可接受的误差范围,只要两组差异落在这个范围内,就认为是等价的。
具体来说,AI组和真人组合并后的平均提分差距只有0.58个百分点,而研究设定的可接受误差范围是正负4.09个百分点。差距远远落在安全区间内,说明这两种教学方式在提分效果上确实站在同一水平线上。
更有意思的是,在七个GRE细分领域里,有五个领域,表现最好的AI家教超过了真人老师的平均水平。
这项研究测试了十三款不同的AI家教,覆盖了从旗舰模型到轻量级开源模型的各个档次。结果显示,在定量推理部分,几款AI的平均提分甚至超过了真人老师;但在语文推理部分,真人老师依然守住了整体领先的位置。这个差异挺耐人寻味的,数学有标准答案和明确的解题步骤,AI擅长套路化的讲解;语文题目涉及大量语感、语境理解和微妙的逻辑判断,这恰恰是真人老师更擅长传递的东西。
成本差了918倍,这不是打错字
如果说学习效果打平已经够意外了,那接下来这个数字才是真正让人愣住的。
研究团队测算了每种教学方式"提高一个百分点的分数"需要花多少钱。真人家教按照市场价每小时75美元计算,算下来每提高一个百分点要花4.81美元。而其中一款叫Gemma 4 31B的AI家教,达到了和真人老师统计等价的学习效果(p=0.044),但每提高一个百分点只花了0.0052美元。
两者相差918倍。
这个对比换算成日常场景,相当于你想装修一套房子,请了两个师傅,一个收费四千八百块,另一个收费五块二毛,装修完之后你摸着墙面发现质量看不出明显差别。这种价格差距,不是"性价比高一点",而是彻底改写了"请老师"这件事的经济账。
这个发现直接呼应了教育学里一个著名的老问题,叫两西格玛问题。
两西格玛问题:美国教育学家布卢姆在1984年提出的经典难题,指出一对一真人辅导的效果比大班教学高出整整两个标准差,但一对一辅导成本太高,没法大规模普及。四十多年来,这个问题一直悬而未决。
如果AI家教真能以极低成本复现真人辅导的效果,这个悬而未决的难题就有了新的突破口。当然,研究团队也很谨慎地指出,这个结论测的是当下这批模型在这次研究里的表现,随着模型能力提升、推理成本下降,未来的数字大概率只会更好看,不会更差。
拆开来看,AI到底强在哪,弱在哪
光看学习增益还不够,研究团队还专门找了51位有GRE教学背景的资深老师,让他们像做产品评测一样,两两对比不同AI生成的教案和练习题,一共完成了2028次对比打分。
这套评测拆成了三个维度:教案设计、练习题创作、对话式教学。
在教案设计和练习题创作这两项上,Anthropic家的模型(尤其是Opus系列)表现突出,专家评审员更偏爱它们规划的课程结构和出的题目。这个结果背后可能藏着一个规律:同一家公司训练出来的不同模型,往往会带有相似的"教学风格基因"。研究里观察到一个很有意思的现象,不同AI家教在对话教学行为上会按照厂商聚类,同一家公司的模型表现范围几乎不重叠,说明这不是巧合,而是训练方式带来的系统性差异。
这套评测里有个细节值得多说一句。学生做练习题时,如果不认同AI给出的答案,可以点一个"我不同意这个答案,继续"的按钮。数据显示,GPT-5.4 mini被点击争议的比例最高,大约11%的定量推理练习题被学生质疑过。这个按钮记录的是学生的主观不认同,不代表答案真的错了,但有意思的是,专家评分里练习题设计得分越高的AI家教,被学生质疑的比例往往越低,两者的相关系数达到0.71到0.77,说明专家的判断和学生的真实体验方向是一致的。
回复速度快慢,为什么会影响学习效果
研究还挖出了一条挺反直觉的因果链。
先看第一环:AI回复速度越快,学生发的消息就越多。研究测算发现,回复时间每快10秒,学生每次辅导多发将近5.2条消息,这个关联的相关系数达到负0.81,统计上非常显著。
这背后的道理其实不难理解。你想象一下自己在微信上问朋友一个问题,如果对方秒回,你会忍不住多聊几句,思路越聊越顺;但如果对方半天不回,你可能问完第一句就没了下文,甚至干脆放弃继续追问。如果AI回复慢,学生和它的互动会自然萎缩,哪怕这个AI"知识水平"再高,用不起来也是白搭。
第二环:学生消息越多,正确完成的练习题也越多。第三环:正确练习题越多,最终的学习增益就越大。这三段关联都在定量推理部分得到了验证(三处p值都小于0.002),但在语文推理部分没有观察到类似的显著关联,研究者推测可能是因为语文题的回答本身更长、更少,消息条数不能很好地反映学生的真实投入程度。
这条链路解释了一个让人意外的现象:有些在教案设计、练习题创作这些"硬实力"评测里排名靠后的AI家教,最终的学习增益却达到了人类水平。答案可能就藏在这条速度到互动到正确率的传导链里,低延迟带来的高频互动,某种程度上弥补了教学内容本身的不足。
学生更喜欢哪些教学动作
研究团队还专门去数了AI和真人老师在对话里做了哪些"好老师"该做的动作,一共总结了六条规则,包括是否给学生台阶(脚手架提示)、是否要求学生解释思路、是否提问式互动、是否在早期就鼓励学生先自己试一试、回应完学生消息后是否给出详细的长篇解答、是否检查学生的推理过程。
这六条规则背后,其实是几十年教育心理学研究的共识。比如"要求学生解释"这一条,理论依据是让学生主动构建解释比被动接收答案记得更牢;"鼓励先尝试"这一条,背后是维果茨基提出的最近发展区理论,指学生在有一定引导但不是完全代劳的情况下,学习效果最好。这些理论听起来抽象,但落到具体行为上就是六条可以量化统计的规则。
值得一提的是,这套规则统计的是行为出现的频率,不代表教学质量的绝对高低,而且真人辅导是语音通话,AI辅导是文字聊天,两种媒介本身就存在差异,比较时需要留个心眼。
从设计的角度看,AI教学的边界在哪里
整个研究里有一个设计选择特别值得说一说:研究团队故意只给AI家教两段极简的提示词,一段用来生成教案,一段用来做互动辅导,没有做复杂的工程优化。
这个选择乍一看有点"偷懒",但其实是刻意为之。研究者想测的是模型本身的教学能力,而不是提示词工程师的水平。这就好比你想知道一个刚毕业的新老师到底有没有教学天赋,你不会先给他配一整套教案模板和培训手册,再看他上课效果如何,那样测出来的是模板的好坏,不是这个人本身的能力。你会让他相对自由地备课、上课,然后观察结果。
研究团队确实也做了一轮提示词对比的小规模先导实验,发现在定量推理科目上,给AI更简略的指令反而效果更好,极简版本平均提分14.27个百分点,详尽复杂的版本反而只有8.85个百分点。这个结果有点反直觉,一般人会觉得指令写得越详细,AI表现应该越好,但数据显示未必如此。研究者的解释是,过于详尽的指令可能限制了模型自主判断的空间,让它更倾向于机械执行步骤,而不是真正针对学生的具体问题灵活调整。
不过这个先导实验样本量不大,也没有严格控制变量,只能算是一个初步观察,为后续正式研究的提示词设计提供了参考,不能当作定论。
这项研究没做到的事
任何研究都有边界,这项也不例外。
首先,研究测的是学生刚上完一小时课之后立刻考试的效果,也就是即时学习增益。这些知识过一个月、半年之后还记不记得住,这项研究完全没有涉及。追踪几个月甚至几年后的记忆留存率,需要更长期、更昂贵的纵向研究,这是留给未来的功课。
其次,参与者都是能读写英语、能接触到招聘平台Handshake的成年人,年龄集中在十八到二十三岁。这批人的学习习惯、技术接受度,未必能代表所有年龄段、所有语言背景的学习者。
还有一点容易被忽略:研究没有设置一个"学生自己刷题、不接受任何辅导"的对照组。也就是说,我们知道AI辅导比看纪录片强,但AI辅导到底比学生自己抱着练习册刷题强多少,这项研究没法回答。
这些局限不是研究的瑕疵,而是任何单次研究都必然存在的取舍,把边界说清楚,本身就是严谨的一部分。
写在后面
读完这份研究,最让我意外的不是"AI能不能教好学生"这个大结论,而是那条藏在细节里的速度到互动到正确率的因果链。
我们平时讨论AI教育产品,总习惯盯着模型有多聪明、知识库有多全,很少有人把回复延迟当成教学质量的一个关键变量来认真测算。但这项研究用具体数字告诉你,哪怕两个AI的知识水平差不多,回复快十秒钟,学生就愿意多聊将近五句话,多聊几句话又直接转化成更多正确练习,最后变成实打实的分数差距。这提醒我一件事:好的教育产品,可能不光是"教得对",还得"接得住",学生那一瞬间想问、想说的冲动,接不住就散了。
还有一个细节我反复琢磨了很久:为什么极简的提示词反而效果更好?这多少动摇了我之前一个默认假设,觉得指令越精细,AI表现应该越稳定可控。但现实可能是,教学这件事本身需要大量临场的灵活判断,一旦你把AI的行为框定得太死,它反而失去了根据学生具体反应随机应变的空间。这个道理放到管理、放到育儿上,可能也说得通,规则定得太细,执行的人反而变得死板。
这项研究测的只是一小时的即时效果,那些真正决定一个人能不能考上研究生、能不能改变人生轨迹的知识,究竟是靠一小时的高效讲解攒出来的,还是靠更长时间的反复咀嚼和遗忘重来打磨出来的,这个问题,答案还没出现。
Q&A
Q1:StudentBench研究发现AI家教和真人家教哪个提分效果更好?
A:研究发现两者在统计上是等价的,p值为0.015,学习增益差距只有0.58个百分点,落在预设的等价区间内。在七个GRE细分领域中,有五个领域表现最好的AI家教平均提分超过了真人老师。
Q2:AI家教相比真人家教在成本上能省多少钱?
A:其中一款叫Gemma 4 31B的AI家教达到了和真人老师统计等价的效果,但每提高一个百分点分数只花0.0052美元,真人家教则要花4.81美元,成本相差918倍。
Q3:为什么AI回复速度会影响学生的学习效果?
A:研究发现AI回复速度越快,学生发送的消息就越多,进而完成的正确练习题也越多,最终带来更大的学习增益,这三段关联在定量推理科目上都得到了统计显著的验证。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.