今天的提升不等于持久的学习
一节辅导课可以在当下提升表现,其原因可能与持久学习关系不大:AI就在旁边,提示学生、把问题拆解成步骤,并让注意力保持在任务上。这确实有用,但这与学生一个月后能独自解决同类问题是两回事。测试记忆保持意味着撤去支持、等待一段时间,然后再测量。
这一区分很重要,因为那些报告最明显成效的研究往往在辅导本身附近测量结果。在一项覆盖英国五所中学的探索性随机试验中,使用经过教学法调优的AI模型的学生在所有测量的学习结果上至少与和人类辅导老师聊天的学生表现相当,并且在后续主题上解决新问题的可能性高出5.5个百分点[5]。这是一个关于迁移到新问题的有意义结果,但测量仍然发生在研究期内,而不是经过长时间延迟之后。
唯一真正测试了记忆保持的实验
为期两年的Khanmigo学校实验是最直接针对这一问题的研究,因为它包含了记忆保持的测量,而不仅仅是即时表现[2]。它将AI辅导与现有的每日补救数学课程以及没有AI辅导的普通练习和数学软件进行了比较,这提供了一个真正的对照组,而不仅仅是前后对比的快照[2]。
现有摘要没有给出的是记忆保持结果的大小或方向。摘要指出记忆保持带有透明的成本,这暗示维持长期收益涉及真实的权衡,而非免费的改进[2]。在阅读完整结果之前,诚实的答案是:这项实验确实测量了延迟结果,但这里的证据并不能确定参与度提升得以保持。
其他研究能告诉我们什么、不能告诉我们什么
一项围绕掌握式练习设计的中学实验测试了一个直接嵌入每道数学题旁边的AI辅导老师,并对辅导老师能说什么设置了限制[3]。这种设计正好针对可能建立持久技能的那种有支持的练习,但该研究没有报告延迟记忆保持的结果,因此无法回答收益是否持续[3]。
比较两个ChatGPT模型在三角学辅导中的工作聚焦于教学质量和适应性,评判的是模型教得有多好,而不是学生之后记住了多少[4]。同样,使用学习分析来描绘生成式AI数学辅导中人与AI分工的研究,考察的是这些角色在辅导过程中如何发挥作用,而不是辅导结束后学习是否持续[1]。这些有助于理解好的AI辅导在当下是什么样子,但它们让记忆保持的问题仍然悬而未决。
如何判断你看到的关于AI辅导的下一个说法
当你遇到一个标题说AI辅导改善数学学习时,有用的问题是:测量了什么,什么时候测量的。一项报告学生在课程期间或刚结束后正确解决了更多问题的研究,告诉你的是有支持的表现;一项在间隔一段时间后、不使用工具的情况下重新测试学生的研究,告诉你的是记忆保持。英国试验发现学生在后续主题的新问题上表现更好,这比同一节课的分数更接近第二类证据,因为它涉及将学习应用到新事物上[5]。
就目前而言,实际的解读是:AI数学辅导有可信的证据表明具有即时和近期收益,包括在一项试验中优于人类辅导老师[5];并且至少有一项长期学校实验测量了记忆保持,但在此处可获得的证据中,并未确认收益持续存在[2]。这个问题提得好,而且确实仍然悬而未决,而非在任一方向上已有定论。
本文引用的文献
用学习分析揭示生成式AI数学辅导中人与AI的角色
该论文通过学习分析考察了生成式AI数学辅导中人与AI的角色,但未涉及当延迟测试记忆保持时参与度提升是否持续。
一键之遥:为期两年的学校实验中Khanmigo的AI辅导
一项为期两年、在数学中使用Khanmigo的学校实验将AI辅导与补救课程和普通数学软件进行了比较,并包含了记忆保持的测量,不过现有摘要没有报告记忆保持的结果。
让AI辅导富有成效:来自掌握式数学练习实验的证据
一项中学掌握式数学练习实验评估了一个嵌入练习旁边并设有约束的AI辅导老师,但没有提供关于延迟记忆保持结果的证据。
ChatGPT三角学辅导能力的比较分析:从3.5模型到推理o1的进展
一项比较两个ChatGPT模型在三角学辅导中的研究评估了教学质量和适应性,而非记忆保持或长期学习结果。
AI辅导能够安全有效地支持学生:英国课堂中的一项探索性随机对照试验
一项在英国五所中学开展的探索性随机对照试验发现,AI支持的辅导产生的学习结果至少与人类辅导一样好,学生在后续主题上解决新问题的可能性高出5.5个百分点,但该研究没有评估延迟后的记忆保持。
