为什么流畅自信的回答让人觉得可信
当AI回答读起来流畅、听起来言之凿凿时，学生往往把这种自信当作准确的信号。在一组研究结果中，61%的学生认为AI回答本身就有说服力，38%的人把自信的语气列为他们信服的原因之一[1]。流畅性在这里起了实际作用：它消除了那些可能让读者停下来问“这真的对吗？”的细微犹豫和模糊措辞。
这就是研究人员所说的自动化偏差的核心——倾向于把机器的输出当作客观权威来服从。一项研究把这种效应归结为学生将AI视为“客观”机器，并发现这种服从并不只是信息不足的问题[3]。呈现方式的自信和对工具客观性的感知结合在一起，让核查显得没有必要。
了解问题并不能可靠地解决问题
一个自然的假设是，了解AI的学生才会去核查来源。证据却让这个假设变得复杂。一项研究报告称，AI素养并不能防止自动化偏差[1]，这意味着即使是对这些工具工作原理有良好掌握的学生，仍然可能被自信的回答所左右。
似乎有帮助的不是一般知识，而是刻意停顿的习惯。关于批判性能动性的研究描述了过度依赖AI工具会助长被动学习的风险，并指出对自动化偏差的自我意识和“有意识的核查”是对策[2]。换句话说，有用的技能是在接受的那一刻抓住自己，选择去核实，而不是假设了解技术就会自动让你保持怀疑。
界面本身能否提示核查？
如果流畅性是问题的一部分，一种应对方式是刻意设置中断。一个名为“认知摩擦”的设计概念正是要这样做——引入小的阻力点，旨在鼓励学生核实AI生成的信息，而不是直接吸收[1]。其思路是打断从阅读到相信的顺畅滑行。
这里的证据还停留在提出的设计概念层面，而不是已证明的解决方案，所以最好把它看作一个有希望的方向，而不是经过验证的解决办法[1]。研究确实支持的是底层诊断：流畅、自信的呈现方式塑造了学生的可信度判断，而这正是任何干预都需要作用的杠杆[1][3]。
当来源与AI不一致时，学生会站在哪一边
当AI与另一个来源冲突时，核查来源最为重要。现有研究结果表明，学生并非一律忠于机器：86%的人表示在出现分歧时会站在非AI来源一边[1]。这对盲目信任的图景是一个有意义的平衡，也表明自信AI回答的吸引力并非绝对。
不过，表示愿意站在人类或非AI来源一边，并不等于真的会去看。说会核查和实际核查之间的差距，正是自动化偏差悄然起作用的地方，而迄今为止的研究更多是描述这种倾向并提出对策，而不是测量学生在实践中多久核查一次[1][2][3]。
本文引用的文献
设计认知摩擦以促进学生在使用生成式AI时进行核实
引入一个名为“认知摩擦”的设计概念，鼓励学生核实AI生成的信息，并报告61%的学生认为AI回答有说服力，38%提到自信的语气，86%会在分歧时站在非AI来源一边，而AI素养并不能防止自动化偏差。
从算法输出到人类理解：在AI介导的研究与教育中建立批判性能动性与信任
认为依赖AI工具可能助长被动学习和自动化偏差，并指出对自动化偏差的自我意识和有意识的核查是建立批判性能动性和信任的途径。
评估人类与AI界面中呈现的论点的有效性
考察AI生成文本的权威语气以及将AI视为客观机器（自动化偏差）是否影响本科生的判断，但并未明确确定学生是否会核实来源。