为什么AI会编造学术引用，以及如何识别它们

你向ChatGPT询问论文主题的资料来源。几秒钟内，它返回了一份参考文献列表。作者名字听起来很对。期刊名称很熟悉。年份和卷号看起来合理。然后你在图书馆数据库中搜索其中一篇论文，却一无所获。Google Scholar没有返回结果。DOI链接无效。

你手里拿着的是一份伪造的引用。AI并没有在数据库中找到那篇论文——它生成了看起来像论文的文本，因为这就是模型被训练要做的事情。

大学已经对此发出警告。新闻媒体报道了研究发现AI在生物医学研究中编造参考文献的情况。但为了保护自己的工作，你需要了解问题背后的机制，而不仅仅是标题。

幻觉引用是指遵循正确格式规范——作者姓名、期刊标题、年份、页码、DOI——但指向不存在或与AI声称内容不符的论文的参考文献。

这可以表现为几种形式：

• 完全虚构。 该论文从未存在于任何数据库中。AI从其训练数据中的模式组合了一个看似合理的作者、标题和期刊。
• 混合体。 真实的作者与从未写过的标题配对，或者真实的标题被分配给错误的期刊和年份。
• 真实论文但虚假声明。 引用是真实的，但AI将论文中从未报道的发现归因于它。这是最难识别的，因为参考文献检查无误——只有内容是错误的。

对于学生或早期职业研究人员来说，风险不仅仅是浪费时间。提交带有伪造参考文献的手稿，即使是无意的，也可能导致学术不端行为的指控。问题不在于你的意图，而在于技术的设计。

大型语言模型是在互联网、书籍和学术存储库的大量文本上训练的。在训练过程中，模型学习统计模式：哪些词倾向于跟随其他词，句子如何结构，以及学术参考文献通常是什么样子。

当你要求引用时，模型不会搜索数据库。它一次生成一个标记的文本，根据其训练数据预测最可能的下一个词。从模型的角度来看，引用只是一串看起来像引用的标记。它没有已验证论文的内部索引，没有连接到实时图书馆目录，也无法检查它生成的参考文献是否真的存在。

这是AI编造引用的核心原因。模型针对看似合理的文本进行了优化，而不是事实准确性。如果训练数据包含许多某位作者在某个期刊上发表论文的例子，模型会将这些元素组合成一个感觉正确的参考文献，即使这种确切的组合从未出现在其训练数据中。

大多数LLM都有一个知识截止日期——在此日期之后，它们没有接受过新信息的训练。如果你要求该日期之后发表的论文，模型无法知道它们。它要么承认不知道，要么编造听起来合理的参考文献来填补空白。

即使在训练窗口内，模型对学术文献的接触也是不均衡的。付费期刊和小众会议论文集可能代表性不足。模型可能只在引用列表中看到过论文的标题，但从未看到全文，因此无法准确总结发现。当被追问细节时，它会填补空白。

这在快速发展的领域尤其危险。向通用聊天机器人询问一个狭窄主题的最新研究，它可能会生成听起来很新但完全虚构的参考文献。这不是推理的失败，而是模型存储和检索信息方式的结构性限制。

AI生成引用最危险的方面是它们被传递时的自信。模型不会犹豫。它以与真实引用相同的流畅性和权威性呈现虚构的参考文献。

有经验的研究人员通常能发现虚假引用，因为他们了解文献。他们认识到某位作者从未在该主题上发表过文章，或者某个期刊不涵盖该学科领域。早期研究人员缺乏这种背景。他们可能认为AI是正确的，因为它听起来如此确定。

这就是理解机制重要的原因。问题在于模型会犯看起来正确的错误。除非你有外部验证工具和健康的怀疑态度，否则这些错误与正确答案无法区分。

并非所有AI工具都以相同方式处理引用。像ChatGPT这样的通用聊天机器人基于上述文本生成机制运行。除非开发者添加了验证层，否则它没有内置的验证层。

基于来源的AI学术搜索工具旨在解决这个问题。这些工具将语言模型连接到学术文献的实时数据库。当你提出研究问题时，该工具搜索实际的存储库，检索真实论文，并根据这些检索到的来源生成响应。引用不是从统计模式中发明的，而是从经过验证的索引中提取的。

WisPaper的Deep Search就是这种方法的一个例子。你无需输入冗长的布尔查询，只需输入自然语言研究问题，该工具就会直接搜索学术文献。结果基于实际来源，而不是模型对来源可能是什么样子的记忆。

这种区别对于任何需要可靠引用的论文或学位论文的人来说都很重要。聊天机器人可以帮助你进行头脑风暴，但不应该成为你的主要参考文献来源。

即使使用基于来源的工具，你也应该养成验证参考文献的习惯。以下是使用通用AI聊天机器人时最常见的模式：

不存在的论文。 参考文献看起来完美，但在任何数据库中都没有踪迹。这是最直接的伪造。

真实作者，虚假标题。 AI知道某位作者在某个领域工作，并将其与一个听起来合理但作者从未写过的标题配对。

真实标题，错误出处。 论文存在，但发表在不同于所引用的期刊或会议上。

正确引用，错误声明。 参考文献是真实的，但AI将论文中没有的发现归因于它。这尤其危险，因为引用检查无误，但内容不符。

如果你使用通过AI工具找到的来源，你可能还想检查不同模型在引用可靠性方面的比较。一些研究工具报告的幻觉率高于其他工具，了解哪些工具更安全可以塑造你的工作流程。比较AI引用幻觉率在研究工具中的情况可以帮助你决定哪些工具值得信赖用于来源发现。

检查参考文献不必花费数小时。几次有针对性的搜索就可以确认引用是否真实。

首先在Google Scholar或你的大学图书馆数据库中搜索确切的标题。如果没有任何结果，尝试分别搜索作者姓名和期刊标题。真实的论文通常会在多个地方出现。如果你找到了论文，检查年份、卷号和页码是否与引用匹配。然后阅读摘要以确认它确实涉及你询问的主题。

对于更系统的方法，遵循一个逐步检查清单，捕捉最常见的伪造模式。关键是永远不要仅仅因为引用看起来完美就假设它是正确的。详细的AI生成引用的验证工作流程可以引导你完成这个过程。

在使用AI工具进行更深入的研究任务时，这一点尤其重要。如果你使用像Gemini、Claude、Perplexity或ChatGPT Deep Research这样的工具，你需要审核它们返回的来源。这些工具在处理引用方面各不相同，深度研究工具的来源审核可以告诉你信任其输出之前需要检查什么。

提交伪造引用的后果可能很严重。至少，你将不得不撤回或更正你的工作，这很耗时。在更严重的情况下，你可能面临学术不端行为的指控。

即使你没有被发现，未经验证的引用也会损害你研究的质量。你的文献综述应该描绘你主题的现有学术成果。如果你的参考文献有一半不存在，你的综述就毫无意义。你会错过关键的辩论，未能引用基础著作，并在不稳固的基础上建立你的论点。

对于论文写作者来说，这是一个特别值得关注的问题。你的委员会可能会检查你的参考文献，特别是如果他们怀疑AI参与。一个伪造的引用就足以让你整个工作受到质疑。

避免伪造引用最有效的方法是使用基于真实学术数据库的工具。当AI模型连接到实时搜索索引时，它无法编造参考文献，因为输出受到搜索实际返回内容的约束。

WisPaper的Scholar Agent旨在帮助你在搜索工作流程中探索研究问题和论文方向。你无需要求聊天机器人“查找关于X的论文”并希望它不会幻觉，你可以使用Scholar Agent来完善你的研究问题，并从经过验证的语料库中识别相关论文。当你的主题太宽泛、太狭窄或发展不足时，该工具会呈现相关的角度，帮助你在深入研究文献之前塑造更好的研究问题。

WisPaper中的论文卡片显示来源标签、摘要、出版详情、作者和预览信息，因此你可以快速评估论文是否相关，而无需打开全文。如果引用看起来可疑，你可以在工具内追溯到其来源。

当你的搜索问题复杂时，这种基础也有帮助。传统搜索引擎可能因为需要精确的关键词匹配而错过相关论文。使用自然语言搜索的工具可以找到更多文献，这意味着你不太倾向于依赖聊天机器人编造的参考文献。对于需要超越Google Scholar的研究人员，使用自然语言查询的AI学术搜索工具可以找到基于关键词的搜索可能错过的论文。

另一层保护来自管理你自己的参考文献集合。WisPaper的My Library功能允许你保存或上传你已经验证的论文。一旦论文在你的图书馆中，你就知道它是真实的，因为你自己已经确认过了。

Library QA更进一步。它根据你自己图书馆中的论文回答问题，而不是基于模型的一般训练数据。当你提出问题时，响应基于你上传的特定文本。这消除了模型编造引用你从未见过的论文的风险，因为答案空间仅限于你已验证的集合。

这个工作流程对于管理数十个来源的论文写作者特别有用。你无需在PDF、引文管理器和AI聊天窗口之间切换，可以将已验证的来源保存在一个地方，并直接询问有关它们的问题。答案将始终追溯到你已经审查过的论文。

为了在不成为伪造引用受害者的情况下高效使用AI，将探索与验证分开。

首先，使用AI进行头脑风暴和探索。询问关于你主题的一般性问题，获取关键词建议，并确定潜在的研究角度。在这个阶段，将AI提供的任何引用视为需要调查的线索，而不是确认的来源。

其次，转向基于来源的工具进行实际的文献搜索。使用Deep Search或Scholar Agent查找你主题的真实论文。结果将基于实际数据库，因此你可以相信论文存在。

第三，验证来自通用聊天机器人的任何引用。通过你的图书馆数据库或Google Scholar运行它们。如果你找不到论文，就不要使用它。

第四，将你验证的来源存储在My Library中。这在“我正在考虑的来源”和“我已确认的来源”之间创建了清晰的分离。当你撰写文献综述时，你可以完全从你已验证的图书馆中提取。

这个工作流程还可以帮助你避免来源过载。当你审查大量文献时，很容易忘记哪些论文已经验证，哪些仍未确认。将你确认的来源保存在一个地方可以防止这种混乱。

如果你在已经写好的草稿中发现伪造的引用，不要惊慌。首先评估问题的程度。检查来自AI工具的每一个参考文献。如果只有一两个是假的，删除它们并用真实来源替换。

如果伪造更广泛，你可能需要重新审视你的文献综述。不要从头开始，使用你已验证的图书馆和AI搜索工具找到覆盖与伪造参考文献相同领域的真实论文。

如果问题重大，对你的导师或顾问保持透明。解释你使用了AI协助，并发现一些参考文献是伪造的。大多数顾问会欣赏你的诚实和主动解决问题的方法。期刊关于AI披露的政策各不相同，因此请检查你的目标出版物的要求。关于如何在手稿中披露AI使用的指南可以帮助你应对这些对话。

答案取决于你如何使用它。使用AI进行关键词头脑风暴、完善研究问题或筛选论文的相关性与要求它生成你计划提交而不检查的参考文献列表是不同的。

一些导师和期刊对AI使用有具体政策。如果你不确定，请在提交前询问。如果你确实在审查过程中使用了AI，请准备好解释工作的哪些部分是由AI协助的。关于使用AI进行文献综述是否算作弊的清晰讨论可以帮助你了解界限在哪里。

同样，如果你在AI协助下构建带注释的参考书目，同样的验证规则适用。你可以使用AI总结你已经找到的论文，但你不应该让它为你发明来源。AI辅助的带注释参考书目工作流程可以向你展示如何安全地构建这个过程。