研究团队的负责任 AI 自动化清单

AI 自动化可以帮助研究团队搜索、筛选、总结、提取和整理论文。但当团队无法解释工具做了什么、人工检查了什么，或哪些来源支持最终结论时，它也可能带来隐藏风险。

负责任的 AI 自动化不是拒绝自动化，而是为 AI 分配正确的任务，在正确的位置保留人工审查，并清晰地记录工作流程，使其他研究人员能够检查。

这份清单帮助研究团队决定 AI 在文献综述工作流中的位置，以及如何在不削弱研究记录的情况下使用它。

负责任 AI 自动化意味着以可追溯、限于适当任务、并在输出影响研究结论之前由研究人员检查的方式使用 AI。

它提出三个基本问题：

• AI 正在执行什么任务？
• 什么证据支持输出？
• 人工验证了什么？

如果团队无法回答这些问题，那么自动化对于严肃的研究用途来说过于不透明。

风险较低的任务通常是更好的起点。这些任务帮助研究人员更快地推进，而不会让工具对结论拥有最终决定权。

更安全的 AI 辅助任务包括：

• 生成搜索词想法。
• 为筛选总结摘要。
• 按主题对论文进行分组。
• 建议提取字段。
• 查找方法或局限性可能所在的章节。
• 起草深入阅读的问题。
• 创建供人工审查的初始论文列表。

这些任务仍然需要检查，但错误在影响最终文献综述之前更容易被发现。

一旦团队理解了更安全的任务，就可以识别需要更严格控制的任务。

影响纳入、证据解释、引用准确性或研究结论的任务需要更严格的审查。AI 可以协助，但不应默默做出决定。

高控制任务包括：

• 最终的纳入或排除决定。
• 偏倚风险或研究质量评估。
• 提取统计结果。
• 解释定性发现。
• 比较相互矛盾的证据。
• 验证引用。
• 撰写出现在最终综述中的声明。
• 决定何时可以停止筛选。

规则很简单：如果 AI 错误可能改变综述的论点，则输出需要人工验证。

有关提取特定的检查，请参阅 AI 文献综述的数据提取质量控制。

在工作流开始之前定义 AI 的使用。这可以防止团队在截止日期压力下做出工具决策。

写下：

• 可以使用哪些工具。
• 每个工具可以支持哪些任务。
• 哪些任务需要人工审查。
• 哪些输出需要来源位置。
• 哪些输出不能直接使用。
• 谁批准工作流变更。
• 如何报告 AI 的使用。

这不需要是一份冗长的政策。对于小团队来说，一页工作流说明通常就足够了。

有关更正式的版本，请参阅 研究团队的 AI 文献综述政策模板。

通过将每个有用的输出连接到支持它的来源论文、搜索记录或审查者决定来保持 AI 输出的可追溯性。

使用可追溯字段，例如：

• 论文标题或 ID。
• 来源或数据库。
• 搜索日期。
• 提示或任务描述。
• 输出摘要。
• 来源位置。
• 审查者检查状态。
• 审查后做出的决定。

可追溯性很重要，因为 AI 生成的文本可能将声明与其证据分离。研究工作流应将声明拉回论文。

如果团队使用 AI 搜索，请保留搜索日志。有关搜索记录，请参阅 AI 辅助综述的文献搜索日志模板。

团队应在手稿、报告或文献综述中使用引用之前进行验证。当引用由 AI 建议、格式化或总结时，这一点尤其重要。

检查：

• 被引用的论文是否存在？
• 标题、作者、年份和发表场所是否正确？
• 论文是否支持该声明？
• 引用是否指向真实来源，而不是看似合理的参考文献？
• 论文是否已被更正或撤稿？
• 引用是否是支持该声明的最佳来源？

引用验证是独立于写作的步骤。不要将其埋没在编辑中。

有关发表状态检查，请参阅 如何检查论文是否已被更正或撤稿。

通过将 AI 摘要视为阅读辅助工具而非最终证据来防止无依据的声明。摘要可以帮助你决定要检查什么，但论文必须支持综述中使用的声明。

使用此规则：

• 用于筛选的摘要：经过轻度检查即可接受。
• 用于笔记的摘要：对照论文检查关键点。
• 用于综合的摘要：对照源文本进行验证。
• 用于最终声明的摘要：直接引用并检查论文。

这可以防止写作偏离为二手解释。

有关提示设计和检查，请参阅 在信任 AI 摘要之前的论文摘要提示。

以解释工作流而不夸大工具作用的方式报告 AI 的使用。读者应了解 AI 在哪些方面提供了帮助，以及人类在哪些方面做出了决定。

包括：

• 工具名称（如果相关）。
• AI 支持的任务。
• 人工审查点。
• 来源验证过程。
• 由人类做出的筛选或提取决定。
• 任何已知的局限性。

避免使用模糊的语言，例如“AI 被用于进行综述”。这种说法掩盖的信息多于解释的信息。

如果 AI 影响了筛选顺序，请将报告与 AI 辅助综述中何时停止筛选 联系起来。

实用的清单应涵盖任务范围、来源验证、人工审查、文档记录、隐私和最终问责。

使用此清单：

• 定义 AI 辅助的任务。
• 确认该任务适合 AI 支持。
• 确定人工审查者。
• 要求证据声明提供来源位置。
• 标记不确定的输出。
• 单独验证引用。
• 保留搜索和筛选记录。
• 如果筛选有优先级，记录停止规则。
• 保护敏感或未发表的材料。
• 记录工具限制和已知的工作流限制。
• 对照原始来源审查最终声明。

清单应足够简短，以便人们实际使用。

通过定义你需要做出的决定、该决定所需的证据，以及将证明决定如何做出的记录，将建议转化为可重复的工作流。在文献发现中，问题很少是缺少某个工具。问题通常是搜索、阅读、检查和写作发生在不同的地方，而没有共享的规则。

使用简短的操作流程：

• 命名综述问题或子问题。
• 定义你正在使用的来源集。
• 决定什么算作下一步的足够证据。
• 在该步骤中对每篇论文应用相同的标准。
• 标记不确定的情况，而不是强迫给出干净的答案。
• 为可能进入最终综述的声明保留来源位置。
• 在每次重要的搜索、筛选或写作会话后审查工作流。

这个流程保持工作进展，而不会使综述变得粗心。它还让监督者、合作者和未来的你能够理解为什么来源集发生了变化。

记录那些以后难以重建的部分。你不需要记录每一次点击的日记，但你需要足够的细节来解释从问题到来源再到声明的路径。

对于这个主题，最有用的记录通常包括查询、来源路径、种子论文、结果数量和后续搜索。添加日期、使用的工具或来源、审查者状态和下一步行动。如果 AI 协助了该步骤，写下它帮助了什么以及人工检查了什么。

记录应区分发现和证据。工具可以帮助找到论文，但论文本身必须支持声明。摘要可以帮助筛选来源，但原始来源应支持文献综述中出现的任何陈述。

在写作之前，检查工作流是否产生了可用的证据，还是仅仅是有用的笔记。笔记帮助你思考。证据支持一个句子。

问：

• 这个来源将支持哪个声明？
• 声明是否比证据更窄？
• 方法、样本、结果或概念细节是否已检查？
• 局限性是否可见？
• 相互矛盾的论文是否得到处理而不是被忽略？
• 引用是否真实、最新且相关？
• 另一个读者能否理解这个来源是如何进入综述的？

如果答案不清楚，请将要点保留在笔记中，而不是将其移入草稿。这是防止 AI 辅助研究变成精致但薄弱写作的小停顿。

WisPaper 可以通过帮助研究人员将搜索、筛选、保存的论文和基于库的问题更紧密地结合起来，支持负责任的 AI 工作流。其搜索工作区支持 Deep Search、Scholar Agent 和 Inspiration Discovery 进行学术搜索。论文卡片显示来源标签、摘要、作者、发表详情和预览图像，使早期筛选更具可检查性。

对于来源集管理，WisPaper 包括用于保存或上传论文的 My Library。Library QA 可以根据用户自己的库回答问题，这有助于研究人员针对已知的论文集提出后续问题，而不是松散的网页结果。

对于引用风险，由 WisPaper 提供支持的 TrueCite 将 BibTeX 文件与真实学术数据库进行核对，以标记虚构的参考文献。这使其成为有用的集中引用验证步骤，而研究人员仍然负责检查论文是否支持所引用的声明。

试用 WisPaper