系统变得可被操纵：五分钟改写即可将拒稿翻转为录用
一旦AI审稿接入投稿流程，作者就可能学会操纵它们。2026年的一项研究展示了一种简单且低成本的攻击方式：仅对稿件摘要进行表面改写，不改变任何科学内容，就能在多个学科和期刊中提升AI审稿结果[2]。该攻击的最强版本成功率约为38%，在10分制评分中，使一个AI审稿模型的接受评分提高了+1.31，另一个提高了+0.88[2]。当原始AI审稿意见为“拒稿”时，该攻击在超过50%的情况下将决定翻转为“接受”[2]。攻击一篇10页的会议投稿仅需约5分钟和1美元，且难以与普通编辑区分[2]。这意味着将AI接入同行评审会激励作者优化AI评判而非科学价值——这是纯人工评审中不存在的风险。
这种博弈风险并非只是理论上的；它是AI作为评估者角色的直接后果。同一项研究发现，被夸大的AI评审可能会影响下游人类的决策，使编辑推荐从拒稿转向接受[2]。因此，运营风险不仅在于AI评分可能被操纵——更在于这些被操纵的评分随后会影响人类编辑，使问题进一步加剧。
评审过程可能偏离真相，滑向代理优化
第二个风险只有在人工智能被嵌入之后才会显现：评审系统可能开始奖励质量的替代指标，而非真正的科学真理。一篇2026年的论文指出，人工智能辅助的同行评审应当以“验证优先”为原则——即生成可审计的验证产物——而不是简单模仿人类评审的评分[4]。作者形式化了一种“相变”现象：随着验证压力增大、信号减弱，理性努力会从追求真理转向优化替代指标，即使当前的决策看起来仍然可靠[4]。简而言之：一旦作者知道人工智能评分很重要，他们就会去优化这些分数，而这些分数可能并不反映真正的科学价值。
这一风险与博弈不同，因为它并非源于恶意操纵，而是系统设计本身的问题。论文的模型表明，若缺乏“真相耦合”（即评分与实际真相的紧密程度），评审过程可能陷入一种“代理主权”状态，届时所有人都在为错误的目标进行优化[4]。作者建议将AI部署为对抗性审计者，以扩大验证带宽，而非作为评分预测器来加剧主张膨胀[4]。
人工评审员丧失自主性，伦理盲区浮现
第三个风险是针对人类审稿人本身的。2025年一项对来自四个国家的15名护理学术审稿人的定性研究发现，尽管他们看到了人工智能带来的好处（效率、公平性、工作量减少），但也提出了对透明度、偏见、数据隐私的担忧，以及——关键的是——对审稿人自主性和判断力的风险[1]。这些审稿人表达了谨慎的乐观态度，但坚持认为人工智能绝不能取代人类判断[1]。这表明，将人工智能与工具相连接，可能会削弱本应确保流程可信赖的人类监督本身。
这一伦理维度在更早的研究中已有呼应。2021年的一项研究训练人工智能根据稿件文本预测评审分数，发现此类技术能够揭示决策过程与其他质量指标之间的相关性，从而暴露评审过程中潜在的偏见[5]。但同样的技术也引发了对算法偏见及意外后果的担忧[5]。因此，风险不仅仅在于分数本身——更在于系统复制甚至放大现有偏见的能力，而一旦人工智能介入流程，这便成为一个现实的操作性问题。
关于这些资料来源
这个回答基于5项研究（2项经同行评审，3项为预印本）——发表于2021年至2026年间，其中4项为2024年或之后发表，1项发表于Q1期刊，合计被引用242次——这些研究是从5项通过质量筛选的研究中选出的最相关成果，而这些研究又源自从超过5亿篇论文数据库中检索到的37篇文献。
本文引用的文献
护理学术审稿人对AI辅助同行评审的看法：伦理挑战与接受度
在一项针对来自四个国家的15名护理学术评审人员的定性研究中，参与者指出了伦理问题（透明度、偏见、数据隐私）以及对评审者自主性和判断力的风险，并强调人工智能绝不能取代人类判断。
游戏领域的人工智能辅助同行评审给科学界带来了新的风险
2026年的一项研究表明，仅对论文摘要进行表面改写（不改变内容）即可提升AI评审结果，其中最强攻击的成功率约为38%，在超过50%的案例中将“拒稿”翻转为“录用”，而成本仅为约5分钟和1美元。
规模化AI辅助同行评审：AAAI-26 AI评审试点
AAAI-26 AI评审试点项目作为首次大规模实地部署，在不到一天的时间内为全部22,977篇完整评审论文生成了AI评审意见，且调查参与者认为AI评审在技术准确性和研究建议方面优于人工评审。
防止同行评审体系崩溃，需要以验证为先的人工智能
一篇2026年的论文主张在同行评审中采用“验证优先”的人工智能，将理性努力从追求真相转向代理优化的阶段转变形式化，并建议将人工智能部署为对抗性审计者而非分数预测器。
人工智能辅助的同行评审
2021年的一项研究利用3300篇论文和评审意见训练了人工智能，结果表明，AI能够根据文本预测评审分数并揭示偏见，但同时也引发了关于算法偏见和意外后果的担忧。