为何深度伪造检测器在面对未见过的伪造内容时会失效
核心问题在于，深度伪造检测器通常基于特定生成方法进行训练，但新的生成器却层出不穷。2024年的一项研究表明，针对某类深度伪造内容训练的检测器，往往难以识别由不同模型生成的伪造内容，因为每个生成器都会留下独特的伪影痕迹[5]。这种现象被称为“泛化鸿沟”。另一项2022年的实验对比了两种主流架构：视觉Transformer和CNN（EfficientNetV2）。CNN对训练方法中的特定模式表现专精，而视觉Transformer在应对未见过的生成器时展现出更强的泛化能力，但两者均未达到完美[7]。结论是：即便是最先进的检测器，面对全新的生成技术时也显得脆弱不堪。
数据增强虽能起到一定作用，但治标不治本。2023年的一项研究利用自编码器生成合成深度伪造数据用于训练，从而提升了对未见数据集的泛化能力[6]。2024年的一项后续研究则采用对抗攻击方法，从真实视频中生成新的深度伪造样本，同样在无需新增数据的情况下增强了泛化性能[5]。这些方法虽展现出潜力，但本质上仍是被动应对——它们试图预判攻击者的行为，而非从根本上解决检测难题。
连人类也无法可靠识别深度伪造
不仅机器难以分辨，人类同样不擅长检测。2023年一项涵盖529名参与者的研究发现，听众仅能在73%的情况下正确识别语音深度伪造，而提前提供深度伪造示例仅能略微提升表现[4]。研究人员得出结论：随着合成算法的改进，检测只会越来越困难。这证实了深度伪造是一种严重的安全威胁，因为它既能欺骗自动化系统，也能蒙蔽人类的判断力。
政治深度伪造尤其危险。2022年的一项研究发现，尽管分析思维能力较强的人略善于识别政治深度伪造，但整体识别效果远非完美[8]。该研究还表明，即使深度伪造视频本身被标记为虚假，仅观看该视频就可能增加人们对相关假新闻的信任。这凸显出，即便能够识别伪造，损害也已造成。
军备竞赛：攻击者占优，但防御者正在适应
深度伪造的生成速度正在超越检测能力。2024年的一项系统综述指出，检测方法往往“零散、被动，且无法跟上”生成式AI的发展步伐[2]。另一项2025年的综述也呼应了这一观点，呼吁建立“稳健、适应性强的检测系统”以应对挑战[3]。共识显而易见：当前的检测技术正处于追赶状态。
有前景的新方法正在涌现，但尚未普及。一篇2025年的论文提出了一种混合神经网络，在包含1万个样本的数据集上通过集成学习和生物信号分析达到了94.3%的准确率[2]。另一项2025年的研究利用脑电图（EEG）脑信号检测深度伪造，实现了61%至62%的准确率——虽高于随机水平，但远未达到可靠程度[1]。这些仍属于概念验证，而非可投入实际应用的解决方案。该领域正朝着多模态和自适应方法发展，但攻击者已占据先机。
本文引用的文献
使用超分辨率脑电图检测深度伪造。
一种深度自编码器提升了脑电图对深度伪造检测的分辨率，但准确率仅为61%-62%，仅略高于随机水平。
深度伪造检测与评估技术的进展：挑战与创新
一种混合神经网络在包含10,000个样本的数据集上达到了94.3%的准确率，但作者指出，检测仍然是被动且零散的。
生成式人工智能与深度伪造检测的演进挑战：系统性分析
一项2025年的综述指出，检测系统缺乏实时性能和可解释性，且需要更快地适应变化。
警告：人类无法可靠地检测出语音深度伪造。
在一项涉及529名参与者的研究中，人类仅能在73%的情况下识别出语音深度伪造，而训练对提升识别能力的帮助微乎其微。
通过循环对抗攻击增强深度伪造检测的泛化能力
使用循环对抗攻击从真实视频生成新的深度伪造内容，可在无需新数据的情况下提升检测器的泛化能力。
基于自编码器的深度伪造检测数据增强方法
基于自编码器的数据增强方法提升了深度伪造检测器在未见数据集（如CelebDF和DFDC Preview）上的泛化能力。
针对深度伪造图像检测中视觉Transformer与卷积神经网络的交叉伪造分析
视觉Transformer在应对未见过的深度伪造生成方法时，其泛化能力优于CNN，但两者均未达到完美。
政治深度伪造的检测
分析性思维和政治兴趣有助于人们识别政治深度伪造内容，但总体识别效果远非完美。