AI编码代理的误报率有多严重？
简短回答：如果你把通用型AI聊天机器人当作唯一的安全扫描工具，结果会非常糟糕。2023年一项研究测试了ChatGPT与11款传统静态代码分析工具在92个真实PHP漏洞上的表现，ChatGPT检测出了62%-68%的漏洞——大约是传统最佳工具32%检测率的两倍[1]。这听起来不错，但问题在于ChatGPT的误报率高达91%，即每发出100条警报中就有91条是错误的。即便是表现最差的传统工具，其误报率（82%）也比它低[1]。因此，如果团队完全依赖ChatGPT，他们将被大量无用的警报淹没——而这正是问题所描述的困境。
该研究的作者认为，将ChatGPT与传统静态分析工具相结合，可以兼得两者优势——在减少误报的同时提高检测率，因为这两种方法能够捕捉不同类型的漏洞[1]。这表明，仅靠人工智能并非解决方案，但人工智能与传统工具的结合或许才是答案。
新一代AI智能体能否减少误报？
是的——而这正是证据更令人鼓舞的地方。一项2026年的研究引入了一个名为QASecClaw的多智能体大语言模型系统，专门针对静态应用安全测试中的误报减少问题[2]。它并非简单地标记所有内容，而是使用一个过滤智能体来审查源代码，并将每个发现分类为真阳性或假阳性。尽管摘要中未给出具体数字，但该方法旨在削减早期ChatGPT研究中让团队不堪重负的噪声干扰。
类似地，2024年的一项研究将大语言模型（Llama）作为AI代理应用于安全运营中心（SOC），用于自动识别来自网络传感器的误报警报[3]。该系统通过提取每条警报中的关键信息（如IP地址和文件名），利用威胁情报数据库对其进行丰富，再经由安全专家设计的预定义调查剧本进行处理。最终实现自动化分类，减轻了人工操作员的负担[3]。这两项研究均表明，当AI代理专门为减少误报而设计（而非作为通用聊天机器人使用时），它们能够起到帮助作用，而非造成负面影响。
团队实际应该做什么？
证据指向一个明确的策略：不要用AI代理取代现有的安全工具，而是对其进行增强。2023年的研究发现，将ChatGPT与传统静态分析器结合使用，能够比单独使用其中任何一种发现更多漏洞，同时控制误报率[1]。2024年和2026年的研究表明，专门用于减少误报的AI代理可以进一步降低干扰[2][3]。而2023年的用户研究则警示，团队需要防范对AI的过度依赖[5]。
在实际操作中，这意味着：（1）将现有的静态分析工具作为基线保留；（2）增加一个专门训练或配置用于过滤误报的AI代理（而非通用聊天机器人）；（3）使用人工设计的操作手册来验证AI的决策；（4）投入开发者安全培训，避免AI辅助滋生过度自信。研究一致表明，AI能够提升安全性，但前提是它必须融入一个经过深思熟虑的多层系统——而非充当万能灵药。
关于这些来源
该答案基于5篇经同行评审的研究——发表于2023年至2026年间，其中3篇为2024年及以后发表，累计被引用180次——这些研究是从42篇论文中筛选出的5篇通过质量审查的文献中选出的，而42篇论文则源自一个涵盖超过5亿条记录的数据库。
本文引用的文献
旧代码的新把戏：AI聊天机器人能否取代静态代码分析工具？
在一项2023年的研究中，研究人员将ChatGPT与11种传统静态代码分析工具进行对比，针对92个PHP漏洞进行测试。结果显示，ChatGPT检测出了62%至68%的漏洞（而表现最佳的传统工具仅为32%），但其误报率高达91%，比所有参与测试的传统工具都要差。
QASecClaw：一种用于静态应用安全测试中误报减少的多智能体大语言模型方法
2026年的一项研究提出了QASecClaw，这是一个多智能体大语言模型系统，通过使用过滤智能体审查静态应用安全测试（SAST）结果，并将其分类为真阳性或假阳性，旨在降低静态应用安全测试中的误报率。
使用大语言模型作为AI代理，识别安全运营中心中的误报告警
一项2024年的研究将Llama大语言模型作为安全运营中心（SOC）中的AI智能体，通过提取上下文数据、利用威胁情报进行丰富，并按照人工设计的调查剧本执行，来自动识别误报告警。
应对人工智能驱动的异常检测系统中误报挑战并增强云端数据安全
一项2024年关于云环境中AI驱动异常检测的综述研究发现，深度学习模型显著优于传统方法，在整合上下文数据时尤其能实现更低的误报率和更高的准确率。
用户在使用AI助手时会编写更多不安全的代码吗？
一项2023年的用户研究发现，使用AI代码助手的参与者编写的代码安全性显著低于未使用者，且更倾向于相信自己的代码是安全的，这表明存在过度自信效应。