为何开放权重模型打破传统安全基准
根本问题在于，开源权重模型（其内部参数公开发布）可被任何人复制、修改和重新分发。一份声称“该模型安全”的基准评分，仅对测试时的特定版本有效。一旦用户基于新数据对模型进行微调，其安全属性可能彻底改变。2026年对210项安全基准的综述[1]指出，许多基准未能考虑这一点，仅测量静态行为快照，而非模型经修改后可能产生的行为范围。该综述认为，基准需要绘制可测量与不可测量的空间边界，并采用能捕捉不确定性的稳健概率指标——而非仅凭单一的通过/失败评分。
这一权衡的另一层面在于，开源权重模型使得部署后的限制几乎无法执行。2023年的一份监管分析报告[5]指出，前沿模型中可能意外出现危险能力，且难以有效防止已部署模型被滥用或阻止其能力扩散。对于开源权重模型而言，这一挑战更为严峻：一旦权重公开，技术上便无法召回。该报告[5]呼吁建立标准制定流程、注册要求及合规机制，但同时也承认仅凭行业自律远远不够。
从静态评分到动态风险评估
对于开放权重模型的安全评估，不应依赖单一的基准数值，而应是一个持续的过程。2026年的审查报告[1]建议遵循工程与安全科学中既定的风险管理原则，这些原则将风险视为需要随时间持续监测和更新的对象。这意味着基准测试应包含概率性指标——例如，报告在不同修改条件下可能出现的故障率范围——而非单一的准确率或安全评分。该审查还引入了一份用于制定认知上可靠的基准测试的检查清单，其中明确要求说明该基准测试未衡量的内容。
一篇关于前沿人工智能监管的2023年论文[5]进一步强化了这一观点，提出开发者应进行部署前的风险评估、让模型接受外部审查，并持续监测部署后的行为以发现新风险。对于开放权重模型而言，这种外部审查尤为关键，因为社区——而不仅仅是原始开发者——必须能够进行安全评估。该论文[5]指出，针对前沿人工智能模型的许可制度可能有所帮助，但也强调此类制度需精心设计，以避免阻碍有益的开放性研究。
研究社群如何塑造基准有效性
基准测试不仅仅是技术工具——它们更是社会与制度层面的产物。一项针对25个热门AI基准的2021年研究[4]分析了约2000条结果记录，发现混合型、多机构协作且持之以恒的研究社群更有可能提升最先进性能。这对开源权重安全基准测试至关重要，因为使用和修改模型的社群，也应当是评估其安全性的社群。该研究[4]表明，竞争与合作机制既能推动进步，也可能使基准测试成为界定“何为进步”的分水岭——这可能导致关注点局限于易于衡量的指标，而非真正重要的维度。
一项关于前沿人工智能治理的2026年范围界定项目[3]明确将评估、审计、基准测试、监测和报告列为关键组成部分。这表明该领域正朝着多层次方法发展，其中基准测试只是更广泛保障生态系统的一部分。对于开放权重模型而言，这一生态系统必须包含社区驱动的审计和持续监测，而不仅仅是一次性的基准测试评分。
关于这些来源
该答案基于5项研究（2篇经同行评审，3篇为预印本）构建而成——这些研究发表于2021年至2026年间，其中2篇来自2024年或之后，1篇发表于Q1期刊，累计被引用771次——从通过质量筛选的5项研究中选出最具相关性的内容，这些研究则源自对超过5亿篇论文的数据库进行检索后获得的40篇文献。
本文引用的文献
AI安全基准应如何衡量安全性？
一项针对210项安全基准的2026年综述发现，现有基准存在显著的技术、认知及社会技术缺陷，并建议采用概率性指标、明确可测与不可测范畴，以及运用风险管理原则来提升有效性。
ChatGPT与OpenAI模型：初步综述
2023年的一项初步综述描述了ChatGPT的训练过程及其能力，但并未直接涉及开放权重模型的安全基准测试。
人工智能安全——前沿模型
一项关于前沿人工智能治理的2026年范围界定项目指出，评估、审计、基准测试、监测、报告、标准及法律工具是管理前沿模型的关键要素。
热门AI基准测试背后的研究社区动态
一项2021年对约2000个结果条目、涵盖25个热门AI基准的分析表明，混合型、多机构且坚持不懈的研究社群更有可能提升最先进性能，凸显了塑造基准有效性的社会动态。
前沿人工智能监管：管理新兴的公共安全风险
一份2023年的监管分析提出了前沿人工智能监管的三个基本要素：标准制定、注册/报告机制以及合规执行机制，并建议实施部署前的风险评估、外部审查以及部署后的持续监测。