为何AI竞赛让世界更不安全——以及合作为何如此艰难
AI治理的核心权衡在于：是竞相抢占先机以获取竞争优势，还是放慢脚步以管控风险。像“智能崛起”这样的模拟游戏——四年来共运行了43次——表明，当国家（如美国、中国）或企业（如OpenAI、谷歌）相互竞争时，结果几乎总是破坏稳定的：安全失误或地缘政治冲突的风险上升，而积极未来的可能性则急剧下降[1]。这些游戏还揭示了合作为何如此罕见：行为者有着强烈的默认激励去竞争，而拥有资源去理解风险的行为者寥寥无几，这赋予了他们不成比例的权力，既可以加剧问题，也可以改善局面[1]。
这一发现并非纯理论性的。它与更广泛的监管文献相吻合：[4]指出，前沿AI模型——即具有潜在危险能力的模型——构成了独特的挑战，因为危险能力可能意外涌现，且一旦部署便难以控制。[1]和[4]都得出相同结论：若无有意的协调，默认路径充满风险。模拟证据增加了一个行为层面的维度——表明即使参与者理解风险，他们仍会选择竞速，这正是政策不能仅依赖善意的原因[1]。
即将到来的模型洪流将打破当前基于算力的规则
现行法规，如欧盟《人工智能法案》和美国《人工智能扩散框架》，采用绝对训练算力阈值来决定哪些模型需承担额外要求——例如，欧盟为10²⁵ FLOP（浮点运算次数），美国为10²⁶ FLOP [2]。但一项对2028年的预测显示，超过这些阈值的模型数量将呈超线性增长——每年新增的达标模型数都会超过前一年——预计到2028年底，超过欧盟阈值的模型将达到103至306个，超过美国阈值的为45至148个 [2]。这对监管机构而言是庞大的追踪数量，也表明绝对阈值很快就会变得难以操作。
同样的预测提供了一个更稳定的替代方案：采用相对阈值——例如，将所有模型纳入与迄今最大训练运行规模相差一个数量级以内的范围——将在2025年至2028年间每年稳定纳入14至16个模型[2]。这对政策制定者而言是一个实用的洞见：与其追逐不断变化的目标，不如将规则锚定在前沿本身。这也意味着，在未来两年内，我们应预期关于如何定义“前沿”模型的争论，因为现有的定义很快将被庞大的数量所淹没。
未来两年治理的实际形态
模拟证据和监管分析表明，监管正从自愿的自我约束转向强制性监督。[4]提出了三大支柱：标准制定、注册与报告，以及合规机制——包括对前沿模型的许可要求。模拟结果进一步印证了这一点，表明国际协议虽然可能达成，但往往脆弱不堪，若无执行机制则常以失败告终[1]。因此，可以预见各国政府将不再只是要求企业“确保安全”，而是强制要求其注册模型、开展部署前风险评估，并接受外部审查[4]。
但这里有个问题：治理格局正在这些计划之下悄然变化。[3] 警告称，开源和本地AI模型——运行在个人设备上——如今与专有模型的差距仅剩数月，而且它们对监管者隐形，且被剥离了安全约束。这动摇了“前沿AI将始终存在于数据中心”的假设。未来两年，政策需要适应去中心化的生态系统，采用内容来源追踪和多元中心治理等工具——即由多个地方和国际机构共同监督——而非仅依赖自上而下的规则[3]。
国际协调是另一个关键主题。[5]从国际原子能机构（IAEA）的核安全体制中汲取经验，主张建立标准化的全球规范，以减少各国监管之间的差异。不过，该研究也承认，人工智能与核技术有所不同，直接照搬行不通；我们需要一个灵活且持续更新的框架[5]。模拟结果也印证了这一点：积极的未来几乎总是要求那些有强烈竞争动机的行为体之间实现协调[1]。因此，未来两年内，可以关注国际共识的构建努力——或许通过联合国等机构，或新设立的人工智能专门机构——即便这些努力最初以不具约束力的协议起步。
关于这些来源
本回答基于5项研究（4篇经同行评审，1篇预印本），发表于2023年至2025年间，其中4篇为2024年或之后发表，2篇发表于Q1期刊，合计被引用103次。这些研究是从5项通过质量筛选的研究中选出的最相关成果，而后者又源自从超过5亿篇论文数据库中检索到的46篇文献。
本文引用的文献
AI竞赛动态模拟游戏中的战略洞察
在为期四年的“智能崛起”模拟中，43次推演显示，国家与企业之间的人工智能竞赛持续加剧了安全或地缘政治失败的风险，而积极结果几乎总是依赖于难以实现的国际合作。
前沿AI模型数量趋势：预测至2028年
一项预测至2028年的研究估计，将有103至306个模型超过欧盟的10²⁵次浮点运算阈值，45至148个模型超过美国的10²⁶次浮点运算阈值，且这一数量每年呈超线性增长；而采用相对阈值则每年可稳定捕捉14至16个模型。
本地AI治理：应对去中心化AI带来的模型安全与政策挑战
本地开源AI模型如今与专有模型的差距仅剩数月，且能在个人设备上运行，从而对监管者隐形并摆脱安全约束；本文提出技术保障措施与多中心治理框架，以应对这一转变。
前沿人工智能监管：管理新兴的公共安全风险
前沿人工智能模型带来了独特的监管挑战——包括不可预见的高危能力、难以防范滥用以及快速扩散——因此需要制定标准、建立注册与报告机制，并实施合规措施，其中包括许可制度和部署前的风险评估。
迈向人工智能安全的国际监管框架：国际原子能机构核安全监管的经验借鉴
借鉴国际原子能机构核安全法规，本文主张制定标准化的国际人工智能安全规范以减少监管差异，同时指出人工智能的独特风险需要量身定制、灵活适用的框架，而非直接照搬。