开源人工智能与国家安全之间的核心权衡是什么？
开源人工智能为网络防御带来了巨大优势，但也催生了新的安全漏洞。一项基于2025年真实事件数据（如Colonial Pipeline勒索软件攻击）的研究表明，由人工智能驱动的开源情报（OSINT）可将检测准确率提升2.09个单位（数值越高代表性能越优），并将问题解决率提高1.55个单位，两项指标均具有统计显著性[1]。优化后的系统实现了95.2%的检测率，平均响应时间缩短至5.5小时[1]。然而，该研究同时警告：算法不透明性（即人工智能决策难以理解）与薄弱的监管框架会引发伦理与操作风险，尤其当攻击者也能利用开源工具时[1]。由此可见，开源技术既加速了防御，也武装了攻击者——这正是一把双刃剑。
证据表明，关键在于如何有效管理风险，而非禁止开源。该研究建议投资可扩展工具、加强监管，并促进公私合作以监督反应式人工智能系统[1]。这意味着，开源在配合强有力的治理时可以是安全的——而非毫无约束的自由放任。
国家安全治理究竟如何平衡这一关系？
美国在国家安全领域的人工智能治理策略，不仅着眼于技术准入管控，更致力于引导技术发展方向以契合民主价值观。2023年一项针对美国治理体系的分析指出，该国旨在通过行政部门的跨机构协同，构建民主化人工智能应用模式与威权主义替代方案之间的鲜明对比[2]。这意味着军事领域倾向于采用封闭式模型，但该战略同时涉及制定国际规范与标准，以影响全球开源人工智能的开发与共享方式[2]。
与此同时，人工智能开发者、专业协会及学术界人士即便面对国家安全关切，仍积极倡导开放理念。2023年的一项研究指出，尽管存在安全隐忧，跨境研究合作与开源实践在国际上依然根基深厚[3]。这些主体还通过制定伦理准则、开发技术工具来识别并减轻潜在危害，且常与私营企业紧密协作[3]。现实启示在于：国家安全治理不必扼杀开源——通过分层规则可实现二者共存，即在共同伦理准则下，敏感军事用途保持封闭，而民用研究保持开放。
在何种条件下，开源、闭源模型与安全能够共存？
可行的平衡需要基于证据满足三个条件。第一，监管框架必须足够强大，以应对算法不透明性和对抗性使用——2025年的研究表明，缺乏此类框架时，反应式AI系统会带来伦理挑战[1]。第二，治理必须是社会技术性的，即同时考虑技术本身及其所服务的社会价值观，正如美国所强调的方法[2]。第三，即使出现安全担忧，也应通过职业规范和跨境合作保持开放性，因为这些社群所产出的工具和指导方针能让AI更加安全[3]。
这些研究得出的证据汇聚于一点：没有唯一的答案。同一款人工智能工具，既可能成为防御利器，也可能构成安全风险，关键在于谁在使用它以及如何对其进行治理。研究给出的最有力建议是：投资于可扩展、透明的人工智能系统，并培育能够随威胁演变而灵活调整的公私合作伙伴关系[1][2][3]。
关于这些来源
该回答基于3篇经同行评审的研究——发表于2023年至2025年间，其中1篇为2024年或之后发表——这些研究是从3篇通过质量筛选的文献中选出的最具相关性的成果，而这三篇文献又源自一个包含超过5亿篇论文的数据库中所检索到的45篇论文。
本文引用的文献
人工智能驱动的开源情报在网络防御中的应用：国家安全的双刃剑
本研究基于IBM X-Force、MITRE ATT&CK及Colonial Pipeline事件等真实数据发现，人工智能驱动的开源情报可将检测准确率提升2.09个单位，解决率提高1.55个单位，优化后的系统可实现95.2%的检测率与5.5小时的响应时间，但同时也警示了算法不透明与监管薄弱带来的风险。
美国人工智能国家安全治理
这份关于美国国家安全人工智能治理的分析，阐述了一项覆盖全政府的战略，旨在引导人工智能技术符合民主价值观，并与威权主义路径形成对比，重点聚焦于行政部门的协调以及国际规范的制定。
人工智能开发者、行业协会及学术界
本研究指出，尽管存在国家安全方面的顾虑，人工智能开发者、专业协会及学术界人士仍通过跨境合作与开源实践倡导开放性，同时制定伦理准则并开发危害检测工具。