为何人工智能主权战略往往不透明？
透明度面临的主要障碍在于许多人工智能系统的“黑箱”特性——即便是使用这些系统的组织，也未必完全理解其决策过程。2023年一项关于预测性警务的研究发现，警方之所以放弃商业软件，恰恰是因为它是个“黑箱”：警方无法向公众解释其运作原理，这违背了他们的问责要求[2]。该研究指出了与人工智能主权广泛相关的三个关键问题：对数据的控制权、对黑箱系统的质疑，以及向公众负责的必要性[2]。换言之，如果政府机构无法解释人工智能如何得出结论，就无法为这一结论承担责任。
2024年一项关于人工智能发展问责制的审查证实，这是一个系统性问题，指出算法和决策过程缺乏透明度是重大风险，可能导致偏见、隐私侵犯及意外后果[4]。该审查认为，透明度并非锦上添花，而是降低这些风险、维护公众信任的关键[4]。因此，证据一致表明，不透明性是许多人工智能系统的默认状态，而克服这一问题需要付出刻意的努力。
透明的AI主权战略实际上是什么样的？
透明的策略从一开始就将问责制融入系统，借助决策日志和可解释人工智能等工具。最具体的例子来自2026年的一项研究，该研究专门为公共机构提出了治理感知检索框架（GnARF）[1]。GnARF包含一个“决策日志”组件，记录每一项人工智能决策，形成可供监管机构或公众审查的审计轨迹[1]。这直接回应了不透明问题——它不仅是透明度的承诺，更是实现透明度的技术机制。
该框架还利用检索增强生成（RAG）技术，将AI输出结果锚定在经核验的数据上，并借助个人身份信息（PII）过滤器来保护隐私[1]。这些特性表明，透明度和可问责性可以被设计进AI系统中，但这需要前期的投入与精心设计。2024年一篇关于可解释人工智能（XAI）的论文进一步印证了这一点，指出透明度是负责任AI的核心原则，而XAI等技术对于政府、医疗等高风险领域至关重要[5]。结论是：透明度可以实现，但并非自动达成——它必须成为刻意的设计目标。
当前策略是否真正落实了这些透明度措施？
简短的回答是：尚未实现，至少尚未稳定实现。尽管像GnARF这样的框架在理论上存在，但2026年的研究只是一项提案，而非对实际部署的评估[1]。2023年的预测性警务研究表明，即使执法机构希望实现透明度，也往往难以做到——他们不得不自行开发内部工具，以获得所需的控制权[2]。这表明，在追求透明AI主权的理想与实际实施之间仍存在差距。
2023年一项关于金融科技的研究揭示了另一个层面：即使在透明度对客户信任至关重要的私营部门，许多企业也未能达标[3]。该研究发现，数据收集与使用缺乏透明度等问题普遍存在，并建议采取加密、明确数据政策及提供退出选项等具体措施[3]。这些建议直接适用于公共部门的人工智能主权战略，但研究结果暗示，许多组织——无论是公共还是私营——尚未达到这些标准。因此，尽管实现透明度的工具已经存在，但广泛采用仍是一个进行中的工作。
关于这些来源
该回答基于5篇经同行评审的研究——发表于2023年至2026年间，其中3篇为2024年及以后发表，1篇发表于Q1期刊，累计被引用235次——这些研究是从5篇通过质量筛选的文献中选出的最具相关性的成果，而该5篇文献又源自一个包含超过5亿篇论文的数据库中所检索到的50篇论文。
本文引用的文献
AI主权：为公共部门韧性而冗余使用大型语言模型
提出面向公共机构的治理感知检索框架（GnARF），该框架包含用于可审计AI决策的决策日志、确保输出有据可依的RAG技术，以及保护隐私的个人身份信息过滤机制，直接填补了透明度和问责制方面的空白。
保持对技术的掌控：预测性警务、民主与数字主权
分析了警察部门因商业预测警务软件的黑箱不透明性而逐渐弃用该软件的现象，并指出了三大关键主权关切：数据控制权、对黑箱的质疑以及对公众的问责。
建立金融科技信任：大数据、人工智能与客户信任交叉领域的伦理与隐私考量分析
一项关于金融科技的系统性文献综述发现，透明度、偏见和隐私是主要的伦理问题，建议通过加密、明确的数据政策以及客户退出选项来建立信任。
问责制与透明度：确保负责任的人工智能发展
审查人工智能开发中的问责制与透明度，认为这些原则对于降低偏见和隐私侵犯等风险至关重要，并指出利益相关者（开发者、政策制定者、用户）必须培育一种问责文化。
可解释人工智能：商业领域内外的透明度探索
探讨可解释人工智能（XAI）作为高风险领域中实现透明度的关键工具，涵盖可解释性与可理解性之间的区别，以及监管在推动负责任人工智能方面的作用。