治理框架究竟如何减少过度自信？
治理框架通过强制要求人工智能开发与部署过程中的透明度和问责制，直接挑战了过度自信的声明。例如，基于采购的治理——即政府为人工智能承包商设定道德与透明度要求——可以迫使企业披露其算法运作方式，从而防止其夸大能力[3]。这是一种“软法”形式，能够在整个行业推广最佳实践，缩小人工智能实际能力与宣称能力之间的差距[3]。
根据Mäntymäki等人的定义，组织级AI治理将高层次伦理原则（如公平性）转化为具体流程，帮助组织切实评估其AI系统的局限性[5]。这种结构化方法使得忽视缺陷或夸大性能变得更加困难。此外，适应性、参与式的治理框架——涉及多元利益相关方并持续监控——能够在过度自信的预测造成危害之前及早发现它们[1]。
这些框架的局限性是什么？
尽管治理框架前景可期，但仍存在显著盲区。一大挑战在于，政府往往依赖声称其人工智能系统受商业秘密保护的私营承包商，导致难以验证其性能声明[3]。这种保密性可能使过度自信在缺乏监督的情况下持续蔓延。此外，生成式人工智能的迅猛发展速度远超治理框架的适应能力，从而在监管对象与实际发展之间形成鸿沟[1]。
地缘政治因素同样削弱了治理效能。中国计划在2030年前成为人工智能超级大国，其部分动力源于塑造全球规范的意愿，但当前的地缘政治紧张局势限制了其领导能力——这种竞争可能助长为抢占优势而过度自信的声明[2]。最后，正如联合国各项倡议所体现的，全球治理中的“人工智能转向”可能催生无法反映人类复杂性的新型数据身份与现实，从而导致难以质疑的过度自信算法决策[4]。
这些框架最能让谁受益，在什么条件下？
政府及公共部门组织受益最大，尤其是在将采购作为治理工具时。通过在合同中嵌入透明度和道德要求，它们可以确保所部署的人工智能系统经过更严格的测试，并减少过度自信的声明[3]。当政府提前规划并持续执行这些标准时，这一做法最为有效。
采用全面人工智能治理架构的组织——将AI治理与现有的企业、IT及数据治理相结合——能够更好地避免过度自信[5]。然而，这些益处取决于利益相关者的实质性参与和国际合作，而这两者往往缺失[1]。缺乏广泛意见输入和适应性机制，治理框架可能沦为技术官僚式的空转，无法解决过度自信的根本原因。
关于这些来源
该回答基于5篇经同行评审的研究构建而成——发表于2021年至2025年间，其中1篇为2024年及以后发表，4篇发表于Q1期刊，累计被引用337次——这些研究是从5篇通过质量筛选的文献中选出的最具相关性的成果，而该筛选过程则源于从超过5亿篇论文数据库中检索到的34篇论文。
本文引用的文献
生成式人工智能的治理
本期特刊导言指出，生成式人工智能的治理需要采取适应性、参与性和前瞻性的方法，以应对幻觉、不透明性和权力失衡等风险，但同时也指出，当前的治理框架往往缺乏广泛的利益相关方参与和国际合作。
塑造人工智能的未来？中国在全球人工智能治理中的角色
对中国在全球人工智能治理中角色的分析表明，中国的领导雄心源于对规则制定权的追求，但地缘政治紧张局势限制了其影响力，这可能会加剧在人工智能能力方面的竞争性过度自信。
采购作为人工智能治理
本文提出将采购作为一种人工智能“软法”治理形式，表明政府可通过合同要求强制私营人工智能供应商提高透明度，从而降低对专有算法过度自信宣称的风险。
人类的误测：大数据与全球治理中的“人工智能转向”
这篇关于联合国“人工智能向善”倡议的人类学反思文章警告称，算法解读可能制造出简化的数据身份，从而在全球治理中引发过度自信且脱离具体情境的决策。
定义组织人工智能治理
本文将组织人工智能治理定义为一套将伦理原则转化为实践的过程，并将其置于更广泛的治理框架中，以帮助组织管理人工智能风险并避免过度自信。