为何多数框架衡量的是基准测试而非现实风险？
核心问题在于研究投入与实际风险所在之间存在错位。一项2025年对从9400余篇生成式AI论文中筛选出的1178篇安全与可靠性论文的研究发现，企业AI研究正日益集中于部署前领域——模型对齐、测试与评估——而对部署阶段问题（如模型偏见）的关注度有所下降[1]。这意味着治理框架所依赖的指标，往往是在系统发布前、受控的实验室条件下生成的，而非在其与真实用户、数据和边缘案例交互之后。
同一项研究指出，高风险部署领域存在显著的研究空白：医疗保健、金融、虚假信息、诱导性与成瘾性功能、幻觉现象以及版权问题[1]。这些恰恰是现实世界中危害频发的领域——例如带有偏见的贷款算法、提供危险医疗建议的聊天机器人，或是放大虚假言论的社交媒体推送。然而，治理框架很少要求对已投入市场的人工智能行为进行系统性监测，因为构建这些监测工具的研究工作根本未被优先考虑[1]。
是否存在衡量现实世界风险的框架？
是的，但这些框架具有领域特异性，尚未普及。针对医疗健康及敏感数据，有研究提出了一种专门框架，其中明确内置了“敏感风险指数”，通过四个维度（可识别性风险、内在敏感性、潜在危害性及知情同意一致性）提供标准化风险评估指标[2]。该框架还采用“动态风险评估”机制，持续评估伦理与法律影响，而非仅在部署前进行一次性检查[2]。采用类似方法的医疗机构在监管合规性和患者信任度方面均有所提升[2]。
然而，即便是这一框架也仅是一项提议，尚未成为广泛采纳的标准。纵观相关文献，更普遍的情况是：大多数治理指南仍停留在原则或算法层面，而非系统层面。2023年一项关于负责任人工智能模式的综述发现，大量工作集中于算法层面，主要关注公平性等易于数学化的原则，而贯穿开发全生命周期、涉及众多人工智能与非人工智能组件的伦理问题却常被忽视[4]。作者指出，实践者需要的是覆盖治理与工程全生命周期的系统性、可操作指南，而不仅仅是基准测试分数[4]。
推动治理转向真实世界风险衡量，需要什么条件？
证据指向两个关键变化。首先，研究人员需要获取部署数据。2025年的研究建议，扩大外部研究人员对部署数据的访问权限，并系统性地观察市场上人工智能的行为[1]。否则，治理框架将继续依赖部署前的基准测试，而这些测试可能无法反映系统在发布后的实际表现。
其次，治理框架需要具备动态性和情境感知能力。医疗领域的“情境感知数据访问”超越了传统的基于角色的控制机制，其风险评估是持续性的，而非一次性事件[2]。2022年一项针对三家能源企业的研究发现，有效的AI治理实践能够产生辅助决策的知识，同时克服障碍[3]，这表明现实中的治理必须嵌入组织流程，而非仅停留在清单层面。同样，2024年一项关于银行业与金融业AI应用的综述指出，数据隐私、偏见、问责制和透明度是关键挑战，并建议治理框架应包含贯穿部署全过程的规则与指南以应对这些问题[5]。
关于这些来源
该回答基于5篇经同行评审的研究——发表于2022年至2025年间，其中3篇为2024年及以后发表，2篇发表于Q1期刊，累计被引用242次——这些研究是从5篇通过质量筛选的研究中选出的最具相关性的成果，而后者又源自从超过5亿篇论文的数据库中检索到的46篇文献。
本文引用的文献
人工智能治理研究中的现实差距
对2020至2025年间9,439篇生成式AI论文中的1,178篇安全相关论文进行分析后发现，企业研究主要集中于部署前的对齐与测试，而部署阶段出现的偏见、虚假信息及幻觉等问题则被忽视；研究建议扩大外部研究人员对部署数据的访问权限。
健康数据与敏感领域的人工智能治理框架：实现数据伦理利用的综合路径
提出了一种面向医疗领域的专用AI治理框架，包含敏感性风险指数（衡量可识别性、内在敏感性、潜在危害及知情同意一致性）与动态风险评估机制以实现持续评估；采用类似方法的医疗机构在合规性与信任度方面均有所提升。
迈向人工智能治理：识别最佳实践、潜在障碍与成效
对三家能源行业企业的比较案例分析揭示了人工智能治理实践，这些实践在为决策提供知识的同时克服了障碍；研究强调将治理嵌入组织流程之中。
负责任AI模式目录：AI治理与工程最佳实践汇编
多声部文献综述生成了一个负责任人工智能模式目录，包含三组模式（多层次治理、可信流程、RAI设计产品模式），并指出大多数工作聚焦于算法层面的公平性，而非系统层面的生命周期问题。
金融领域的AI：创新、监管与道德责任的边界
对人工智能在银行业与金融领域的描述性分析指出了包括数据隐私、偏见、问责制及透明度在内的挑战；建议建立包含规则与指导方针的治理框架，以在部署全过程中应对这些问题。