为何公平性风险如此容易被低估？
公平性风险常被低估，因为人工智能系统在整体表现上往往良好，却掩盖了严重的差异。《自然·生物医学工程》2023年的一篇综述指出，算法偏差源于数据收集、基因变异，甚至不同临床医生对同一病例的标注方式——这些偏差除非专门针对不同子群体进行测试，否则难以察觉[3]。例如，著名的COMPAS再犯风险评估算法被发现对黑人被告误判为高风险的概率远高于白人被告，这种差异直到记者按种族分析数据时才浮出水面[5]。若缺乏常规的、分门别类的评估，这些危害便会持续隐藏。
即使从业者想要检查偏见，也面临重大障碍。2022年一项研究采访了来自三家科技公司10个团队的33名AI从业者，发现他们在选择性能指标、确定应研究的人口群体以及收集足够数据以进行有意义的比较方面存在困难[4]。企业优先考虑客户而非边缘群体、以及大规模部署AI的商业压力，进一步边缘化了公平性工作[4]。这意味着许多AI评估工具在推出时，恰恰缺少了那些本可发现不公的检查环节。
学生、教师和管理者究竟怎么想？
利益相关方仅对人工智能评估给予有条件认可——他们认可其速度和个性化反馈，但对公平性仍持深度怀疑态度。一项2026年针对420名大学利益相关者（学生、教师、管理人员）的混合方法研究发现，感知公平性是接受度的强预测因子（β = 0.29, p = 0.002），而隐私担忧则是更强的负面预测因子（β = -0.31, p = 0.001）[1]。简而言之，如果人们不相信AI是公平的，就不会信任它——而隐私担忧会加剧这种不信任。学生比教师更倾向于务实接受（t(418) = 3.12, p = 0.002），这表明最接近设计环节的人反而最为谨慎。
不同学科的态度也存在差异。STEM领域的参与者比人文学科的参与者更信任客观任务的自动评分（F(3,416) = 6.21, p < 0.001）[1]。这意味着，在需要主观判断的领域，一刀切的AI评估工具很可能被视为不公平。同一研究的定性访谈显示，利益相关者始终要求人工监督、评分透明、数据安全有保障，并为教育工作者提供培训——而这些条件在当前的应用中很少得到满足[1]。
要使AI评估更公平，需要改变什么？
证据指向三项具体变革：透明算法、常规偏见检测以及人工介入审查。2026年的研究建议设计透明算法、构建分层完整性检查机制、培训教育工作者，并让利益相关方参与重新设计[1]。2026年一项针对医学教育的分析指出，人工智能是一种“规范性颠覆力量”，迫使人们彻底重新思考何为有效的评估——并非简单地将AI融入旧有测试，而是围绕AI素养、专业精神与治理体系重新设计评估方式[2]。
在技术层面，2023年《自然》综述文章强调了减少偏见的新兴工具，如解耦（将敏感属性与预测结果分离）、联邦学习（跨机构训练AI而不共享原始数据）以及模型可解释性[3]。但这些工具只有在组织真正采用时才能发挥作用。实践者研究[4]明确指出，若缺乏组织层面的承诺——包括时间、资源以及将公平性置于速度之上的明确要求——即便最优秀的工具也只能束之高阁。归根结底：低估公平性风险是一种选择，而非必然结果，但纠正这一问题需要在各个层面采取审慎行动。
关于这些来源
该回答基于5篇经同行评审的研究构建而成——发表于2022年至2026年间，其中2篇为2024年及以后发表，3篇发表于Q1期刊，累计被引用634次——这些研究是从5篇通过质量筛选的文献中选出的最具相关性的成果，而该筛选过程则源于从超过5亿篇论文数据库中检索到的54篇论文。
本文引用的文献
对高等教育中基于人工智能的评估工具的认知
在一项针对420名大学利益相关者的混合方法研究中，感知公平性正向预测了对人工智能评估的接受度（β = 0.29, p = 0.002），而隐私担忧则负向预测了该接受度（β = -0.31, p = 0.001）；学生比教师更易接受，STEM参与者比人文学科参与者更信任自动评分。
人工智能、评估诚信与医学教育中的专业精神：全球性颠覆与海湾合作委员会地区的经验启示
本概念分析认为，生成式人工智能是医学教育中的“规范性颠覆者”，迫使人们重新评估评估有效性、伦理责任与职业身份，并主张采取有原则的整合而非被动限制。
人工智能在医学与医疗保健中的算法公平性
这篇《自然·生物医学工程》综述阐述了医疗领域中算法偏差如何源于数据采集、遗传变异以及观察者内部标注差异，并探讨了通过解耦学习、联邦学习和模型可解释性来缓解这些偏差的方法。
评估AI系统的公平性：AI从业者的流程、挑战与支持需求
本研究通过对三家科技公司10个团队的33名AI从业者进行访谈和研讨会发现，从业者在选择评估指标、识别相关人口群体以及收集数据以进行细分评估时面临诸多挑战，而商业压力往往使公平性工作被边缘化。
人工智能中的算法公平性
本讨论稿以COMPAS再犯风险评估算法为例，说明机器学习在基于有偏数据训练时可能产生系统性歧视，并指出算法公平性至关重要，因为此类系统将影响大量未来案例。