评估真的能加速创新，而非拖慢它吗？
是的，当评估从创新过程之初就融入其中时，它们能减少代价高昂的返工，并建立采用所需信任。《新加坡共识》[5]将人工智能安全分为三个层级：开发（构建可信系统）、评估（风险评价）和控制（部署后监控）。这种分层方法意味着评估是持续进行的，而非最终瓶颈。该共识明确旨在“推动更具影响力的研发工作，以快速建立安全与评估机制”——这表明设计良好的评估能够加速而非阻碍进展。
坦帕综合医院提供了一个真实案例[4]：该院数字创新总监在部署AI解决方案前，建立了一套覆盖全院范围的评估框架。医院并非仅凭功能选择供应商，而是从机构准备度、算法偏差和临床信任度三个维度进行综合评估。最终形成的结构化、可复用的评估模型，使医院得以在“不牺牲安全性、公平性或公众信任”的前提下推进创新。这表明，得当的评估非但不会成为障碍，反而能铺就技术落地的通途。
对AI的信任何时至关重要——何时可以适当降低要求？
信任并非放之四海而皆准的要求。皮勒、斯鲁尔和马里昂提出的框架[2]指出，所需的信任程度取决于具体任务。在创意构思中，生成式AI输出的不准确性反而可能激发新想法，因此较低的信任度是可以接受的。但对于需要领域专业知识的任务——如医疗诊断或法律分析——更高的准确性和信任度则至关重要。这意味着评估可以灵活调整：对低风险的创意工作采用轻量级评估，对高风险的决策则进行严格审查。这种校准本身就能避免不必要的效率拖累。
同一篇论文[2]强调，组织需要新的人才能力和战略，才能有效部署生成式AI。换言之，信任不仅仅是AI本身的属性，更是通过组织准备度和恰当的任务匹配来建立的。这与医院案例[4]中的观点一致，在该案例中，临床医生的信任是评估框架的一个关键维度。当评估聚焦于正确的任务并采用恰当的方式时，就能在不造成全面延迟的情况下建立信任。
什么样的治理才能真正平衡信任与创新？
证据表明，主动、内在的治理——而非被动执行——才是平衡信任与创新的关键。曹[1]认为，中国当前的人工智能治理过度依赖“被动执行与外部合规”，这可能会拖慢发展进程。而另一种选择是“价值对齐”，即从一开始就将安全与伦理约束直接嵌入人工智能系统。例如，基于人类反馈的强化学习（RLHF）和宪法人工智能等技术便是这种主动治理方式的体现。该论文呼吁将对齐评估纳入监管申报流程，并制定技术标准——这些举措有望促进而非阻碍创新。
《新加坡共识》[5]进一步强化了这一点，主张在评估标准方面开展国际合作，包括建立“特别适合协作”的验证机制与协议。当多个国家和企业就如何评估前沿人工智能达成一致时，就能减少重复劳动与不确定性——这两者正是导致发展放缓的两大主因。该共识还指出，前沿人工智能企业很可能会遵守现有法规（如《欧盟行为准则》），因此新规则无需另起炉灶。这表明，精明的治理设计能够营造一个稳定、可预期的环境，让创新与信任共同成长。
关于这些来源
该回答基于5篇经同行评审的研究——发表于2024年至2026年间，其中5篇为2024年或之后发表，1篇发表于Q1期刊——这些研究是从5篇通过质量筛选的研究中选出的最相关成果，而后者又源自从超过5亿篇论文的数据库中检索到的53篇文献。
本文引用的文献
从原则到实践：人工智能伦理与治理中的价值对齐
认为主动价值对齐（将伦理嵌入人工智能系统）比被动合规更能有效建立信任，并呼吁在监管文件中纳入对齐评估。
生成式人工智能、创新与信任
提出一个框架，表明信任需求因任务而异：在创意构思中，较低的信任可以接受，但在领域特定专业知识方面，则需要更高的信任。
社论：智能系统与下一波数字创新浪潮
综述了可解释人工智能与信任评估的相关研究，进一步证实了通过数据驱动架构能够更负责任地开发智能系统。
坦帕综合医院：人工智能——梦想还是困境？
坦帕综合医院的案例研究表明，针对人工智能评估的结构化治理框架能够在不损害安全或信任的前提下实现负责任的采用。
本期亮点：新加坡共识——安全技术
新加坡共识提出了一种纵深防御的人工智能安全模型（开发、评估、控制），并呼吁在评估标准方面开展国际合作，以推动安全领域的快速研发。