什么让AI输出值得信赖？快速、可审计的证明产物
信任的核心在于验证：用户需要能够快速、独立地核查AI的工作。一份2026年的基础设施模式论文提出，AI辅助数学应产出“可快速验证的工件”——即能在短时间内由计算机或人类检查的证明，并清晰记录哪些部分已被验证，以及该验证赋予何种信任状态[2]。这意味着AI不仅输出定理，还输出一个可以像人类撰写的证明那样逐步审计的证明。实际意义在于：信任并非建立在AI的声誉之上，而是取决于它产出的工件质量。
同一篇论文强调，验证界面是研究过程中的关键环节——信任决策正是在这里做出的[2]。因此，对用户而言，问题不在于“AI够不够聪明”，而在于“我能否亲自验证这个结果？”这把负担从信仰转向了证据，而这正是数学研究之所以可信的关键所在。
为何人类监督不可妥协——即便对“自主”AI亦然
即使人工智能能够独立证明定理，信任仍需人类参与。一篇2025年的伦理准则论文指出，最极端的情形——即自主自动化定理证明器（AATP）能够证明新定理并撰写成文——将具有变革性，但需要明确的伦理准则[3]。该论文强调，人工智能在数学中的使用需要针对数学领域的特定规则，而非仅依赖通用的AI伦理，因为证明和署名的规范具有独特性。若无此类准则，用户自然会质疑结果的责任归属及其是否符合该领域的标准。
这与基础设施模式一致：即使发现者是AI，验证环节仍以人为核心[2]。因此，信任的条件并非AI从不犯错，而是人类保留最终决定权。2023年《自然》杂志的文章也指出，数学家正在探索利用AI验证人类撰写的成果，这表明最直接的信任建立用途是让AI充当检查者，而非作者[1]。
哪些AI系统最可能赢得信任？混合型，而非纯聊天机器人。
纯大型语言模型（LLM）在符号推理方面一直表现不佳，这也是它们在数学领域未能获得广泛信任的原因。一篇2025年的论文指出，基于LLM的生成式人工智能在符号处理方面“并未取得太大成功”，因此在研究中用处不大[3]。然而，将LLM与基于规则的系统相结合的混合系统——例如DeepMind的AlphaProof和AlphaGeometry 2——在问题求解方面表现出色[3]。这表明，更有可能赢得信任的人工智能，是受形式逻辑约束的，而非依赖自由形式的语言生成。
实际启示是：用户应当更倾向于信任那些被设计为遵循数学规则、并能产出可验证结果的AI，而非通用型聊天机器人。2026年那篇论文的模式正是这种混合体：它将AI发现与快速验证界面相结合[2]。因此，信任的前提在于，AI从底层构建起就具备可审计性。
关于这些来源
本回答基于3项同行评审研究——发表于2023年至2026年，其中2项为2024年或之后发表，1项发表于Q1期刊——这些研究是从3项通过质量筛选的研究中选出的最具相关性的成果，而后者又源自从超过5亿篇论文的数据库中检索到的36篇文献。
本文引用的文献
人工智能将如何改变数学？聊天机器人的兴起凸显了这一讨论
2023年《自然》杂志的一篇文章报道称，数学家们开始探索利用人工智能来验证人类撰写的成果并提出新的解决方案，这表明人们早期对人工智能的兴趣在于将其作为协作工具，而非自主权威。
从SAT发现到可快速验证的工件：面向可审计的AI辅助数学的基础设施模式
一篇2026年的论文提出了一种基础设施模式，其中AI辅助数学能够生成可快速验证的产物，并通过一个验证界面来确定每个产物的可信状态，从而使整个过程具备可审计性。
生成式人工智能时代数学研究中伦理准则的必要性
一篇2025年的论文指出，尽管纯大语言模型在符号推理方面表现不佳，但像AlphaProof和AlphaGeometry 2这样的神经符号混合系统展现出了潜力，然而它们在定理证明中的应用需要针对数学领域的特定伦理准则，尤其是在自主系统中。