AI驱动的材料发现中的安全与可靠性风险是否被低估了？

AI预测与现实材料之间的差距有多大？

人工智能可以生成海量的候选材料，但其中仅有极小一部分经过实验验证。目前规模最大的研究利用在4.8万种已知稳定晶体上训练的图神经网络，发现了220万种新型稳定结构——使已知材料数量扩大了一个数量级[2]。然而，这些结构中仅有736种在实验室中独立合成并得到确认[2]，仅占预测候选材料的0.03%。这意味着每3000种AI发现的材料中，只有约1种被证实真实存在。其余均为理论预测，可能存在不稳定性、难以合成或性质与预期不符等问题。

一项规模较小但同样重要的关于交变磁性材料的研究，利用人工智能搜索引擎发现了50种新的候选材料，涵盖金属、半导体和绝缘体[1]。尽管这些材料已通过第一性原理电子结构计算（一种计算方法）得到验证，但该研究并未报告任何实验合成或测试。这种仅通过计算验证而缺乏实验室确认的模式在该领域普遍存在，构成了关键的可信度风险。

AI模型的准确度有多高，这能保证实际应用中的表现吗？

AI模型在已知数据上能够实现高精度的预测，但这并不自动意味着其在现实材料中同样可靠。例如，一个用于热电材料的框架在预测性能时达到了90%以上的准确率，并识别出14种有前景的候选材料（6种p型、8种n型），这些结果与密度泛函理论计算及实验数据吻合[3]。类似地，一个针对二维拓扑绝缘体的机器学习模型也实现了超过90%的准确率，发现了56种非平凡材料，其中17种新型绝缘候选材料得到了密度泛函理论的验证[5]。这些成果看似令人印象深刻，但它们揭示了一个关键细节：模型基于现有数据训练，而这些数据可能无法涵盖所有可能的失效模式——例如杂质、缺陷或合成难题——这些只有在实际物理实验中才会显现。

热电研究[3]明确指出，尽管模型精度很高，但获取有效的材料特征表征仍具挑战性，精确预测也颇为棘手。这表明即便最优秀的模型也存在盲区。此外，拓扑绝缘体研究[5]发现，不同的机器学习组件会导致不同结果，这意味着算法与数据的选择会显著影响哪些材料被标记为有前景。这种差异性带来了可靠性风险：针对同一应用场景，两套不同的人工智能系统可能推荐不同的候选材料，而两者均未经过实验室验证。

依赖AI引导的发现存在哪些实际的安全与可靠性风险？

主要风险在于，AI生成的资料在实际应用中可能不安全或不可用，导致资源浪费甚至引发危险应用。关于机器学习在能源材料领域的综述[4]指出，尽管AI能快速筛选数千种候选材料，但第一性原理计算成本仍然高昂，且该方法可能陷入大规模复杂系统的困境。这意味着AI可能标记出计算上可行但实际无法合成，或在真实环境条件（如温度、湿度、应力）下会降解的材料。例如，一种被预测为优异电池固态电解质的材料，实际上可能具有毒性，或会与电池其他成分发生剧烈反应——这些特性是训练数据有限的AI模型可能忽略的。

另一个风险在于许多AI模型的“黑箱”特性。热电研究[3]和拓扑绝缘体研究[5]均依赖机器学习来建立材料特征与性能之间的关联，这种关联往往超出人类认知范畴[4]。虽然这有助于发现隐藏模式，但也意味着研究人员可能无法完全理解材料被推荐的原因，从而更难预判其失效模式。交变磁性研究[1]明确指出，AI搜索引擎的表现“远超人类专家”，但这种优势仅体现在预测速度和数量上，并不能保证实际应用的可行性。纵观这五项研究，一致的结论是：AI加速了发现过程，但并未消除对严谨实验验证的需求——而安全性与可靠性风险恰恰被低估，因为围绕AI速度的炒作掩盖了这一关键环节。

关于这些来源

该回答基于5篇经同行评审的研究构建而成——发表于2021年至2025年间，其中1篇为2024年及以后发表，5篇均发表于Q1期刊，累计被引用1114次——这些研究是从5篇通过质量筛选的文献中选出的最具相关性的成果，而该5篇文献又源自一个包含超过5亿篇论文的数据库中所检索到的65篇论文。

本文引用的文献

相关研究问题