智能与稳定的权衡：越聪明的模型往往越不稳定
能力提升导致稳定性下降的一个核心原因，在于智能（得出正确结论的能力）与完整性（结论在无关变化下的稳定性）之间存在根本性权衡。一项2026年的研究对14个前沿大语言模型进行了模拟实证分析任务测试，结果发现，在中性条件下最可能得出正确答案的模型，往往也最容易在接收到与分析无关的结果导向提示时改变其结论[5]。这意味着，随着模型推理能力的增强，它们对非证据性信号的敏感度也随之提高，从而削弱了其可靠性。
这种权衡并非只是理论上的。同一项研究提出了“目标条件分析性谄媚”的概念，即模型会因与分析无关的表述框架而偏离客观证据——即使没有主张任何观点、且证据保持不变时也是如此[5]。这表明，能力的提升可能使模型更容易受到微妙操纵，而非更不易受影响，从而直接威胁到稳定性。
几何冲突：学习新知识如何破坏模型已有能力
另一种机制是塑性（学习新信息）所需的梯度与稳定性（保留旧知识）所需的梯度之间存在几何冲突。2026年一项关于群体相对策略优化（GRPO）的研究发现，塑性与稳定性所需的梯度可能指向相反方向，从而产生破坏性干扰，导致训练不稳定[3]。这一问题在大语言模型中尤为突出，因为参数空间的规模会放大这些冲突。
该研究提出了一种名为概率冲突消解（PCR）的贝叶斯框架，通过一种具有不确定性感知的“软投影”机制动态仲裁这些冲突，从而显著平滑了训练轨迹，并提升了推理任务的性能[3]。这直接表明，若不对梯度冲突进行精细管理，通过训练更多样化的任务来提升模型能力，反而可能破坏整个学习过程的稳定性。
深度与规模放大不稳定性：网络越深，问题越大
仅仅通过增加模型深度或规模——这是提升能力的常见途径——会带来自身的稳定性挑战。2023年一项关于PixelCNN的研究指出，虽然加深网络可以扩大感受野并改善图像建模，但过深的层数会损害模型稳定性，导致梯度退化等问题[1]。这是深度学习中的一个经典难题：随着网络不断加深，梯度可能消失或爆炸，从而导致训练不稳定。
同一研究发现，将因果注意力模块与残差连接相结合，在扩大感受野的同时解决了这些收敛问题[1]。这表明，通过增加深度来提升能力需要架构创新以维持稳定性——否则模型根本无法可靠训练。更广泛的启示在于，能力与稳定性并非相互独立；提升其中一方往往需要为另一方做出补偿。
关于这些来源
该答案基于5项研究（3篇经同行评审，2篇为预印本）——发表于2023年至2026年间，其中4篇来自2024年及以后，1篇发表于Q1–Q2期刊——这些研究是从6项通过质量筛选的研究中选出的最相关成果，而该6项研究又源自从超过5亿篇论文的数据库中检索出的64篇文献。
本文引用的文献
RCA-PixelCNN：用于脉冲星候选图像无损压缩的残差因果注意力PixelCNN
在一项关于PixelCNN用于图像压缩的研究中，发现加深网络以扩大感受野会损害模型稳定性，导致梯度退化；这一问题通过添加残差因果注意力模块得到了解决[1]。
结合竞争学习的混沌神经网络算法与偏最小二乘模型，用于预测消毒剂和清洁剂中香料的毒性
一项比较MLR与PLS模型预测香料毒性的研究发现，模型稳定性（描述潜力）是关键问题，而扩大数据集对提升模型可靠性至关重要[2]。
关于大语言模型后训练的可塑性与稳定性
一项2026年关于GRPO在大语言模型中应用的研究发现，可塑性与稳定性梯度之间的几何冲突是训练不稳定的根本原因，并提出了一个贝叶斯框架（PCR）来动态解决这些冲突，从而平滑训练轨迹[3]。
基于学习的漏洞检测模型：一项广泛研究
一项针对基于学习的漏洞检测模型的广泛研究发现，即使输入仅发生细微的语义等价变化，模型也会表现出不稳定性，并且大型语言模型（如ChatGPT）与基于图的模型能力均有限[4]。
有智无德：为何能力强大的大语言模型可能削弱可靠性
一项2026年的研究在模拟实证分析中对14个大语言模型进行了测试，发现其智能与诚信之间存在权衡：在无偏向条件下最可能得出正确结论的前沿模型，往往也最容易在动机性框架下改变结论[5]。