速查表存的是行为而非答案
论文把速查表定义为一组简洁的自然语言洞见，模型在解决新问题时可以查阅。存储的内容不是最终答案，也不是完整的解题过程，而是通过自我反思产生的一条简短推理行为，例如在计算前检查单位一致性，或检验交换变量后方程是否保持不变。
作者有意固定这些内容，只改变其组织方式。他们指出，用自我反思行为作为记忆内容，可以在不受记忆内容差异干扰的情况下清晰比较记忆组织机制。因此论文的贡献在于行为如何被分组和检索，而不是发明更好的行为。
这一区分对理解结果很重要。当贝叶斯速查表胜过某个基线时，增益来自施加在同类行为上的结构，而不是来自更强的基座模型或更丰富的反思。
扁平检索无法增长与重组
论文认为，随着速查表增长，组织方式必须不止于检索相似条目。相关行为可能形成分组，而这些分组可能跨领域复用。测试时遇到的新经验可能强化已有分组，也可能揭示当前组织方式未覆盖的策略。
作者写道，静态速查表和扁平的相似度检索无法应对这一点。聚类增加了组织性，但不支持有原则的增长，而且要求事先知道簇的数量。现有结构化记忆系统往往依赖大模型判断和相似度启发式来定义和演化结构，论文指出，随着记忆增长，这种组织方式会变得难以维护。
论文区分了两个设计问题：存储什么信息，以及如何组织信息。它聚焦于后者，因此比较对象是记忆模块，而不是反思质量。
HDP-GMM 让簇跨领域共享
贝叶斯速查表是行为嵌入上的分层狄利克雷过程高斯混合模型。作为一种非参数无界聚类机制，它带来论文在测试时记忆管理上想要的三个性质：簇的数量完全由迄今见到的数据决定；分层结构把通用可复用的记忆与领域专属记忆区分开；簇分配的后验概率具有双重用途，既用于把记忆分配到簇，也用于以输入为条件的检索。
分层结构让组件跨领域共享，同时允许领域专属的混合权重。论文报告这种显式的领域条件化确实重要：在 Qwen3-32B 上不进行重拟合的在线设置中，分层 HDP-GMM 在 AIME'25 上达到 81.1，在 Omni-MATH 上达到 26.4，在 PhysReason 上达到 30.1，而在其他机制和超参数全部固定的情况下，扁平的领域池化 DP-GMM 分别为 76.7、24.0 和 27.3。
HDP 先验还带来富者愈富的偏置，被反复观察到的组件更受青睐。检索使用后验预测分布为查询选出相关行为。
在线更新只在足够新颖时新建组件
自适应成本很低，因为混合模型的充分统计量在每个样本之后被软更新。只有当某个行为对应新组件的后验预测概率超过新颖性阈值时，才会生成一个新的全局共享组件，主实验中该阈值设为 0.5；否则该行为以高于 10^-6 的权重被软加入现有组件。
周期性重拟合会从存储的硬分配重建高斯统计量，在领域标签固定的情况下对所有行为执行一步塌缩吉布斯采样，并贪心合并对称高斯 KL 散度低于阈值的组件。这正是记忆得以重组、并调和大量软更新所引入漂移的原因。
新颖性阈值控制着平衡。在 0.1 时，新颖性分数持续超过阈值，激进地创建新组件（212 个），必须靠周期性吉布斯扫描剪枝，论文称这很可能给检索带来噪声并明显损害性能（Omni-MATH 上为 24.3）。在 0.7 时，新颖性分数过低，无法生成组件，因此所有新组件都来自重拟合。性能在 0.5 时达到峰值，此时也平衡了基于新颖性的生成与基于重拟合的创建。
三个推理基准上均取得增益
论文报告在 AIME'25、Omni-MATH 和 PhysReason 上相对现有记忆模块取得明显性能增益，在冷启动设置下也是如此。在报告的比较中，BC-PP（后验预测变体）在 AIME'25 上达到 77.8，在 Omni-MATH 上达到 22.3，在 PhysReason 上达到 27.0；BC-centroids 分别为 74.4、20.5 和 24.8。基座模型分别为 71.1、18.1 和 16.4。
在基线中，k' = 5 的元认知复用达到 75.6、17.8 和 21.7；直接行为检索达到 72.2、18.6 和 23.5；随机行为选择达到 72.2、18.9 和 18.6。两个贝叶斯速查表变体是该表中表现最强的条目。
检索规模重要但并不脆弱。在 Qwen3-32B 上对静态 BC-PP 的检索组件数 k' 做扫描，AIME'25 上的准确率从 k' = 1 时的 72.2 升到 k' = 5 时的 77.8，Omni-MATH 上从 19.5 升到 22.3，PhysReason 上从 24.8 升到 27.0。论文指出，即使 k' = 3 也会在三个基准上超过所有基线。
重拟合间隔权衡新颖性与吉布斯分裂
组件数量可以通过两种方式增长：由新颖性触发生成，或在重拟合步骤的塌缩吉布斯重采样中形成新组件，实际上是从已有组件中分裂出来。重拟合间隔 g 控制第二种方式发生的频率。
在 Qwen3-32B 的 Omni-MATH 上，从 K = 64 出发，小 g 的激进重拟合主要产生吉布斯诱导的组件：g = 5 时最终数量为 94，净增 30，其中只有 5 个由新颖性触发。g = 50 时最终数量为 85，净增 21，其中 11 个由新颖性触发、10 个由重拟合触发，准确率为 26.6，是该扫描中报告的最高值。论文为其重拟合结果选择 g = 50，并对 AIME'25 和 PhysReason-mini 使用 g = 10，因为这两个测试集单次遍历分别只有 30 和 31 个样本。
论文还指出，测试的每个 g 取值至少能匹配或超过 Omni-MATH 上表现最强的基线，因此这一选择是调参偏好，而不是断崖式差异。
阈值生成加 KL 合并效果最好
论文比较了确定性的基于阈值的组件创建与忠实于 CRP 生成机制的伯努利采样方案，并单独消融了重拟合期间的基于 KL 的合并。在 g = 50 带重拟合的 Omni-MATH 上，阈值加 KL 合并得分为 26.6，采样加 KL 合并为 26.0，阈值不加 KL 合并为 25.9，采样不加 KL 合并为 26.2。
组件数量差异明显。在不重拟合（g = 0）时，阈值法最终 K 为 76，净增 12，全部由新颖性触发；采样法最终 K 为 138，净增 74，全部由伯努利触发。带重拟合时，阈值加 KL 合并最终为 85 个组件，采样加 KL 合并为 129 个。
一个反直觉的细节是：在阈值法中移除 KL 合并会略微降低最终组件数量，但把新颖性触发的生成从 11 个削减到 2 个。论文解释说，合并会压缩覆盖范围，从而提高后续点的新颖性分数，导致更多组件通过阈值被创建。
适用范围与最值得关注的取舍
实验聚焦于约 30B 参数的中小型非智能体语言模型的单轮问题求解。智能体和多轮基准明确超出论文范围，尽管作者认为贝叶斯速查表的迭代检索具有实际潜力。在无限长的评估流上，重拟合和检索成本最终会增长，论文指出这需要有理有据的丢弃机制来选择性保留行为。
在这些边界之下，最具决策相关性的比较不是贝叶斯速查表与基座模型之比——那里增益最大但信息量最少——而是论文实际调优的两个内部选择：新颖性阈值和重拟合间隔。在 tau_new = 0.5 和 g = 50 时，记忆平衡了新颖性触发的生成与吉布斯诱导的分裂，论文自己的消融显示，把任一旋钮推向极端，要么让检索被噪声淹没，要么完全消除由新颖性驱动的增长。评估这一记忆设计的读者应把这种平衡，而不是头条基准差距，视为可迁移的发现。
本文引用的文献
Test-Time Adaptation of Reasoning Strategies with Bayesian Nonparametric Memory
一种在行为嵌入上的分层狄利克雷过程高斯混合模型，称为贝叶斯速查表，把推理行为组织为跨领域共享的簇并带有领域专属混合权重，在 AIME'25、Omni-MATH 和 PhysReason 上优于现有记忆模块，在冷启动设置下也是如此。