LLM 在适配神经算子时用的是先验还是反馈？

基准分数掩盖了决策的输入来源

科学智能体运行在一个循环里：提出配置、观察结果、决定下一步尝试什么。循环结束后，一个留出集分数只能说明它做得有多好，却无法说明是哪些输入影响了每一次具体选择。两个智能体可能达到相同的终点，但其中只有一个真正读取了自己收集到的证据。

这篇论文在一个边界明确的设定中单独考察这个问题。一个冻结的大语言模型充当预训练傅里叶神经算子（FNO）的适配策略；FNO 是一种学习函数空间之间解映射的架构。目标物理区域已经偏离预训练分布，因此该算子必须经过微调。LLM 负责选择每一个微调配置，但不能改动数据、动作空间、试验预算或外部评估协议。

每个策略获得 20 次试验。每次试验中，它选择优化器、学习率调度、基础学习率、参数块乘数、权重衰减、rollout 长度、数据损失以及两个辅助物理损失权重；随后从检查点的一份新副本开始微调并打分。模型规模和训练轮数固定，且被排除在动作空间之外，因此策略之间的差异只来自配置选择。作者把策略在任何评估之前表现出的偏好称为冷启动先验；这一术语描述的是策略行为，并不表示模型了解背后的物理规律。

三种策略可见的信息各不相同

随机搜索既不使用问题描述，也不使用此前的结果。树结构 Parzen 估计器（TPE）是一种为混合类别与连续空间设计的贝叶斯优化器，它对观测到的配置—分数历史建模，但看不到问题文本。LLM 则同时获得这段历史、目标 PDE 的自然语言描述以及训练诊断信息。

由于三种策略在提案机制、计算成本和可用信息上同时存在差异，终点表现只能说明 LLM 在该预算下是否有竞争力，无法说明它的哪些额外输入起了作用。正因如此，论文在比较之外还加入了干预：每次只改变一个输入，同时固定 FNO、数据、预算和动作空间。

测试平台是覆盖两个一维 PDE 族的十二个适配单元。六个族内单元保持方程不变、只改变控制参数：平流方程从 β = 0.1 适配到 β 为 0.4、1.0 和 4.0，Burgers 方程从 ν = 1.0 适配到 ν 为 0.1、0.01 和 0.001。三个跨族单元把平流检查点适配到 Burgers 目标，另三个单元反向迁移。每个单元用三个随机种子运行，这些种子重新划分训练集与验证集，共得到 36 条轨迹。

LLM 在几乎所有配对比较中留出误差更低

20 次试验搜索结束后，验证 nRMSE 最低的配置会在一个留出测试前缀上评估一次。这里的误差指标是归一化均方根误差（nRMSE），留出测试集与用于挑选配置的验证集相互独立。

对随机搜索，LLM 在 36 次运行级比较中全部取得更低的留出测试 nRMSE。对 TPE，它在 36 次中赢下 35 次，误差中位数约低 4.4 倍。TPE 唯一的一次胜出来自某一个单元和种子，并且在恢复 TPE 默认十次启动试验、并把 TPE 扩展到 25 次评估以保留全部十五个基于模型的提案之后，这一胜出依然存在；在该控制中，LLM 仍在 6 次比较中的 5 次以及两个单元中位数上取得更低误差。

零样本参照给出了尺度感：不做任何适配、直接把源检查点用于目标区域时，十二个单元的留出测试 nRMSE 在 0.12 到 1.24 之间，约为同一单元中三种适配策略中位数里最差者的 5 到 400 倍。三种策略都消除了区域偏移造成的大部分误差。因此这里的比较关注的是在 20 次试验内各自消除得有多好，而不是适配本身是否必要。

第一个提案已优于随机池中的大多数

仅凭终点表现无法区分有用的起始偏好与运气好的采样，因此作者考察第一个配置落在什么位置。对每个首个提案，他们计算同一单元中 60 个合并随机搜索验证配置里有多少分数低于它，并列按一半计入。

在 36 个首个提案中，下尾分位数的中位数为 8.3%，相当于优于池中 91.7% 的配置。28 个提案至少优于池中 75%，34 个至少优于一半。这是它在随机搜索验证分布中的位置，而不是留出测试收益，因此衡量的是起点的质量，而非最终结果。

冷启动干预检验这个起点从何而来。在平流 β = 4.0 和 Burgers ν = 0.001 两个单元中，策略在首次试验前会看到平流描述、Burgers 描述或不给描述，每个单元和每种条件生成 45 个 medoid 提案。当展示的描述改变时，每个单元的基础学习率中位数都翻倍，从 0.0005 变为 0.001。按预先设定的方向做单侧 Mann–Whitney 检验，在四种不同学习率上精确枚举得到 p = 5.2 × 10⁻⁹，采用并列校正的正态近似则为 p = 1.0 × 10⁻⁸。

重新分配分数会改变下一个提案

为了检验观测结果是否起作用，作者重放一个已记录的决策点，只重新生成下一个提案，不继续搜索，也不重跑任何微调试验。重新分配干预保留已评估的配置和验证分数，但打乱哪个分数对应哪个配置。符号控制则保留每个分数及其对应关系，只把每个数值改写成科学计数法，例如把 0.0129 写成 1.29e−2。

位移用十二个坐标上的动作距离衡量：八个归一化数值坐标和四个类别坐标。一个类别坐标的变化贡献 1/12 ≈ 0.083，作者把决策阈值设在约为此值的 60%，即 0.05。相对于符号控制，重新分配使轨迹效应中位数提高 +0.085，bootstrap 95% 区间为 [+0.073, +0.108]。全部 18 个族内轨迹效应和全部六个单元中位数均为正，对六个单元做精确单侧符号翻转检验得到 p = 0.015625，这是六个独立单元所能达到的最小值。

符号控制相对于相同提示重采样居中于零，区间为 [−0.006, +0.005]，尽管它对提示的改动更大：其字符级 Levenshtein 距离为 76–160，而重新分配为 22–95。该效应在反馈捆绑控制下依然存在：该控制把每个分数与它自己那次试验的诊断信息一起打乱，族内中位差距为 +0.080，跨族为 +0.054，两者均为 18 条轨迹全部为正。响应还具有选择性：重新分配在 49.6% 的提案中改变 rollout 长度，在 40.4% 中改变数据损失，在 25.9% 中改变调度，而重采样下分别为 14.4%、15.9% 和 14.1%；优化器的变化则接近重采样水平。作者没有做逐坐标检验，只把这一排序当作描述性结果。

敏感不等于理性

这些干预支持的只是一个范围很窄的结论：策略的决策依赖任务描述和观测到的分数。它们没有解释策略为何这样响应，没有表明其选择是理性的或反映了物理理解，也没有证明这两种依赖中的任何一种造成了终点优势。冷启动效应也只限于十二个坐标中的一个；在全部十二个坐标上平均，不同描述之间的总体动作距离为 +0.0025，约为一个类别坐标变化的三十三分之一，单侧置换检验给出 p = 0.015。该总体指标使用的参照与重放测量不同，因此其量级不应与重放效应相比较。

研究范围限于一个 LLM 和两个一维 PDE 族。策略每次试验采样三个 JSON 配置并执行 medoid，即与其他配置总距离最小的那个；这一规则限制了单个异常补全的影响，但无法纠正三个配置共有的偏差，因此行为层面的结论针对的是被选中的那个配置。搜索轨迹也不能证明任何基线在第 20 次试验时已经停止改进。

决策层检验区分同分的两个智能体

这篇论文的实际重点不是新的算子架构或新的预训练方案。它固定检查点和目标数据，把专业知识放进循环里，让 LLM 在固定动作空间中配置每一次微调试验。当目标区域数据、训练运行次数或运行它们所需的专业知识稀缺时，这一点很重要，而 20 次试验的预算正是为了反映这种情形。

验证协议只需要已记录的决策点和动作空间上的距离，因此可以用于无法访问内部结构的托管模型。它的价值在于诊断：在无人值守的实验循环中，两个智能体可能达到相同的终点分数，即使只有一个真正使用了它收集到的证据。这里的证据指向两条通道都在起作用：冷启动先验体现在首个提案的位置和翻倍的基础学习率上，反馈敏感性则体现为下一个提案约一个类别坐标的位移，且集中在 rollout 长度和数据损失上。

因此，读者应把握的比较是终点测量与干预测量之间的区别。36 比 36 和 35 比 36 的留出胜绩说明 LLM 策略在该预算下具有竞争力；+0.085 的重新分配效应和 0.0005 到 0.001 的学习率变化说明它的决策会响应描述和分数。两者不能互相替代，论文自身的表述是：科学智能体验证需要两者兼备。

本文引用的文献