什么工具箱支持在 R 中灵活进行贝叶斯优化？

一个可构建和运行 BO 的模块化工具箱

贝叶斯优化（BO）面向的是内部结构未知、无法获得梯度的目标函数，因此了解它的唯一方式是评估输入并观察输出。论文将 mlr3mbo 呈现为面向这一场景的可扩展 R 工具箱，它由可组合、可扩展的面向对象组件构成。它属于 mlr3 生态系统，并建立在 bbotk（用于黑盒目标和优化）与 paradox（用于定义参数空间）之上。

该工具箱服务三类不同的用户。研究人员和学生可以用这些构建模块组装自定义 BO 变体；实践者可以在黑盒问题上运行一个标准但高度可配置的 BO 变体；超参数优化实验则可以通过 mlr3 和 mlr3tuning 的集成，把 mlr3mbo 用作 BO 后端。作者列出的高级功能包括：用任意回归模型作为代理模型、处理混合与分层搜索空间、以批量和异步模式并行提出多点、多目标优化，以及稳健的错误处理。

代理模型与采集函数随搜索空间结构而定

BO 用概率代理模型近似未知目标，再用采集函数选择下一个要评估的点。代理模型是昂贵目标的廉价替代品，拟合到目前观测到的数据上。论文指出，对于纯数值搜索空间，高斯过程通常是推荐选择，因为它能提供后验不确定性，并可通过协方差核进行调整。当搜索空间包含分类参数或参数间的分层依赖时，随机森林是可行的替代方案，因为它能直接处理这类参数，但其不确定性需要通过集成标准差或全方差定律等方法估计。

采集函数把代理模型的后验均值和标准差转换为单一准则，在利用预测损失较低的区域与探索不确定区域之间取得平衡。期望改进是最常用的采集函数，它估计相对于当前最优观测的期望增益，并以零为下界。论文还介绍了置信下界，即从后验均值中减去按比例缩放的后验标准差，以及 LogEI，它针对在取对数变换后的目标上训练的代理模型修改了期望改进。随后通过优化采集函数得到新点，而采集函数通常高度多峰；论文列出随机搜索、DIRECT、重启局部搜索、CMA-ES 和 L-BFGS-B 作为常用方法。

坐标下降为两类场景分别生成默认配置

由于 BO 对纯数值问题和混合分层问题的要求不同，作者为这两类场景分别定义了配置搜索空间。他们把 mlr3mbo 的数值参数离散为一小组代表性取值，使每个搜索空间变为纯分类空间，然后运行贪心坐标式局部搜索：每次改变一个参数，并在每个单参数交换邻域中接受最佳配置。从简单或标准配置出发，意味着只有在经验上被证明合理时才会加入更复杂的设置。

每个配置都在 YAHPO Gym 的 YAHPO-SO v1 套件上评估，该套件是基于代理模型的超参数优化任务基准，任务在指标、维度和复杂度上各不相同。每个实例用不同的随机种子重复 30 次，对 d 维问题使用 ⌈100 + 40√d⌉ 次评估的预算。性能用随机搜索归一化得分（RSNS）衡量：0 对应相同预算下的随机搜索表现，1 对应 1,000,000 次评估的随机搜索表现；该得分先由 30 次运行的平均表现算出，再在各实例上取平均。

调优后的默认配置与成熟优化器表现相当

论文将 mlr3mbo 与包括 HEBO、SMAC3、Ax 和 Optuna 在内的多种成熟优化器进行基准比较，并报告它在数值和混合分层的 YAHPO Gym 基准上与当前最优水平表现相当，同时运行时间表现良好。这是对聚合基准表现的比较，并不表示 mlr3mbo 在每个实例或每个维度上都胜出。

讨论部分指出了默认配置与竞争者的差异所在。在数值实例上，mlr3mbo 的默认配置与 Ax 和 SMAC4BB 一样使用高斯过程代理模型，但依赖置信下界采集函数，而 SMAC3 和 Ax 使用期望改进。在混合分层实例上，SMAC4HPO 和 mlr3mbo 都使用随机森林代理模型和局部搜索来优化采集函数，但 SMAC3 只用 10 棵树并用集成标准差估计方差，而 mlr3mbo 使用 500 棵树和全方差定律。当 mlr3mbo 只配置 10 棵树时，表现明显变差，作者将此解读为证据：极小的森林提供的不确定性估计不够稳定，无法有效优化采集函数。

采集函数优化器的强度比精确优化更重要

作者报告，具有足够预算的强采集函数优化器很重要，并且 CMA-ES 和局部搜索分别是数值实例和混合分层实例的最佳选择。他们还指出，对目标取对数变换有帮助。这些发现被呈现为与论文引用的既有研究一致。

论文记录了一个关于基于梯度的优化的反直觉结果。当使用 L-BFGS-B 作为采集函数优化器时，mlr3mbo 的表现差得多，尽管 Ax 成功依赖 L-BFGS-B。作者推测，这可能是因为 Ax 使用自动微分计算采集函数梯度，而 mlr3mbo 通过有限差分估计梯度。他们补充说，L-BFGS-B 在坐标下降的第一次迭代中是强有力的候选，这表明后续迭代选出的参数与 L-BFGS-B 配合不佳，最终配置更适合 CMA-ES 和局部搜索。论文还指出，mlr3mbo 受益于简单的随机初始设计，而 Ax 和 SMAC4BB 依赖空间填充设计。

基准比较能说明什么、不能说明什么

坐标下降搜索和性能比较是在同一组基准实例上进行的。作者承认，这原则上可能使 mlr3mbo 的配置对 YAHPO 实例过拟合，但他们认为该套件规模大且多样，覆盖 AutoML 流程和多种机器学习算法、不同维度，因此相信这大幅降低了风险。他们还指出，这种做法与 HEBO、SMAC3、BoTorch/Ax 和 Optuna 的开发和基准方式一致——它们同样在相同的问题族上开发和基准，而不是在严格留出的外部问题族上。

坐标下降过程本身有两个已说明的限制。由于它每次只优化一个参数而固定其他参数，当参数间交互很强时可能产生次优配置；例如，改进代理模型以获得更好的不确定性估计，只有在采集函数利用该不确定性时才有帮助。最终配置也受起始配置影响。此外，RSNS 指标有噪声，因此该过程在最后几次迭代中可能朝随机方向移动，尽管已对大量实例和 30 次重复取平均；作者的处理方式是让搜索运行得足够久，并通过目测确定停止点，而不是采用正式的序贯检验。

让代理模型和采集优化器匹配搜索空间

论文中最具决策相关性的区分是数值搜索空间与混合分层搜索空间。对数值实例，证据指向高斯过程代理模型、置信下界采集函数，以及用 CMA-ES 作为采集函数优化器；对混合分层实例，证据指向随机森林配合全方差定律不确定性估计和局部搜索。10 棵树与 500 棵树的比较使森林规模成为一个需要检查的具体设置，而不是实现细节，因为在作者的配置中较小森林的表现明显更差。

对于正在决定是否采用 mlr3mbo 的读者，相关主张是持平而非优越：调优后的默认配置在 YAHPO Gym 基准上与成熟优化器相当，而该工具箱的独特价值在于能够用其构建模块构造自定义 BO 变体。这些默认配置是在该基准套件上验证过的起点，而作者对坐标下降的说明意味着，配置会受到所选起点和逐参数搜索方式的影响。

本文引用的文献