自条件修正的训练推理错配
one-hot 流把每个词元表示为一个 one-hot 向量，并训练去噪器从受扰动的点预测干净端点。在扰动调度接近尾声时，训练输入集中在最终端点附近很小的半径内，因此模型主要学到的是追踪一个接近干净的目标。但在推理时，模型跟随的是自己的去噪器预测，这些预测保留非零熵，因而永远不会精确指向单纯形的某个干净顶点。论文把这一差距称为轨迹歧义：模型采样时实际访问的状态，在训练中很少出现。
自条件通过向模型提供其先前预测的信息来应对这一问题，从而在训练中让它接触到类似推理时的状态。作者把收益解释为对这一训练与推理错配的修正，而不是笼统的容量提升。这一解释之所以重要，是因为它预示了收益应出现在哪里，也提示同样的效果或许能以比增加一次前向计算更低的成本获得。
DoubleCat 无需额外前向即可回收收益
DoubleCat 把这一思路实现为两级插值。它不只朝干净的 one-hot 目标施加扰动，还在去噪器的输出空间即单纯形上增加第二个扰动过程，使模型在类似自身中间预测的状态上接受训练。论文报告，相对于其设置的对照，这使 TinyGSM 准确率提升三倍以上，并且自条件的收益可以在不增加一次前向计算的情况下回收。
这些准确率数字需要结合其设定来读。TinyGSM 是一个小规模数学应用题基准，三倍以上的提升是关于该基准的相对陈述，而不是绝对准确率水平。论文中关于自条件效应的表格也显示，开启自条件会同时提高 one-hot 流和 DoubleCat 的分数，这支持了如下解释：驱动改进的是该机制，而不只是额外的计算量。
词元可识别性与离散揭示
自条件还帮助解决论文称为词元可识别性的第二个问题：识别那些表示被大范数高斯主导的词元，因为这会使得从当前状态识别期望端点变得更困难。作者没有只依赖自条件来缓解，而是直接处理它：在 DoubleCat 上加入离散揭示，得到 SemiCat。在这种混合设计中，每个位置在采样到的时间点被揭示为离散词元，此后插值指向干净词元，而不是连续混合。
SemiCat 在标准训练超参数和调优采样器下于 TinyGSM 达到 49.94%，论文将其描述为离散扩散级别的性能。这一限定很重要：结果同时依赖训练配置和调优后的采样器，因此它并不是说该架构本身在任何采样预算下都能弥合差距。
SemiCat 在 1.7B 规模下的表现
在 1.7B 规模下，SemiCat 在六项基于似然的评估中有四项优于离散扩散，并在无条件生成上超过 one-hot 流。这是两类不同测量上的两种不同比较：基于似然的评估与无条件生成质量不可互换，论文分别报告它们，而不是合并成单一排名。
这种分化结果才是有用之处。SemiCat 并非在所有方面都胜过离散扩散；它在六项似然评估中的四项上胜出。因此，比较方法的读者应问哪种评估类型符合自己的用例，因为论文的证据支持的是混合图景，而非全面优势。
嵌入几何由损失函数塑造
第二个杠杆是嵌入几何。嵌入方法不采用 one-hot 向量，而是通过可训练码本把词元映射到低维空间，并在该空间上运行流。论文发现，交叉熵训练会把这些嵌入推向一种几何，其解码错误率与 one-hot 的解码错误率非常接近。换言之，嵌入模型并不会自动摆脱 one-hot 流的行为；损失函数把它推向相似的解码特性。
论文还指出，one-hot 方法实际上是在一个带有各向异性噪声的嵌入空间上演化。这重新界定了 one-hot 与嵌入方法的区别：关键差异并不只是是否存在嵌入，而是训练目标和噪声结构如何塑造解码所依赖的几何。
混合扰动与噪声调度
除两个主要杠杆外，论文还简要探索了更多设计选项，包括混合扰动过程和噪声调度，其中包含为不同词元位置分配不同时间的异步调度。论文引入了混合扰动的 α-Cat 推广：每个位置在揭示时间之前，以概率 α 流向随机顶点，否则流向真实词元。
α-Cat 在 TinyGSM 上的结果显示，随着 α 升至 0.75，准确率提高并复现了 SemiCat 的效果；而 α = 1 会产生一个忽略被预测位置的留一法去噪器。作者指出，α > 0 的变体部分违背了混合方法的目的，因为它们依赖离散揭示的位置。这是一种设计权衡而非免费改进，并且与主要 TinyGSM 比较一样，是在同一小基准规模上报告的。
从设计空间中该取什么
论文中最具决策相关性的主张，是对低成本修正手段的优先级排序。如果目标是在不增加一次前向计算的情况下回收自条件的收益，DoubleCat 是作者展示的更低成本选项。如果目标是在推理类基准上缩小与离散扩散的差距，SemiCat 的离散揭示是论文所归功的机制：它在 TinyGSM 上达到 49.94%，并在 1.7B 规模下于六项似然评估中的四项上胜过离散扩散。
这一排序带有论文自身设定的边界。TinyGSM 的主要数字来自一个小基准，且对 SemiCat 而言来自标准训练超参数加调优采样器。1.7B 的比较按评估类型分化，而非全面胜出。嵌入方面的发现是关于交叉熵把几何推向何处的陈述，并不保证嵌入流在构造上就会与 one-hot 流表现不同。实际解读是按哪种失败模式更重要来选择干预：轨迹歧义指向 DoubleCat，词元可识别性指向 SemiCat 的揭示；这两项主张都不应外推到论文未测试的设定。
本文引用的文献
On the Design Space of Continuous Diffusion Language Models
自条件修正连续扩散语言模型中的训练与推理错配；DoubleCat 无需额外前向计算即可回收其收益，并使 TinyGSM 准确率提升三倍以上；SemiCat 加入离散揭示后，在 TinyGSM 上达到 49.94%。