Representation-Space MMD for Diffusion Language Models

本文提出一种针对扩散语言模型（DLMs）的后训练方法，通过在冻结预训练模型的特征空间中最小化生成分布与参考分布之间的最大平均差异（MMD）。该方法在单次提取器运行中保留每个词位的上下文特征，从而从单条序列中获得多个观测值，并使用策略梯度优化离散模型，通过生成的潜在变量直接微分优化连续模型。