FlowLM: Few-Step Language Modeling via Diffusion-to-Flow Adaptation
FlowLM 把预训练的扩散语言模型通过高效微调转成 flow matching 语言模型:将扩散模型弯曲的采样轨迹重新对齐为直线流,从而用极少训练轮次实现少步生成,质量可比甚至超过 2000 步扩散采样。核心是“扩散到流”的轨迹拉直适配,复用已有扩散权重而无需从零训练流模型。
INSIGHT对要落地“生成式检索/推荐”的团队,扩散类并行生成的最大障碍是推理步数过多、时延高。FlowLM 给出一条复用已有扩散模型权重、只需轻量微调即可把采样步数压到个位数的路径。对短文本社区搜索中用生成式模型并行产出候选/语义 ID 的场景,这种“少步生成”能显著降低在线时延,是把扩散式生成式推荐推向工业部署的关键工程手段。