HF Daily Papers·· 7 天前精选AI 评分50
扩散模型校正训练提升无引导样本质量并支持蒸馏
Correction Training for Diffusion Models
AI 导读
研究提出一种扩散模型校正步骤,让校正器以基础模型预测和同一真值目标进行训练,并在每个去噪步骤迭代修正干净样本预测。该方法在 DiT、SiT 和 JiT 上改善了无引导及无条件生成的 FID,表现与 CFG 相当;与 CFG 结合还能提升多样性并减少过度饱和。研究还把校正后的预测蒸馏回基础扩散模型,以保留质量收益并消除额外推理开销。
推荐理由
论文把校正器训练与推理迭代结合起来,并给出蒸馏降开销路径,便于比较无引导生成质量与推理成本。
来源:HF Daily Papers · huggingface.co