扩散语言模型在不同任务和语言中的解码速度研究

一项分析两个扩散语言模型、覆盖10项任务的研究发现，每个token所需的前向传播次数高度依赖任务，开放式写作成本高于复制或轻量编辑。在 DiffusionGemma 中，故事写作每个token需要超过语法纠错3倍的前向传播，输出相对输入的新颖度与词汇在任务中的稀有度解释了大部分差异。