Lafa 将连续流语言模型扩展至 8B 参数

Lafa 将连续流语言模型扩展至 8B 参数，对前缀采用因果注意力，并在块内使用双向异步流，实现高效训练与快速并行推理。论文在 0.5B、7B 和 8B 规模上使用少于 30B tokens 训练，并在指令遵循、推理和编码评测中达到或超过自回归（AR）模型的质量。Lafa 还可蒸馏为支持单步和少步生成的流映射，并通过自推测解码在可比质量下达到 AR 模型 2.54x 的吞吐量。