HF Daily Papers·· 2 天前精选AI 评分36
Cola2：通过连续语义压缩与平衡的离散生成实现协同自适应分层语言建模
Cola2: Co-Adaptive Hierarchical Language Modeling with Continuous Semantic Compression and Balanced Discrete Generation
AI 导读
Cola2 提出一种联合优化连续语义压缩、重建生成平衡和编码器解码器协同适应的分层语言生成框架。它通过动态 span segmentation、masked diffusion decoding 和 Flow Matching priors 学习紧凑的预测性潜表示，并在推理时按固定 span 布局重新编码生成文本。
推荐理由
论文报告多任务实验中的扩展趋势，并比较未收敛检查点的任务表现与预训练预算差异，为分层语言生成提供可核对的实验参照。
来源：HF Daily Papers · huggingface.co