跳到正文
原文
HF Daily Papers·· 21 天前精选AI 评分56

miniTE:诊断并弥合原生 NVFP4 强化学习的执行差距

miniTE: Diagnosing and Bridging the Execution Gap in Native NVFP4 Reinforcement Learning

AI 导读

miniTE 开源框架通过数值与系统优化,弥合原生 NVFP4(W4A4)强化学习中的训练与推理执行差距。相同权重和精度并不保证相同策略,不同引擎的数值执行差异可能造成训练与推理不匹配并使 RL 失稳;严格对齐设置可将 log-probability 差距降至约 1e-8。

推荐理由

miniTE 从数值和系统两侧拆解原生 NVFP4 强化学习的训练与推理差异,并公开诊断工具、算子和训练配方,为低比特 RL 复现提供可操作材料。

来源:HF Daily Papers · huggingface.co