HF Daily Papers·· 21 天前精选AI 评分56
miniTE:诊断并弥合原生 NVFP4 强化学习的执行差距
miniTE: Diagnosing and Bridging the Execution Gap in Native NVFP4 Reinforcement Learning
AI 导读
miniTE 开源框架通过数值与系统优化,弥合原生 NVFP4(W4A4)强化学习中的训练与推理执行差距。相同权重和精度并不保证相同策略,不同引擎的数值执行差异可能造成训练与推理不匹配并使 RL 失稳;严格对齐设置可将 log-probability 差距降至约 1e-8。
推荐理由
miniTE 从数值和系统两侧拆解原生 NVFP4 强化学习的训练与推理差异,并公开诊断工具、算子和训练配方,为低比特 RL 复现提供可操作材料。
来源:HF Daily Papers · huggingface.co