HF Daily Papers·· 6 天前精选AI 评分36
KV4-RL：借助 INT4 KV cache 量化加速 RLVR 异步 rollout
KV4-RL: Unlocking Faster Asynchronous Rollouts for RLVR with INT4 KV Cache Quantization
AI 导读
KV4-RL 用 INT4 KV cache 量化结合对 attention sink 和近期上下文的 INT8 保护来加速 RLVR 异步 rollout。
推荐理由
论文把 RLVR 异步 rollout 的 KV 负载集中现象做了量化，并给出兼顾 INT4 加速与采样精度的可迁移训练方案。
来源：HF Daily Papers · huggingface.co