Hugging Face Blog·· 2026-09-10精选AI 评分55
TRL v1.14 异步 GRPO 在 HF Jobs 间用 LoRA 和 Storage Bucket 替代 NCCL
Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
AI 导读
TRL v1.14 的 AsyncGRPOTrainer 新增 LoRA 支持,trainer 与 vLLM 分别跑在独立 HF Jobs 上,通过共享 Storage Bucket 目录仅同步几 MB 的 adapter。
推荐理由
详细展示了 LoRA 异步 GRPO 在跨节点 HF Jobs 上的部署方案与五轮调优路径,并给出 3.9 倍提速的实测数据。
来源:Hugging Face Blog · huggingface.co