跳到正文
原文
Hugging Face Blog·· 2026-09-10精选AI 评分55

TRL v1.14 异步 GRPO 在 HF Jobs 间用 LoRA 和 Storage Bucket 替代 NCCL

Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL

AI 导读

TRL v1.14 的 AsyncGRPOTrainer 新增 LoRA 支持,trainer 与 vLLM 分别跑在独立 HF Jobs 上,通过共享 Storage Bucket 目录仅同步几 MB 的 adapter。

推荐理由

详细展示了 LoRA 异步 GRPO 在跨节点 HF Jobs 上的部署方案与五轮调优路径,并给出 3.9 倍提速的实测数据。

来源:Hugging Face Blog · huggingface.co