Hugging Face 用 LoRA 与 Storage Bucket 在 HF Jobs 上跑异步 GRPO,免 NCCL 并提速 3.9 倍
Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
AI 导读Hugging Face 在 TRL v1.14 的 AsyncGRPOTrainer 中支持只训练和同步 LoRA adapter,配合 Storage Bucket 挂载与代理路由,让训练 Job 和 vLLM 推理 Job 在不同机器上运行而无需 NCCL。
来源:Hugging Face 社区博客 · huggingface.co
事件后续1
查看事件全部- Hugging Face 用 LoRA 与 Storage Bucket 在 HF Jobs 上跑异步 GRPO,免 NCCL 并提速 3.9 倍Hugging Face 社区博客 · 9 月 10 日