Hugging Face Blog·· 2026-09-10精选AI 评分64
在 HF Jobs 上跑 Async GRPO + LoRA:一个 bucket、一个 proxy、不依赖 NCCL
Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
AI 导读
TRL v1.14 的 AsyncGRPOTrainer 新增 LoRA 支持,rank-1 适配器只有几 MB,经 HF Jobs 的 Storage Bucket 即可同步到 vLLM,避免在节点间搬运 3 GB 整模型。
推荐理由
把训练与推理拆到独立机器上的可复用方案与逐轮瓶颈定位方法,对搭异步 RL 流水线的读者有直接参考价值。
来源:Hugging Face Blog · huggingface.co