跳到正文
原文
Hugging Face Blog·· 2026-09-10精选AI 评分64

在 HF Jobs 上跑 Async GRPO + LoRA:一个 bucket、一个 proxy、不依赖 NCCL

Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL

AI 导读

TRL v1.14 的 AsyncGRPOTrainer 新增 LoRA 支持,rank-1 适配器只有几 MB,经 HF Jobs 的 Storage Bucket 即可同步到 vLLM,避免在节点间搬运 3 GB 整模型。

推荐理由

把训练与推理拆到独立机器上的可复用方案与逐轮瓶颈定位方法,对搭异步 RL 流水线的读者有直接参考价值。

来源:Hugging Face Blog · huggingface.co