vLLM Blog· Ao Shen (Inferact), Jian Hu (NVIDIA Research), Yan Bai (NVIDIA DevTech), Shekhar Pandey (AMD), and the REINFORCE Zero authors·原文发布· 17 小时前精选AI 评分62
Zero Mismatch, Simple Async RL: REINFORCE Zero, DeepSeek-V4.1 and Kimi K3.1
Zero Mismatch, Simple Async RL: REINFORCE Zero, DeepSeek-V4.1 and Kimi K3.1
AI 导读
NVIDIA Research 与 Inferact 发布 REINFORCE Zero 论文,将对齐 kernel 后的异步 RL 稳定训练到 lag 64,训练步吞吐达同步训练的 2.40×,稳定跑满 20,000 次更新。
本站提供 AI 导读,完整报道请前往来源网站阅读。
阅读原文 vLLM Blog · vllm.ai
推荐理由
论文把 rollout 与训练的差距拆成权重滞后和 kernel mismatch 两项,给出对齐后免截断 IS 的异步 RL 配方与完整开源实现。