Appearance
本页总览
使用 slime（Megatron+SGLang 框架）进行 LLM RL（强化学习）后训练的指导。适用于训练 GLM 模型、实现自定义数据生成工作流，或需要 Megatron-LM 紧密集成以进行 RL 扩展的场景。
Skill 元数据
| 来源 | 可选 — 通过 hermes skills install official/mlops/slime 安装 |
| 路径 | optional-skills/mlops/slime |
| 版本 | 1.0.0 |
| 作者 | Orchestra Research |
| 许可证 | MIT |
| 依赖 | sglang-router>=0.2.3, ray, torch>=2.0.0, transformers>=4.40.0 |
| 平台 | linux, macos |
| 标签 | Reinforcement Learning, Megatron-LM, SGLang, GRPO, Post-Training, GLM |
参考：完整 SKILL.md
信息
以下是 Hermes 在触发此 skill 时加载的完整 skill 定义。这是 agent 在 skill 激活时所看到的指令内容。
slime：面向 RL 扩展的 LLM 后训练框架
slime 是清华大学 THUDM 团队开发的 LLM 后训练框架，为 GLM-4.5、GLM-4.6 和 GLM-4.7 提供支持。它将 Megatron-LM（用于训练）与 SGLang（用于高吞吐量 rollout 生成）相连接。
何时使用 slime
在以下情况下选择 slime：
- 需要 Megatron-LM 原生训练配合 SGLang 推理
- 需要带有灵活数据缓冲区的自定义数据生成工作流
- 训练 GLM、Qwen3、DeepSeek V3 或 Llama 3 模型
- 需要具有生产级支持（Z.ai）的研究级框架
在以下情况下考虑替代方案：
- 需要企业级稳定性功能 → 使用 miles
- 需要灵活的后端切换 → 使用 verl
- 需要 PyTorch 原生抽象 → 使用 torchforge
核心特性
- 训练：Megatron-LM，支持完整并行（TP、PP、DP、SP）
- Rollout：基于 SGLang 的高吞吐量生成，带 router
- 数据缓冲区：灵活的 prompt 管理与样本存储
- 模型：GLM-4.x、Qwen3、DeepSeek V3/R1、Llama 3
架构概览
text
┌─────────────────────────────────────────────────────────┐
│ Data Buffer │
│ - Prompt initialization and management │
│ - Custom data generation and filtering │
│ - Rollout sample storage │
└─────────────┬───────────────────────────┬───────────────┘
│ │
┌─────────────▼───────────┐ ┌─────────────▼───────────────┐
│ Training (Megatron-LM) │ │ Rollout (SGLang + Router) │
│ - Actor model training │ │ - Response generation │
│ - Critic (optional) │ │ - Reward/verifier output │
│ - Weight sync to rollout│ │ - Multi-turn support │
└─────────────────────────┘ └─────────────────────────────┘安装
bash
# 推荐：Docker
docker pull slimerl/slime:latest
docker run --rm --gpus all --ipc=host --shm-size=16g \
-it slimerl/slime:latest /bin/bash
# 容器内
cd /root/slime && pip install -e . --no-deps从源码安装
bash
git clone
cd slime
pip install -r requirements.txt
pip install -e .快速开始：GRPO 训练
bash
# 加载模型配置
source scripts/models/qwen3-4B.sh
# 启动训练
python train.py \
--actor-num-nodes 1 \
--actor-num-gpus-per-node 4 \
--rollout-num-gpus 4 \
--advantage-estimator grpo \
--use-kl-loss --kl-loss-coef 0.001 \
--rollout-batch-size 32 \
--n-samples-per-prompt 8 \
--global-batch-size 256 \
--num-rollout 3000 \
--prompt-data /path/to/data.jsonl \
${MODEL_ARGS[@]} ${CKPT_ARGS[@]}工作流 1：标准 GRPO 训练
使用此工作流通过组相对优势（group-relative advantages）训练推理模型。
前置条件清单
- [ ] Docker 环境，或已安装 Megatron-LM + SGLang
- [ ] 模型检查点（HuggingFace 或 Megatron 格式）
- [ ] JSONL 格式的训练数据
第一步：准备数据
python
# data.jsonl 格式
{"prompt": "What is 2 + 2?", "label": "4"}
{"prompt": "Solve: 3x = 12", "label": "x = 4"}或使用对话格式：
python
{
"prompt": [\
\
{"role": "system", "content": "You are a math tutor."},\
\
{"role": "user", "content": "What is 15 + 27?"}\
\
],
"label": "42"
}第二步：配置模型
选择预配置的模型脚本：
bash
# 列出可用模型
ls scripts/models/
# glm4-9B.sh, qwen3-4B.sh, qwen3-30B-A3B.sh, deepseek-v3.sh, llama3-8B.sh, ...
# 加载你的模型
source scripts/models/qwen3-4B.sh第三步：启动训练
bash
python train.py \
--actor-num-nodes 1 \
--actor-num-gpus-per-node 8 \
--rollout-num-gpus 8 \
--advantage-estimator grpo \
--use-kl-loss \
--kl-loss-coef 0.001 \
--prompt-data /path/to/train.jsonl \
--input-key prompt \
--label-key label \
--apply-chat-template \
--rollout-batch-size 32 \
--n-samples-per-prompt 8 \
--global-batch-size 256 \
--num-rollout 3000 \
--save-interval 100 \
--eval-interval 50 \
${MODEL_ARGS[@]}第四步：监控训练
- [ ] 查看 TensorBoard：
tensorboard --logdir outputs/ - [ ] 确认奖励曲线持续上升
- [ ] 监控各节点 GPU 利用率
工作流 2：异步训练
使用异步模式通过重叠 rollout 与训练来提高吞吐量。
何时使用异步模式
- 大型模型生成时间较长
- 同步模式下 GPU 空闲时间较多
- 有足够内存用于缓冲
启动异步训练
bash
python train_async.py \
--actor-num-nodes 1 \
--actor-num-gpus-per-node 8 \
--rollout-num-gpus 8 \
--advantage-estimator grpo \
--async-buffer-size 4 \
--prompt-data /path/to/train.jsonl \
${MODEL_ARGS[@]}异步专用参数
bash
--async-buffer-size 4 # 缓冲的 rollout 数量
--update-weights-interval 2 # 每 N 次 rollout 同步一次权重工作流 3：多轮 Agentic 训练
使用此工作流训练具备工具调用或多步推理能力的 agent。
前置条件
- [ ] 用于多轮逻辑的自定义 generate 函数
- [ ] 工具/环境接口
第一步：定义自定义 Generate 函数
python
# custom_generate.py
async def custom_generate(args, samples, evaluation=False):
"""带工具调用的多轮生成。"""
for sample in samples:
conversation = sample.prompt
for turn in range(args.max_turns):
# 生成响应
response = await generate_single(conversation)
# 检查工具调用
tool_call = extract_tool_call(response)
if tool_call:
tool_result = execute_tool(tool_call)
conversation.append({"role": "assistant", "content": response})
conversation.append({"role": "tool", "content": tool_result})
else:
break
sample.response = response
sample.reward = compute_reward(sample)
return samples第二步：使用自定义函数启动
bash
python train.py \
--custom-generate-function-path custom_generate.py \
--max-turns 5 \
--prompt-data /path/to/agent_data.jsonl \
${MODEL_ARGS[@]}完整的多轮搜索示例请参见 examples/search-r1/。
配置参考
三类参数
slime 使用三种类型的参数：
1. Megatron 参数（直接传入）：
bash
--tensor-model-parallel-size 2
--pipeline-model-parallel-size 1
--num-layers 32
--hidden-size 40962. SGLang 参数（以 --sglang- 为前缀）：
bash
--sglang-mem-fraction-static 0.8
--sglang-context-length 8192
--sglang-log-level INFO3. slime 参数：
bash
# 资源分配
--actor-num-nodes 1
--actor-num-gpus-per-node 8
--rollout-num-gpus 8
--colocate # 训练与推理共享 GPU
# 数据
--prompt-data /path/to/data.jsonl
--input-key prompt
--label-key label
# 训练循环
--num-rollout 3000
--rollout-batch-size 32
--n-samples-per-prompt 8
--global-batch-size 256
# 算法
--advantage-estimator grpo # 或：gspo, ppo, reinforce_plus_plus
--use-kl-loss
--kl-loss-coef 0.001关键约束
text
rollout_batch_size × n_samples_per_prompt = global_batch_size × num_steps_per_rollout示例：32 × 8 = 256 × 1
数据缓冲区系统
slime 的数据缓冲区支持灵活的数据管理：
基础数据源
python
class RolloutDataSource:
def get_samples(self, num_samples):
"""从数据集中获取 prompt。"""
return self.dataset.sample(num_samples)
def add_samples(self, samples):
"""生成后调用（默认为空操作）。"""
pass带缓冲区的数据源（离线策略）
python
class RolloutDataSourceWithBuffer(RolloutDataSource):
def __init__(self):
self.buffer = []
def add_samples(self, samples):
"""存储已生成的样本以供复用。"""
self.buffer.extend(samples)
def buffer_filter(self, args, buffer, num_samples):
"""自定义选择逻辑（优先级、分层等）。"""
return select_best(buffer, num_samples)常见问题与解决方案
问题：SGLang 引擎崩溃
现象：推理引擎在训练中途退出
解决方案：
bash
# 启用容错
--use-fault-tolerance
# 增加内存分配
--sglang-mem-fraction-static 0.85
# 减小批大小
--rollout-batch-size 16问题：权重同步超时
现象：rollout 后训练挂起
解决方案：
bash
# 增大同步间隔
--update-weights-interval 5
# 使用 colocate 模式（无网络传输）
--colocate问题：训练时 OOM
现象：反向传播时 CUDA OOM
解决方案：
bash
# 启用梯度检查点
--recompute-activations
# 减小 micro-batch 大小
--micro-batch-size 1
# 启用序列并行
--sequence-parallel问题：数据加载缓慢
现象：数据获取期间 GPU 空闲
解决方案：
bash
# 增加数据 worker 数量
--num-data-workers 4
# 使用流式数据集
--streaming-data支持的模型
| 模型系列 | 配置 |
|---|---|
| GLM | GLM-4.5、GLM-4.6、GLM-4.7、GLM-Z1-9B |
| Qwen | Qwen3（4B、8B、30B-A3B）、Qwen3-MoE、Qwen2.5 |
| DeepSeek | V3、V3.1、R1 |
| Llama | Llama 3（8B、70B） |
| 其他 | Kimi K2、Moonlight-16B |
每个模型在 scripts/models/ 中均有预配置脚本。
进阶主题
Co-location 模式
训练与推理共享 GPU 以减少内存占用：
bash
python train.py \
--colocate \
--actor-num-gpus-per-node 8 \
--sglang-mem-fraction-static 0.4 \
${MODEL_ARGS[@]}自定义奖励模型
python
# custom_rm.py
class CustomRewardModel:
def __init__(self, model_path):
self.model = load_model(model_path)
def compute_reward(self, prompts, responses):
inputs = self.tokenize(prompts, responses)
scores = self.model(inputs)
return scores.tolist()bash
--custom-rm-path custom_rm.py多任务评估
bash
--eval-prompt-data aime /path/to/aime.jsonl \
--eval-prompt-data gsm8k /path/to/gsm8k.jsonl \
--n-samples-per-eval-prompt 16资源
文档：
GitHub：
博客：
示例：参见
examples/目录，包含 14+ 个完整示例