verl

• Ascend Quickstart
  • 关键更新
  • 硬件支持
  • 安装流程
    • DockerFile镜像构建 & 使用
    • 安装基础环境
    • 安装其他软件包
    • 安装 vllm & vllm-ascend
    • 安装 MindSpeed
    • 安装verl
    • 昇腾暂不支持生态库说明
  • 快速开始
  • 算法支持现状
  • 声明
• Ascend Quickstart with SGLang Backend
  • 硬件支持
  • 安装
    • 基础环境准备
    • sglang
    • 安装torch_memory_saver
    • 安装verl
    • 其他三方库说明
  • 快速开始
• Ascend Dockerfile Build Guidance
  • 镜像硬件支持
  • 镜像内各组件版本信息清单
  • Dockerfile构建镜像脚本清单
  • 镜像构建命令示例
  • 公开镜像地址
  • 声明
• Performance data collection based on FSDP or MindSpeed(Megatron) on Ascend devices(en)
  • Configuration
    • Global collection control
    • Role collection control
  • Examples
    • Disabling collection
    • End-to-End collection
    • Discrete Mode Collection
  • Visualization
  • Advanced Guide: Fine-grained Collection
    • Background and Challenges
    • Solution: Critical Path Sampling
    • 1. Fine-grained Collection in Rollout Phase
    • 2. Fine-grained Collection in compute_log_prob (Actor & Ref) Phase
    • 3. Fine-grained Collection in update_policy (Actor & Critic) Phase
• Performance data collection based on FSDP or MindSpeed(Megatron) on Ascend devices(zh)
  • 在昇腾设备上基于 FSDP 或 MindSpeed (Megatron) 后端进行性能数据采集
  • 配置
    • 全局采集控制
    • 角色profiler控制
  • 示例
    • 禁用采集
    • 端到端采集
    • 离散模式采集
  • 可视化
  • 进阶指南：精细化采集
    • 背景与挑战
    • 解决方案：关键路径采样
    • 1. Rollout 阶段精细化采集
    • 2. compute_log_prob (Actor & Ref) 阶段精细化采集
    • 3. update_policy (Actor & Critic) 阶段精细化采集
• Align the Inference results of the verl and vLLM frameworks on Ascend devices(zh)
  • 环境变量配置
  • vLLM初始化参数