昇腾开源

开始使用

  • 快速安装昇腾环境

原生支持的AI项目

  • Accelerate
  • DeepSpeed
  • Diffusers
  • kernels
  • Llama.cpp
  • LLaMA-Factory
  • LMDeploy
  • LM-Evalution-Harness
  • ms-swift
  • ONNX Runtime
  • open_clip
  • OpenCompass
  • OpenCV
  • PyTorch
  • ROLL
  • Stable-Diffusion-WebUI
  • Sentence Transformers
  • SGLang
    • 安装指南
    • 快速开始
  • timm
  • Torchchat
  • TorchTitan
  • Transformers
  • Transformer Reinforcement Learning
  • VeOmni
  • verl
  • WeNet
  • Whisper.cpp
昇腾开源
  • SGLang
  • 查看页面源码

SGLang

  • 安装指南
    • 昇腾环境安装
    • SGLang 安装
  • 快速开始
    • 概览
    • 使用 SGLang 启动服务
    • 使用 SGLang 进行推理验证
上一页 下一页

© 版权所有 2024, Ascend。

利用 Sphinx 构建，使用的 主题 由 Read the Docs 开发.