昇腾开源

🏁 开始使用

  • 快速安装昇腾环境

🏗️ 基础设施与框架

  • accelerate
  • DeepSpeed
  • kernels
  • pytorch
  • transformers

🧠 训练与微调框架

  • LLaMA-Factory
  • ms-swift
  • ROLL
  • torchtitan
  • Transformer Reinforcement Learning
  • VeOmni
  • verl

🚀 推理与服务

  • llama.cpp
  • lmdeploy
  • onnxruntime
  • sentence-transformers
  • sglang
    • 安装指南
    • 快速开始
  • torchchat

🎨 多模态、应用与评测

  • diffusers
  • lm-evaluation-harness
  • open_clip
  • opencompass
  • opencv
  • stable-diffusion-webui
  • pytorch-image-models
  • wenet
  • whisper.cpp
昇腾开源
  • sglang
  • 查看页面源码

sglang

  • 安装指南
    • 昇腾环境安装
    • SGLang 安装
  • 快速开始
    • 概览
    • 使用 SGLang 启动服务
    • 使用 SGLang 进行推理验证
上一页 下一页

© 版权所有 2024, Ascend。

利用 Sphinx 构建，使用的 主题 由 Read the Docs 开发.