昇腾开源

开始使用

  • 快速安装昇腾环境

原生支持的AI项目

  • Accelerate
  • DeepSpeed
  • Diffusers
  • kernels
  • Llama.cpp
  • LLaMA-Factory
  • LMDeploy
    • 安装指南
    • 快速开始
  • LM-Evalution-Harness
  • ms-swift
  • ONNX Runtime
  • open_clip
  • OpenCompass
  • OpenCV
  • PyTorch
  • ROLL
  • Stable-Diffusion-WebUI
  • Sentence Transformers
  • SGLang
  • timm
  • Torchchat
  • TorchTitan
  • Transformers
  • Transformer Reinforcement Learning
  • VeOmni
  • verl
  • WeNet
  • Whisper.cpp
昇腾开源
  • LMDeploy
  • 查看页面源码

LMDeploy

  • 安装指南
    • lm_deploy 下载安装
    • 安装校验
  • 快速开始
    • 安装
    • 环境准备
    • 离线批处理
    • 在线服务
    • 使用命令行与LLM模型对话
    • 量化
上一页 下一页

© 版权所有 2024, Ascend。

利用 Sphinx 构建，使用的 主题 由 Read the Docs 开发.