昇腾开源
开始使用
快速安装昇腾环境
原生支持的AI项目
PyTorch
LLaMA-Factory
Accelerate
Transformers
DeepSpeed
ONNX Runtime
open_clip
timm
Diffusers
OpenCV
Stable-Diffusion-WebUI
LM-Evalution-Harness
WeNet
Whisper.cpp
llama.cpp
Sentence Transformers
Transformer Reinforcement Learning
OpenCompass
LMDeploy
安装指南
快速开始
昇腾开源
LMDeploy
查看页面源码
LMDeploy
安装指南
lm_deploy 下载安装
安装校验
快速开始
安装
环境准备
离线批处理
在线服务
使用命令行与LLM模型对话
量化