昇腾开源
🏁 开始使用
快速安装昇腾环境
🏗️ 基础设施与框架
Accelerate
DeepSpeed
kernels
PyTorch
Transformers
🧠 训练与微调框架
LLaMA-Factory
ms-swift
NPU支持
NPU Support
ROLL
TorchTitan
Transformer Reinforcement Learning
VeOmni
verl
🚀 推理与服务
Llama.cpp
LMDeploy
ONNX Runtime
Sentence Transformers
SGLang
Torchchat
🎨 多模态、应用与评测
Diffusers
LM-Evalution-Harness
open_clip
OpenCompass
OpenCV
Stable-Diffusion-WebUI
timm
WeNet
Whisper.cpp
昇腾开源
ms-swift
查看页面源码
ms-swift
NPU支持
安装
环境准备
环境安装
环境查看
微调
单卡训练
数据并行训练
Deepspeed训练
推理
部署
使用原生transformers进行部署
使用vLLM-ascend进行部署
支持现状
表 1:SFT 类算法
表 2:RL 类算法
表 3:当前 NPU 暂不支持 / 未完全验证的模块
NPU微信群
NPU Support
Installation
Environment Preparation
Environment Installation
Environment Viewing
Fine-tuning
Single Card Training
Data Parallel Training
Deepspeed Training
Inference
Deployment
Deployment with native Transformers
Deployment with vLLM-ascend
Current Support Status
Table 1: SFT Algorithms
Table 2: RL Algorithms
Table 3: Modules Not Yet Supported / Fully Verified on NPUs
NPU WeChat Group