昇腾开源
开始使用
快速安装昇腾环境
原生支持的AI项目
Accelerate
DeepSpeed
Diffusers
kernels
Llama.cpp
安装指南
快速开始
LLaMA-Factory
LMDeploy
LM-Evalution-Harness
ms-swift
ONNX Runtime
open_clip
OpenCompass
OpenCV
PyTorch
ROLL
Stable-Diffusion-WebUI
Sentence Transformers
SGLang
timm
Torchchat
TorchTitan
Transformers
Transformer Reinforcement Learning
VeOmni
verl
WeNet
Whisper.cpp
昇腾开源
Llama.cpp
查看页面源码
Llama.cpp
安装指南
llama.cpp 下载安装
安装校验
快速开始
模型文件准备及量化
推理