昇腾开源
🏁 开始使用
快速安装昇腾环境
🏗️ 基础设施与框架
Accelerate
DeepSpeed
kernels
PyTorch
Transformers
🧠 训练与微调框架
LLaMA-Factory
ms-swift
ROLL
TorchTitan
Transformer Reinforcement Learning
VeOmni
verl
🚀 推理与服务
Llama.cpp
安装指南
快速开始
LMDeploy
ONNX Runtime
Sentence Transformers
SGLang
Torchchat
🎨 多模态、应用与评测
Diffusers
LM-Evalution-Harness
open_clip
OpenCompass
OpenCV
Stable-Diffusion-WebUI
timm
WeNet
Whisper.cpp
昇腾开源
Llama.cpp
查看页面源码
Llama.cpp
安装指南
llama.cpp 下载安装
安装校验
快速开始
模型文件准备及量化
推理