昇腾开源

警告

文档仍在开发中,内容可能存在错误,内容可能会随时更新,请勿将其用于生产环境。

选择您的偏好,并按照 快速安装昇腾环境 的安装指导进行操作。

安装成功后,请参考各项目的快速开始和样例来开始使用昇腾AI处理器。

LLaMA-Factory

便捷高效的大模型微调工具。V0.7.1版本起支持昇腾。

PyTorch

PyTorch AI框架 2.1版本官方支持昇腾

ONNX Runtime

跨平台、高性能 ML 推理和训练加速器。v1.13.1版本起原生支持昇腾

DeepSpeed

深度学习优化库,使得分布式训练和推理变得简单、高效、有效。 V0.10.1版本起支持昇腾。

OpenCV

开源计算机视觉库

Stable Diffusion web UI

Stable diffusion可视化工具链

Transformers

适用于 Pytorch、TensorFlow 和 JAX 先进的机器学习库 v4.32.0起支持昇腾

Diffusers

图像和音频生成等扩散模型工具链

Accelerate

适用于Pytorch的多GPUs训练工具链

WeNet

端到端的语音识别工具包

LM-Evalution-Harness

语言模型评估工具

Whisper.cpp

Whisper 模型高性能推理语音识别框架

llama.cpp

由C/C++实现的 Meta LLaMa 架构

Sentence Transformers

适用于文本和图像的高性能Embedding库

Transformer Reinforcement Learning

适用于SFT、PPO、DPO等方法的模型后训练库

OpenCompass

大模型标准测试工具