安装指南
本教程面向使用 OpenCompass & 昇腾的开发者,帮助完成昇腾环境下 OpenCompass 的安装。
昇腾环境安装
请根据已有昇腾产品型号及CPU架构等按照 快速安装昇腾环境指引 进行昇腾环境安装。
警告
CANN 最低版本为 8.0.rc1,安装 CANN 时,请同时安装 Kernel 算子包。
Python 环境创建
1# 创建 python 3.10 的虚拟环境
2conda create -y -n opencompass python=3.10
3# 激活虚拟环境
4conda activate opencompass
OpenCompass 安装
使用以下指令安装 OpenCompass:
1 pip install -U opencompass -i https://pypi.tuna.tsinghua.edu.cn/simple
2
3## Full installation (with support for more datasets)
4# pip install "opencompass[full]"
5
6## Environment with model acceleration frameworks
7## Manage different acceleration frameworks using virtual environments
8## since they usually have dependency conflicts with each other.
9# pip install "opencompass[lmdeploy]"
10# pip install "opencompass[vllm]"
11
12## API evaluation (i.e. Openai, Qwen)
13# pip install "opencompass[api]"
torch-npu 安装
按照 torch-npu 安装指引 安装 2.1.0 版本 torch 和 torch-npu,或使用以下指令快速安装:
1# install the dependencies
2pip3 install attrs numpy==1.26.4 decorator sympy cffi pyyaml pathlib2 psutil protobuf scipy requests absl-py wheel typing_extensions -i https://pypi.tuna.tsinghua.edu.cn/simple
3# install torch and torch-npu
4pip install torch==2.1.0 torch-npu==2.1.0 -i https://pypi.tuna.tsinghua.edu.cn/simple
安装校验
使用以下 Python 脚本对 open_clip 的安装进行校验,正确打印 open_clip 的版本号和 NPU 卡号说明安装成功。
1import torch
2import opencompass
3
4print("opencompass version: ", opencompass.__version__)
5print("NPU devices: ", torch.npu.current_device())
正确回显如下(单卡 NPU 环境):
opencompass version: 0.3.3
NPU devices: 0