安装指南

本教程面向使用 OpenCompass & 昇腾的开发者,帮助完成昇腾环境下 OpenCompass 的安装。

昇腾环境安装

请根据已有昇腾产品型号及CPU架构等按照 快速安装昇腾环境指引 进行昇腾环境安装。

警告

CANN 最低版本为 8.0.rc1,安装 CANN 时,请同时安装 Kernel 算子包。

Python 环境创建

1# 创建 python 3.10 的虚拟环境
2conda create -y -n opencompass python=3.10
3# 激活虚拟环境
4conda activate opencompass

OpenCompass 安装

使用以下指令安装 OpenCompass:

 1  pip install -U opencompass -i https://pypi.tuna.tsinghua.edu.cn/simple
 2
 3## Full installation (with support for more datasets)
 4# pip install "opencompass[full]"
 5
 6## Environment with model acceleration frameworks
 7## Manage different acceleration frameworks using virtual environments
 8## since they usually have dependency conflicts with each other.
 9# pip install "opencompass[lmdeploy]"
10# pip install "opencompass[vllm]"
11
12## API evaluation (i.e. Openai, Qwen)
13# pip install "opencompass[api]"

torch-npu 安装

按照 torch-npu 安装指引 安装 2.1.0 版本 torch 和 torch-npu,或使用以下指令快速安装:

1# install the dependencies
2pip3 install attrs numpy==1.26.4 decorator sympy cffi pyyaml pathlib2 psutil protobuf scipy requests absl-py wheel typing_extensions -i https://pypi.tuna.tsinghua.edu.cn/simple
3# install torch and torch-npu
4pip install torch==2.1.0 torch-npu==2.1.0 -i https://pypi.tuna.tsinghua.edu.cn/simple

安装校验

使用以下 Python 脚本对 open_clip 的安装进行校验,正确打印 open_clip 的版本号和 NPU 卡号说明安装成功。

1import torch
2import opencompass
3
4print("opencompass version: ", opencompass.__version__)
5print("NPU devices: ", torch.npu.current_device())

正确回显如下(单卡 NPU 环境):

opencompass version:  0.3.3
NPU devices: 0