mindspore_d_install.md 10.6 KB
Newer Older
L
leiyuning 已提交
1 2 3 4 5 6 7 8 9 10 11 12 13
# 安装MindSpore

本文档介绍如何在Ascend AI处理器的环境上快速安装MindSpore。

<!-- TOC -->

- [安装MindSpore](#安装mindspore)
    - [环境要求](#环境要求)
        - [硬件要求](#硬件要求)
        - [系统要求和软件依赖](#系统要求和软件依赖)
        - [Conda安装(可选)](#conda安装可选)
        - [配套软件包依赖配置](#配套软件包依赖配置)
    - [安装指南](#安装指南)
14
        - [通过可执行文件安装](#通过可执行文件安装)
L
leiyuning 已提交
15 16 17 18 19 20 21 22 23 24 25 26 27 28 29
        - [从源码编译安装](#从源码编译安装)
    - [配置环境变量](#配置环境变量)
    - [安装验证](#安装验证)
- [安装MindInsight](#安装mindinsight)
- [安装MindArmour](#安装mindarmour)

<!-- /TOC -->

## 环境要求

### 硬件要求

- Ascend 910 AI处理器

  > - 申请方式:填写[申请表](https://www.mindspore.cn/table)发送至contact@mindspore.cn,审核通过即可获取云上资源。
L
leonwanghui 已提交
30
  > - 需为每张卡预留至少32G内存。
L
leiyuning 已提交
31 32 33 34 35

### 系统要求和软件依赖

| 版本号 | 操作系统 | 可执行文件安装依赖 | 源码编译安装依赖 |
| ---- | :--- | :--- | :--- |
J
jonyguo 已提交
36
| MindSpore master | - Ubuntu 16.04(及以上) aarch64 <br> - Ubuntu 16.04(及以上) x86_64 <br> - EulerOS 2.8 aarch64 <br> - EulerOS 2.5 x86_64 | - [Python](https://www.python.org/downloads/) 3.7.5 <br> - Ascend 910 AI处理器配套软件包(对应版本Atlas Data Center Solution V100R020C00T100) <br> - 其他依赖项参见[requirements.txt](https://gitee.com/mindspore/mindspore/blob/master/requirements.txt) | **编译依赖:**<br> - [Python](https://www.python.org/downloads/) 3.7.5 <br> - Ascend 910 AI处理器配套软件包(对应版本Atlas Data Center Solution V100R020C00T100) <br> - [wheel](https://pypi.org/project/wheel/) >= 0.32.0 <br> - [GCC](https://gcc.gnu.org/releases.html) 7.3.0 <br> - [CMake](https://cmake.org/download/) >= 3.14.1 <br> - [patch](http://ftp.gnu.org/gnu/patch/) >= 2.5 <br> **安装依赖:**<br> 与可执行文件安装依赖相同 |
L
leiyuning 已提交
37

J
jonyguo 已提交
38
- 确认当前用户有权限访问Ascend 910 AI处理器配套软件包(对应版本Atlas Data Center Solution V100R020C00T100)的安装路径`/usr/local/Ascend`,若无权限,需要root用户将当前用户添加到`/usr/local/Ascend`所在的用户组,具体配置请详见配套软件包的说明文档。
L
leiyuning 已提交
39
- Ubuntu版本为18.04时,GCC 7.3.0可以直接通过apt命令安装。
L
lvmingfu 已提交
40
- 在联网状态下,安装whl包时会自动下载`requirements.txt`中的依赖项,其余情况需自行安装。
L
leiyuning 已提交
41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59

### Conda安装(可选)

1. 针对不同的CPU架构,Conda安装包下载路径如下。

   - [X86 Anaconda](https://www.anaconda.com/distribution/)[X86 Miniconda](https://docs.conda.io/en/latest/miniconda.html)
   - [ARM Anaconda](https://github.com/Archiconda/build-tools/releases/download/0.2.3/Archiconda3-0.2.3-Linux-aarch64.sh)

2. 创建并激活Python环境。

    ```bash
    conda create -n {your_env_name} python=3.7.5
    conda activate {your_env_name}
    ```

> Conda是强大的Python环境管理工具,建议初学者上网查阅更多资料。

### 配套软件包依赖配置

J
jonyguo 已提交
60
 - 安装Ascend 910 AI处理器配套软件包(对应版本Atlas Data Center Solution V100R020C00T100)提供的whl包,whl包随配套软件包发布,升级配套软件包之后需要重新安装。
L
leiyuning 已提交
61 62

    ```bash
C
caifubi 已提交
63 64 65
    pip install /usr/local/Ascend/fwkacllib/lib64/topi-{version}-py3-none-any.whl
    pip install /usr/local/Ascend/fwkacllib/lib64/te-{version}-py3-none-any.whl
    pip install /usr/local/Ascend/fwkacllib/lib64/hccl-{version}-py3-none-any.whl
L
leiyuning 已提交
66 67 68 69
    ```

## 安装指南

70 71 72 73 74
### 通过可执行文件安装

-[MindSpore网站下载地址](https://www.mindspore.cn/versions)下载whl包,建议先进行SHA-256完整性校验,执行如下命令安装MindSpore。

    ```bash
W
wukesong 已提交
75
    pip install mindspore_ascend-{version}-cp37-cp37m-linux_{arch}.whl
76 77
    ```

L
leiyuning 已提交
78 79 80 81 82 83 84 85 86
### 从源码编译安装

必须在Ascend 910 AI处理器的环境上进行编译安装。

1. 从代码仓下载源码。

    ```bash
    git clone https://gitee.com/mindspore/mindspore.git
    ```
L
leonwanghui 已提交
87

L
leiyuning 已提交
88 89 90 91 92
2. 在源码根目录下,执行如下命令编译MindSpore。

    ```bash
    bash build.sh -e d -z
    ```
L
lvmingfu 已提交
93 94 95
    > - 在执行上述命令前,需保证可执行文件`cmake`和`patch`所在路径已加入环境变量PATH中。
    > - `build.sh`中会执行`git clone`获取第三方依赖库的代码,请提前确保git的网络设置正确可用。
    > - `build.sh`中默认的编译线程数为8,如果编译机性能较差可能会出现编译错误,可在执行中增加-j{线程数}来减少线程数量。如`bash build.sh -e d -z -j4`。
L
leiyuning 已提交
96 97 98 99

3. 执行如下命令安装MindSpore。

    ```bash
W
wukesong 已提交
100 101
    chmod +x build/package/mindspore_ascend-{version}-cp37-cp37m-linux_{arch}.whl
    pip install build/package/mindspore_ascend-{version}-cp37-cp37m-linux_{arch}.whl
L
leiyuning 已提交
102 103 104 105 106
    ```

## 配置环境变量

- 安装好MindSpore之后,需要导出Runtime相关环境变量。
L
leonwanghui 已提交
107

L
leiyuning 已提交
108 109 110
    ```bash
    # control log level. 0-DEBUG, 1-INFO, 2-WARNING, 3-ERROR, default level is WARNING.
    export GLOG_v=2
W
wukesong 已提交
111 112
    # Conda environmental options
    LOCAL_ASCEND=/usr/local/Ascend # the root directory of run package
L
leiyuning 已提交
113
    # lib libraries that the run package depends on
C
caifubi 已提交
114
    export LD_LIBRARY_PATH=${LOCAL_ASCEND}/add-ons/:${LOCAL_ASCEND}/fwkacllib/lib64:${LD_LIBRARY_PATH}
W
wukesong 已提交
115 116 117 118
    # Environment variables that must be configured
    export TBE_IMPL_PATH=${LOCAL_ASCEND}/opp/op_impl/built-in/ai_core/tbe # TBE operator implementation tool path
    export PATH=${LOCAL_ASCEND}/fwkacllib/ccec_compiler/bin/:${PATH} # TBE operator compilation tool path
    export PYTHONPATH=${TBE_IMPL_PATH}:${PYTHONPATH} # Python library that TBE implementation depends on
L
leiyuning 已提交
119 120 121 122 123
    ```

## 安装验证

- 安装并配置好环境变量后,执行如下python脚本:
L
leonwanghui 已提交
124

L
leiyuning 已提交
125 126 127 128 129 130 131 132 133 134 135
    ```bash
    import numpy as np
    from mindspore import Tensor
    from mindspore.ops import functional as F
    import mindspore.context as context

    context.set_context(device_target="Ascend")
    x = Tensor(np.ones([1,3,3,4]).astype(np.float32))
    y = Tensor(np.ones([1,3,3,4]).astype(np.float32))
    print(F.tensor_add(x, y))
    ```
L
leonwanghui 已提交
136

L
leiyuning 已提交
137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162
- 若出现如下结果,即安装验证通过。

    ```
    [[[ 2.  2.  2.  2.],
      [ 2.  2.  2.  2.],
      [ 2.  2.  2.  2.]],

     [[ 2.  2.  2.  2.],
      [ 2.  2.  2.  2.],
      [ 2.  2.  2.  2.]],

     [[ 2.  2.  2.  2.],
      [ 2.  2.  2.  2.],
      [ 2.  2.  2.  2.]]]
    ```

# 安装MindInsight

当您需要查看训练过程中的标量、图像、计算图以及模型超参等信息时,可以选装MindInsight。

## 环境要求

### 系统要求和软件依赖

| 版本号 | 操作系统 | 可执行文件安装依赖 | 源码编译安装依赖 |
| ---- | :--- | :--- | :--- |
J
jonyguo 已提交
163
| MindInsight master | - Ubuntu 16.04(及以上) aarch64 <br> - Ubuntu 16.04(及以上) x86_64 <br> - EulerOS 2.8 aarch64 <br> - EulerOS 2.5 x86_64 <br> | - [Python](https://www.python.org/downloads/) 3.7.5 <br> - MindSpore master <br> - 其他依赖项参见[requirements.txt](https://gitee.com/mindspore/mindinsight/blob/master/requirements.txt) | **编译依赖:**<br> - [Python](https://www.python.org/downloads/) 3.7.5 <br> - [CMake](https://cmake.org/download/) >= 3.14.1 <br> - [GCC](https://gcc.gnu.org/releases.html) 7.3.0 <br> - [node.js](https://nodejs.org/en/download/) >= 10.19.0 <br> - [wheel](https://pypi.org/project/wheel/) >= 0.32.0 <br> - [pybind11](https://pypi.org/project/pybind11/) >= 2.4.3 <br> **安装依赖:**<br> 与可执行文件安装依赖相同 |
L
leiyuning 已提交
164

L
lvmingfu 已提交
165
- 在联网状态下,安装whl包时会自动下载`requirements.txt`中的依赖项,其余情况需自行安装。
L
leiyuning 已提交
166 167 168

## 安装指南

169 170 171 172 173 174 175 176 177 178 179 180 181 182
### 通过可执行文件安装

1.[MindSpore网站下载地址](https://www.mindspore.cn/versions)下载whl包,建议先进行SHA-256完整性校验,执行如下命令安装MindInsight。

    ```bash
    pip install mindinsight-{version}-cp37-cp37m-linux_{arch}.whl
    ```

2. 执行如下命令,如果提示`web address: http://127.0.0.1:8080`,则说明安装成功。

    ```bash
    mindinsight start
    ```

L
leiyuning 已提交
183 184 185 186 187 188 189
### 从源码编译安装

1. 从代码仓下载源码。

    ```bash
    git clone https://gitee.com/mindspore/mindinsight.git
    ```
李鸿章 已提交
190
    > **不能**直接在仓库主页下载zip包获取源码。
L
leiyuning 已提交
191 192 193 194 195 196 197 198 199 200

2. 可选择以下任意一种安装方式:

   (1) 进入源码的根目录,执行安装命令。

      ```bash
      cd mindinsight
      pip install -r requirements.txt
      python setup.py install
      ```
L
leonwanghui 已提交
201

L
leiyuning 已提交
202
   (2) 构建whl包进行安装。
L
leonwanghui 已提交
203

L
lvmingfu 已提交
204
      进入源码的根目录,先执行`build`目录下的MindInsight编译脚本,再执行命令安装`output`目录下生成的whl包。
L
leiyuning 已提交
205 206

      ```bash
李鸿章 已提交
207 208 209
      cd mindinsight
      bash build/build.sh
      pip install output/mindinsight-{version}-cp37-cp37m-linux_{arch}.whl
L
leiyuning 已提交
210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227
      ```

3. 执行如下命令,如果提示`web address: http://127.0.0.1:8080`,则说明安装成功。

    ```bash
    mindinsight start
    ```

# 安装MindArmour

当您进行AI模型安全研究或想要增强AI应用模型的防护能力时,可以选装MindArmour。

## 环境要求

### 系统要求和软件依赖

| 版本号 | 操作系统 | 可执行文件安装依赖 | 源码编译安装依赖 |
| ---- | :--- | :--- | :--- |
J
jonyguo 已提交
228
| MindArmour master | - Ubuntu 16.04(及以上) aarch64 <br> - Ubuntu 16.04(及以上) x86_64 <br> - EulerOS 2.8 aarch64 <br> - EulerOS 2.5 x86_64 <br> | - [Python](https://www.python.org/downloads/) 3.7.5 <br> - MindSpore master <br> - 其他依赖项参见[setup.py](https://gitee.com/mindspore/mindarmour/blob/master/setup.py) | 与可执行文件安装依赖相同 |
L
leiyuning 已提交
229

L
lvmingfu 已提交
230
- 在联网状态下,安装whl包时会自动下载`setup.py`中的依赖项,其余情况需自行安装。
L
leiyuning 已提交
231 232 233

## 安装指南

234 235 236 237 238 239 240 241 242 243 244 245 246 247
### 通过可执行文件安装

1.[MindSpore网站下载地址](https://www.mindspore.cn/versions)下载whl包,建议先进行SHA-256完整性校验,执行如下命令安装MindArmour。

   ```bash
   pip install mindarmour-{version}-cp37-cp37m-linux_{arch}.whl
   ```

2. 执行如下命令,如果没有提示`No module named 'mindarmour'`等加载错误的信息,则说明安装成功。

   ```bash
   python -c 'import mindarmour'
   ```

L
leiyuning 已提交
248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268
### 从源码编译安装

1. 从代码仓下载源码。

   ```bash
   git clone https://gitee.com/mindspore/mindarmour.git
   ```

2. 在源码根目录下,执行如下命令编译并安装MindArmour。

   ```bash
   cd mindarmour
   python setup.py install
   ```


3. 执行如下命令,如果没有提示`No module named 'mindarmour'`等加载错误的信息,则说明安装成功。

   ```bash
   python -c 'import mindarmour'
   ```