getting_started.md 12.9 KB
Newer Older
W
WuHaobo 已提交
1 2
# 开始使用
---
T
Tingquan Gao 已提交
3
请参考[安装指南](./install.md)配置运行环境,并根据[快速开始](./quick_start.md)文档准备flower102数据集,本章节下面所有的实验均以flower102数据集为例。
W
WuHaobo 已提交
4

G
gaotingquan 已提交
5 6 7 8 9
PaddleClas目前支持的训练/评估环境如下:
```shell
└── CPU/单卡GPU
    ├── Linux
    └── Windows
W
WuHaobo 已提交
10

G
gaotingquan 已提交
11 12 13 14 15 16 17
└── 多卡GPU
    └── Linux
```

## 1. 基于CPU/单卡GPU上的训练与评估

在基于CPU/单卡GPU上训练与评估,推荐使用`tools/train.py``tools/eval.py`脚本。关于Linux平台多卡GPU环境下的训练与评估,请参考[2. 基于Linux+GPU的模型训练与评估](#2)
18

G
gaotingquan 已提交
19
<a name="1.1"></a>
20 21 22 23 24
### 1.1 模型训练

准备好配置文件之后,可以使用下面的方式启动训练。

```
G
gaotingquan 已提交
25 26 27
python tools/train.py \
    -c configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
    -o pretrained_model="" \
28 29 30
    -o use_gpu=True
```

G
gaotingquan 已提交
31
其中,`-c`用于指定配置文件的路径,`-o`用于指定需要修改或者添加的参数,其中`-o pretrained_model=""`表示不使用预训练模型,`-o use_gpu=True`表示使用GPU进行训练。如果希望使用CPU进行训练,则需要将`use_gpu`设置为`False`
32

G
gaotingquan 已提交
33
更详细的训练配置,也可以直接修改模型对应的配置文件。具体配置参数参考[配置文档](config.md)
34

G
gaotingquan 已提交
35
运行上述命令,可以看到输出日志,示例如下:
36

G
gaotingquan 已提交
37
* 如果在训练中使用了mixup或者cutmix的数据增广方式,那么日志中将不会打印top-1与top-k(默认为5)信息:
38
    ```
G
gaotingquan 已提交
39 40 41 42 43
    ...
    epoch:0  , train step:20   , loss: 4.53660, lr: 0.003750, batch_cost: 1.23101 s, reader_cost: 0.74311 s, ips: 25.99489 images/sec, eta: 0:12:43
    ...
    END epoch:1   valid top1: 0.01569, top5: 0.06863, loss: 4.61747,  batch_cost: 0.26155 s, reader_cost: 0.16952 s, batch_cost_sum: 10.72348 s, ips: 76.46772 images/sec.
    ...
44 45
    ```

G
gaotingquan 已提交
46
* 如果训练过程中没有使用mixup或者cutmix的数据增广,那么除了上述信息外,日志中也会打印出top-1与top-k(默认为5)的信息:
47 48

    ```
G
gaotingquan 已提交
49 50 51 52 53
    ...
    epoch:0  , train step:30  , top1: 0.06250, top5: 0.09375, loss: 4.62766, lr: 0.003728, batch_cost: 0.64089 s, reader_cost: 0.18857 s, ips: 49.93080 images/sec, eta: 0:06:18
    ...
    END epoch:0   train top1: 0.01310, top5: 0.04738, loss: 4.65124,  batch_cost: 0.64089 s, reader_cost: 0.18857 s, batch_cost_sum: 13.45863 s, ips: 49.93080 images/sec.
    ...
54 55
    ```

T
Tingquan Gao 已提交
56
训练期间也可以通过VisualDL实时观察loss变化,详见[VisualDL](../extension/VisualDL.md)
W
WuHaobo 已提交
57

58
### 1.2 模型微调
W
WuHaobo 已提交
59

G
gaotingquan 已提交
60
根据自己的数据集路径设置好配置文件后,可以通过加载预训练模型的方式进行微调,如下所示。
61 62

```
G
gaotingquan 已提交
63 64 65 66
python tools/train.py \
    -c configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
    -o pretrained_model="./pretrained/MobileNetV3_large_x1_0_pretrained" \
    -o use_gpu=True
67 68
```

G
gaotingquan 已提交
69 70 71
其中`-o pretrained_model`用于设置加载预训练模型权重文件的地址,使用时需要换成自己的预训练模型权重文件的路径,也可以直接在配置文件中修改该路径。

我们也提供了大量基于`ImageNet-1k`数据集的预训练模型,模型列表及下载地址详见[模型库概览](../models/models_intro.md)
72

G
gaotingquan 已提交
73
<a name="1.3"></a>
74 75
### 1.3 模型恢复训练

G
gaotingquan 已提交
76
如果训练任务因为其他原因被终止,也可以加载断点权重文件,继续训练:
77 78

```
G
gaotingquan 已提交
79 80
python tools/train.py \
    -c configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
T
Tingquan Gao 已提交
81
    -o checkpoints="./output/MobileNetV3_large_x1_0/5/ppcls" \
G
gaotingquan 已提交
82 83
    -o last_epoch=5 \
    -o use_gpu=True
84 85
```

G
gaotingquan 已提交
86 87 88
其中配置文件不需要做任何修改,只需要在继续训练时设置`checkpoints`参数即可,表示加载的断点权重文件路径,使用该参数会同时加载保存的断点权重和学习率、优化器等信息。

**注意**
littletomatodonkey's avatar
littletomatodonkey 已提交
89
* 参数`-o last_epoch=5`表示将上一次训练轮次数记为`5`,即本次训练轮次数从`6`开始计算,该值默认为-1,表示本次训练轮次数从`0`开始计算。
G
gaotingquan 已提交
90

T
Tingquan Gao 已提交
91
* `-o checkpoints`参数无需包含断点权重文件的后缀名,上述训练命令会在训练过程中生成如下所示的断点权重文件,若想从断点`5`继续训练,则`checkpoints`参数只需设置为`"./output/MobileNetV3_large_x1_0_gpupaddle/5/ppcls"`,PaddleClas会自动补充后缀名。
G
gaotingquan 已提交
92 93 94 95 96 97 98 99 100 101 102 103 104
    ```shell
    output/
    └── MobileNetV3_large_x1_0
        ├── 0
        │   ├── ppcls.pdopt
        │   └── ppcls.pdparams
        ├── 1
        │   ├── ppcls.pdopt
        │   └── ppcls.pdparams
        .
        .
        .
    ```
105

G
gaotingquan 已提交
106
<a name="1.4"></a>
107 108
### 1.4 模型评估

G
gaotingquan 已提交
109
可以通过以下命令进行模型评估。
110 111

```bash
G
gaotingquan 已提交
112
python tools/eval.py \
T
Tingquan Gao 已提交
113 114 115
    -c ./configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
    -o pretrained_model="./output/MobileNetV3_large_x1_0/best_model/ppcls"\
    -o load_static_weights=False
116 117
```

T
Tingquan Gao 已提交
118
上述命令将使用`./configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml`作为配置文件,对上述训练得到的模型`./output/MobileNetV3_large_x1_0/best_model/ppcls`进行评估。你也可以通过更改配置文件中的参数来设置评估,也可以通过`-o`参数更新配置,如上所示。
119

T
Tingquan Gao 已提交
120 121 122 123 124 125
可配置的部分评估参数说明如下:
* `ARCHITECTURE.name`:模型名称
* `pretrained_model`:待评估的模型文件路径
* `load_static_weights`:待评估模型是否为静态图模型

**注意:** 如果模型为动态图模型,则在加载待评估模型时,需要指定模型文件的路径,但无需包含文件后缀名,PaddleClas会自动补齐`.pdparams`的后缀,如[1.3 模型恢复训练](#1.3)
126

G
gaotingquan 已提交
127
<a name="2"></a>
128 129
## 2. 基于Linux+GPU的模型训练与评估

G
gaotingquan 已提交
130
如果机器环境为Linux+GPU,那么推荐使用`paddle.distributed.launch`启动模型训练脚本(`tools/train.py`)、评估脚本(`tools/eval.py`),可以更方便地启动多卡训练与评估。
W
WuHaobo 已提交
131 132

### 2.1 模型训练
littletomatodonkey's avatar
littletomatodonkey 已提交
133

L
littletomatodonkey 已提交
134
参考如下方式启动模型训练,`paddle.distributed.launch`通过设置`gpus`指定GPU运行卡号:
W
wangshipeng01 已提交
135

W
WuHaobo 已提交
136 137
```bash
# PaddleClas通过launch方式启动多卡多进程训练
G
gaotingquan 已提交
138 139

export CUDA_VISIBLE_DEVICES=0,1,2,3
W
WuHaobo 已提交
140 141

python -m paddle.distributed.launch \
L
littletomatodonkey 已提交
142
    --gpus="0,1,2,3" \
W
WuHaobo 已提交
143
    tools/train.py \
G
gaotingquan 已提交
144
        -c ./configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml
W
WuHaobo 已提交
145 146
```

G
gaotingquan 已提交
147
其中,`-c`用于指定配置文件的路径,可通过配置文件修改相关训练配置信息,也可以通过添加`-o`参数来更新配置:
W
WuHaobo 已提交
148 149 150

```bash
python -m paddle.distributed.launch \
L
littletomatodonkey 已提交
151
    --gpus="0,1,2,3" \
W
WuHaobo 已提交
152
    tools/train.py \
G
gaotingquan 已提交
153 154 155
        -c ./configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
        -o pretrained_model="" \
        -o use_gpu=True
W
WuHaobo 已提交
156
```
G
gaotingquan 已提交
157
`-o`用于指定需要修改或者添加的参数,其中`-o pretrained_model=""`表示不使用预训练模型,`-o use_gpu=True`表示使用GPU进行训练。
W
WuHaobo 已提交
158

G
gaotingquan 已提交
159
输出日志信息的格式同上,详见[1.1 模型训练](#1.1)
160 161 162

### 2.2 模型微调

G
gaotingquan 已提交
163
根据自己的数据集配置好配置文件之后,可以加载预训练模型进行微调,如下所示。
W
WuHaobo 已提交
164 165

```
G
gaotingquan 已提交
166 167
export CUDA_VISIBLE_DEVICES=0,1,2,3

168
python -m paddle.distributed.launch \
L
littletomatodonkey 已提交
169
    --gpus="0,1,2,3" \
170
    tools/train.py \
G
gaotingquan 已提交
171
        -c ./configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
T
Tingquan Gao 已提交
172
        -o pretrained_model="./pretrained/MobileNetV3_large_x1_0_pretrained"
W
WuHaobo 已提交
173 174
```

G
gaotingquan 已提交
175
其中`pretrained_model`用于设置加载预训练权重文件的路径,使用时需要换成自己的预训练模型权重文件路径,也可以直接在配置文件中修改该路径。
W
fix  
wangshipeng01 已提交
176

G
gaotingquan 已提交
177
[30分钟玩转PaddleClas教程](./quick_start.md)中包含大量模型微调的示例,可以参考该章节在特定的数据集上进行模型微调。
S
shippingwang 已提交
178

179

L
littletomatodonkey 已提交
180
<a name="model_resume"></a>
181 182
### 2.3 模型恢复训练

G
gaotingquan 已提交
183
如果训练任务因为其他原因被终止,也可以加载断点权重文件继续训练。
S
shippingwang 已提交
184 185

```
G
gaotingquan 已提交
186 187
export CUDA_VISIBLE_DEVICES=0,1,2,3

188
python -m paddle.distributed.launch \
L
littletomatodonkey 已提交
189
    --gpus="0,1,2,3" \
190
    tools/train.py \
G
gaotingquan 已提交
191
        -c ./configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
T
Tingquan Gao 已提交
192
        -o checkpoints="./output/MobileNetV3_large_x1_0/5/ppcls" \
G
gaotingquan 已提交
193 194
        -o last_epoch=5 \
        -o use_gpu=True
195
```
S
shippingwang 已提交
196

G
gaotingquan 已提交
197
其中配置文件不需要做任何修改,只需要在训练时设置`checkpoints`参数与`last_epoch`参数即可,该参数表示加载的断点权重文件路径,使用该参数会同时加载保存的模型参数权重和学习率、优化器等信息,详见[1.3 模型恢复训练](#1.3)
W
fix  
wangshipeng01 已提交
198 199


200
### 2.4 模型评估
W
fix  
wangshipeng01 已提交
201

G
gaotingquan 已提交
202
可以通过以下命令进行模型评估。
W
WuHaobo 已提交
203 204

```bash
T
Tingquan Gao 已提交
205 206 207 208
python tools/eval.py \
    -c ./configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
    -o pretrained_model="./output/MobileNetV3_large_x1_0/best_model/ppcls"\
    -o load_static_weights=False
W
WuHaobo 已提交
209
```
210

G
gaotingquan 已提交
211
参数说明详见[1.4 模型评估](#1.4)
S
fix  
shippingwang 已提交
212

littletomatodonkey's avatar
littletomatodonkey 已提交
213

L
littletomatodonkey 已提交
214
<a name="model_infer"></a>
littletomatodonkey's avatar
littletomatodonkey 已提交
215
## 3. 使用预训练模型进行模型预测
S
fix  
shippingwang 已提交
216

littletomatodonkey's avatar
littletomatodonkey 已提交
217 218 219 220
模型训练完成之后,可以加载训练得到的预训练模型,进行模型预测。在模型库的 `tools/infer/infer.py` 中提供了完整的示例,只需执行下述命令即可完成模型预测:

```python
python tools/infer/infer.py \
T
Tingquan Gao 已提交
221
    -i 待预测的图片文件路径 \
222
    --model MobileNetV3_large_x1_0 \
T
Tingquan Gao 已提交
223 224 225
    --pretrained_model "./output/MobileNetV3_large_x1_0/best_model/ppcls" \
    --use_gpu True \
    --load_static_weights False
littletomatodonkey's avatar
littletomatodonkey 已提交
226 227 228 229
```

参数说明:
+ `image_file`(简写 i):待预测的图片文件路径或者批量预测时的图片文件夹,如 `./test.jpeg`
230
+ `model`:模型名称,如 `MobileNetV3_large_x1_0`
T
Tingquan Gao 已提交
231
+ `pretrained_model`:模型权重文件路径,如 `./output/MobileNetV3_large_x1_0/best_model/ppcls`
littletomatodonkey's avatar
littletomatodonkey 已提交
232
+ `use_gpu` : 是否开启GPU训练,默认值:`True`
T
Tingquan Gao 已提交
233
+ `load_static_weights` : 模型权重文件是否为静态图训练得到的,默认值:`False`
T
Tingquan Gao 已提交
234 235
+ `resize_short`: 对输入图像进行等比例缩放,表示最短边的尺寸,默认值:`256`
+ `resize`: 对`resize_short`操作后的进行居中裁剪,表示裁剪的尺寸,默认值:`224`
L
littletomatodonkey 已提交
236 237
+ `pre_label_image` : 是否对图像数据进行预标注,默认值:`False`
+ `pre_label_out_idr` : 预标注图像数据的输出文件夹,当`pre_label_image=True`时,会在该文件夹下面生成很多个子文件夹,每个文件夹名称为类别id,其中存储模型预测属于该类别的所有图像。
littletomatodonkey's avatar
littletomatodonkey 已提交
238

T
Tingquan Gao 已提交
239 240
**注意**: 如果使用`Transformer`系列模型,如`DeiT_***_384`, `ViT_***_384`等,请注意模型的输入数据尺寸,需要设置参数`resize_short=384`, `reize=384`

littletomatodonkey's avatar
littletomatodonkey 已提交
241

L
littletomatodonkey 已提交
242
<a name="model_inference"></a>
L
littletomatodonkey 已提交
243
## 4. 使用inference模型进行模型推理
littletomatodonkey's avatar
littletomatodonkey 已提交
244 245

通过导出inference模型,PaddlePaddle支持使用预测引擎进行预测推理。接下来介绍如何用预测引擎进行推理:
C
cuicheng01 已提交
246
首先,对训练好的模型进行转换:
littletomatodonkey's avatar
littletomatodonkey 已提交
247

S
shippingwang 已提交
248 249
```bash
python tools/export_model.py \
T
Tingquan Gao 已提交
250 251
    --model MobileNetV3_large_x1_0 \
    --pretrained_model ./output/MobileNetV3_large_x1_0/best_model/ppcls \
L
littletomatodonkey 已提交
252 253
    --output_path ./inference \
    --class_dim 1000
G
gaotingquan 已提交
254 255
```

L
littletomatodonkey 已提交
256
其中,参数`--model`用于指定模型名称,`--pretrained_model`用于指定模型文件路径,该路径仍无需包含模型文件后缀名(如[1.3 模型恢复训练](#1.3)),`--output_path`用于指定转换后模型的存储路径,`class_dim`表示模型所包含的类别数,默认为1000。
S
fix  
shippingwang 已提交
257

258
**注意**
L
littletomatodonkey 已提交
259
1. `--output_path`表示输出的inference模型文件夹路径,若`--output_path=./inference`,则会在`inference`文件夹下生成`inference.pdiparams``inference.pdmodel``inference.pdiparams.info`文件。
260
2. 可以通过设置参数`--img_size`指定模型输入图像的`shape`,默认为`224`,表示图像尺寸为`224*224`,请根据实际情况修改。
G
gaotingquan 已提交
261

L
littletomatodonkey 已提交
262
上述命令将生成模型结构文件(`inference.pdmodel`)和模型权重文件(`inference.pdiparams`),然后可以使用预测引擎进行推理:
G
gaotingquan 已提交
263

S
fix  
shippingwang 已提交
264
```bash
W
WuHaobo 已提交
265
python tools/infer/predict.py \
T
Tingquan Gao 已提交
266
    --image_file 图片路径 \
L
littletomatodonkey 已提交
267 268
    --model_file "./inference/inference.pdmodel" \
    --params_file "./inference/inference.pdiparams" \
G
gaotingquan 已提交
269
    --use_gpu=True \
270
    --use_tensorrt=False
S
fix  
shippingwang 已提交
271
```
G
gaotingquan 已提交
272
其中:
T
Tingquan Gao 已提交
273
+ `image_file`:待预测的图片文件路径,如 `./test.jpeg`
L
littletomatodonkey 已提交
274 275
+ `model_file`:模型结构文件路径,如 `./inference/inference.pdmodel`
+ `params_file`:模型权重文件路径,如 `./inference/inference.pdiparams`
G
gaotingquan 已提交
276
+ `use_tensorrt`:是否使用 TesorRT 预测引擎,默认值:`True`
T
Tingquan Gao 已提交
277 278
+ `use_gpu`:是否使用 GPU 预测,默认值:`True`
+ `enable_mkldnn`:是否启用`MKL-DNN`加速,默认为`False`。注意`enable_mkldnn``use_gpu`同时为`True`时,将忽略`enable_mkldnn`,而使用GPU运行。
T
Tingquan Gao 已提交
279 280 281 282
+ `resize_short`: 对输入图像进行等比例缩放,表示最短边的尺寸,默认值:`256`
+ `resize`: 对`resize_short`操作后的进行居中裁剪,表示裁剪的尺寸,默认值:`224`

**注意**: 如果使用`Transformer`系列模型,如`DeiT_***_384`, `ViT_***_384`等,请注意模型的输入数据尺寸,需要设置参数`resize_short=384`, `reize=384`
G
gaotingquan 已提交
283

littletomatodonkey's avatar
littletomatodonkey 已提交
284
* 如果你希望评测模型速度,建议使用该脚本(`tools/infer/predict.py`),同时开启TensorRT加速预测。