recognition.md 13.3 KB
Newer Older
T
tink2123 已提交
1 2
## 文字识别

W
WenmuZhou 已提交
3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21

- [一、数据准备](#数据准备)
    - [数据下载](#数据下载)
    - [自定义数据集](#自定义数据集)  
    - [字典](#字典)  
    - [支持空格](#支持空格)

- [二、启动训练](#文本检测模型推理)
    - [1. 数据增强](#数据增强)
    - [2. 训练](#训练)
    - [3. 小语种](#小语种)

- [三、评估](#评估)

- [四、预测](#预测)
    - [1. 训练引擎预测](#训练引擎预测)


<a name="数据准备"></a>
T
tink2123 已提交
22 23 24
### 数据准备


T
tink2123 已提交
25
PaddleOCR 支持两种数据格式: `lmdb` 用于训练公开数据,调试算法; `通用数据` 训练自己的数据:
T
tink2123 已提交
26 27

请按如下步骤设置数据集:
T
tink2123 已提交
28 29 30 31

训练数据的默认存储路径是 `PaddleOCR/train_data`,如果您的磁盘上已有数据集,只需创建软链接至数据集目录:

```
32
ln -sf <path/to/dataset> <path/to/paddle_ocr>/train_data/dataset
T
tink2123 已提交
33 34
```

W
WenmuZhou 已提交
35
<a name="数据下载"></a>
T
tink2123 已提交
36 37
* 数据下载

T
tink2123 已提交
38
若您本地没有数据集,可以在官网下载 [icdar2015](http://rrc.cvc.uab.es/?ch=4&com=downloads) 数据,用于快速验证。也可以参考[DTRB](https://github.com/clovaai/deep-text-recognition-benchmark#download-lmdb-dataset-for-traininig-and-evaluation-from-here),下载 benchmark 所需的lmdb格式数据集。
T
tink2123 已提交
39

W
WenmuZhou 已提交
40 41
<a name="自定义数据集"></a>
* 使用自己数据集
T
tink2123 已提交
42 43

若您希望使用自己的数据进行训练,请参考下文组织您的数据。
W
WenmuZhou 已提交
44

T
tink2123 已提交
45 46 47 48
- 训练集

首先请将训练图片放入同一个文件夹(train_images),并用一个txt文件(rec_gt_train.txt)记录图片路径和标签。

M
MissPenguin 已提交
49
**注意:** 默认请将图片路径和图片标签用 \t 分割,如用其他方式分割将造成训练报错
T
tink2123 已提交
50 51 52 53 54 55 56

```
" 图像文件名                 图像标注信息 "

train_data/train_0001.jpg   简单可依赖
train_data/train_0002.jpg   用科技让复杂的世界更简单
```
T
fix doc  
tink2123 已提交
57 58 59 60 61 62
PaddleOCR 提供了一份用于训练 icdar2015 数据集的标签文件,通过以下方式下载:

```
# 训练集标签
wget -P ./train_data/ic15_data  https://paddleocr.bj.bcebos.com/dataset/rec_gt_train.txt
# 测试集标签
T
tink2123 已提交
63
wget -P ./train_data/ic15_data  https://paddleocr.bj.bcebos.com/dataset/rec_gt_test.txt
T
fix doc  
tink2123 已提交
64
```
T
tink2123 已提交
65

T
tink2123 已提交
66
PaddleOCR 也提供了数据格式转换脚本,可以将官网 label 转换支持的数据格式。 数据转换工具在 `ppocr/utils/gen_label.py`, 这里以训练集为例:
W
WenmuZhou 已提交
67 68 69 70 71 72

```
# 将官网下载的标签文件转换为 rec_gt_label.txt
python gen_label.py --mode="rec" --input_path="{path/of/origin/label}" --output_label="rec_gt_label.txt"
```

T
tink2123 已提交
73
最终训练集应有如下文件结构:
T
tink2123 已提交
74
```
T
tink2123 已提交
75
|-train_data
T
tink2123 已提交
76 77
    |-ic15_data
        |- rec_gt_train.txt
T
fix doc  
tink2123 已提交
78 79 80 81
        |- train
            |- word_001.png
            |- word_002.jpg
            |- word_003.jpg
T
tink2123 已提交
82
            | ...
T
tink2123 已提交
83
```
T
tink2123 已提交
84

T
fix doc  
tink2123 已提交
85
- 测试集
T
tink2123 已提交
86

T
fix doc  
tink2123 已提交
87
同训练集类似,测试集也需要提供一个包含所有图片的文件夹(test)和一个rec_gt_test.txt,测试集的结构如下所示:
T
tink2123 已提交
88

T
tink2123 已提交
89
```
T
tink2123 已提交
90
|-train_data
T
tink2123 已提交
91
    |-ic15_data
T
fix doc  
tink2123 已提交
92 93 94 95 96
        |- rec_gt_test.txt
        |- test
            |- word_001.jpg
            |- word_002.jpg
            |- word_003.jpg
T
tink2123 已提交
97
            | ...
T
tink2123 已提交
98
```
W
WenmuZhou 已提交
99
<a name="字典"></a>
T
tink2123 已提交
100 101 102 103
- 字典

最后需要提供一个字典({word_dict_name}.txt),使模型在训练时,可以将所有出现的字符映射为字典的索引。

T
tink2123 已提交
104
因此字典需要包含所有希望被正确识别的字符,{word_dict_name}.txt需要写成如下格式,并以 `utf-8` 编码格式保存:
T
tink2123 已提交
105

T
tink2123 已提交
106 107
```
l
T
tink2123 已提交
108 109
d
a
T
tink2123 已提交
110 111
d
r
T
tink2123 已提交
112
n
T
tink2123 已提交
113
```
T
tink2123 已提交
114 115 116

word_dict.txt 每行有一个单字,将字符与数字索引映射在一起,“and” 将被映射成 [2 5 1]

T
tink2123 已提交
117
`ppocr/utils/ppocr_keys_v1.txt` 是一个包含6623个字符的中文字典
W
WenmuZhou 已提交
118

T
tink2123 已提交
119
`ppocr/utils/ic15_dict.txt` 是一个包含36个字符的英文字典
W
WenmuZhou 已提交
120 121 122 123 124 125 126 127 128

`ppocr/utils/dict/french_dict.txt` 是一个包含118个字符的法文字典

`ppocr/utils/dict/japan_dict.txt` 是一个包含4399个字符的法文字典

`ppocr/utils/dict/korean_dict.txt` 是一个包含3636个字符的法文字典

`ppocr/utils/dict/german_dict.txt` 是一个包含131个字符的法文字典

T
tink2123 已提交
129 130
`ppocr/utils/dict/en_dict.txt` 是一个包含63个字符的英文字典

W
WenmuZhou 已提交
131

T
fix doc  
tink2123 已提交
132
您可以按需使用。
T
tink2123 已提交
133

W
WenmuZhou 已提交
134 135 136
目前的多语言模型仍处在demo阶段,会持续优化模型并补充语种,**非常欢迎您为我们提供其他语言的字典和字体**
如您愿意可将字典文件提交至 [dict](../../ppocr/utils/dict) 将语料文件提交至[corpus](../../ppocr/utils/corpus),我们会在Repo中感谢您。

T
tink2123 已提交
137
- 自定义字典
T
tink2123 已提交
138

T
tink2123 已提交
139 140 141
如需自定义dic文件,请在 `configs/rec/rec_icdar15_train.yml` 中添加 `character_dict_path` 字段, 指向您的字典路径。
并将 `character_type` 设置为 `ch`

W
WenmuZhou 已提交
142
<a name="支持空格"></a>
T
tink2123 已提交
143 144
- 添加空格类别

145
如果希望支持识别"空格"类别, 请将yml文件中的 `use_space_char` 字段设置为 `True`
T
tink2123 已提交
146

T
tink2123 已提交
147

W
WenmuZhou 已提交
148
<a name="启动训练"></a>
T
tink2123 已提交
149 150
### 启动训练

T
tink2123 已提交
151
PaddleOCR提供了训练脚本、评估脚本和预测脚本,本节将以 CRNN 识别模型为例:
T
tink2123 已提交
152

T
tink2123 已提交
153
首先下载pretrain model,您可以下载训练好的模型在 icdar2015 数据上进行finetune
T
tink2123 已提交
154 155

```
T
tink2123 已提交
156 157
cd PaddleOCR/
# 下载MobileNetV3的预训练模型
T
tink2123 已提交
158
wget -P ./pretrain_models/ https://paddleocr.bj.bcebos.com/dygraph_v2.0/en/rec_mv3_none_bilstm_ctc_v2.0_infer.tar
T
tink2123 已提交
159 160
# 解压模型参数
cd pretrain_models
T
tink2123 已提交
161
tar -xf rec_mv3_none_bilstm_ctc_v2.0_infer.tar && rm -rf rec_mv3_none_bilstm_ctc_v2.0_infer.tar
T
tink2123 已提交
162 163 164 165
```

开始训练:

T
tink2123 已提交
166 167
*如果您安装的是cpu版本,请将配置文件中的 `use_gpu` 字段修改为false*

T
tink2123 已提交
168
```
169
# GPU训练 支持单卡,多卡训练,通过--gpus参数指定卡号
W
WenmuZhou 已提交
170
# 训练icdar15英文数据 并将训练日志保存为 tain_rec.log
171
python3 -m paddle.distributed.launch --gpus '0,1,2,3'  tools/train.py -c configs/rec/rec_icdar15_train.yml
T
tink2123 已提交
172
```
W
WenmuZhou 已提交
173
<a name="数据增强"></a>
T
tink2123 已提交
174 175 176 177 178 179 180 181
- 数据增强

PaddleOCR提供了多种数据增强方式,如果您希望在训练时加入扰动,请在配置文件中设置 `distort: true`

默认的扰动方式有:颜色空间转换(cvtColor)、模糊(blur)、抖动(jitter)、噪声(Gasuss noise)、随机切割(random crop)、透视(perspective)、颜色反转(reverse)。

训练过程中每种扰动方式以50%的概率被选择,具体代码实现请参考:[img_tools.py](https://github.com/PaddlePaddle/PaddleOCR/blob/develop/ppocr/data/rec/img_tools.py)

W
WenmuZhou 已提交
182
*由于OpenCV的兼容性问题,扰动操作暂时只支持Linux*
T
tink2123 已提交
183

W
WenmuZhou 已提交
184
<a name="训练"></a>
T
tink2123 已提交
185 186
- 训练

T
tink2123 已提交
187
PaddleOCR支持训练和评估交替进行, 可以在 `configs/rec/rec_icdar15_train.yml` 中修改 `eval_batch_step` 设置评估频率,默认每500个iter评估一次。评估过程中默认将最佳acc模型,保存为 `output/rec_CRNN/best_accuracy`
T
tink2123 已提交
188 189 190

如果验证集很大,测试将会比较耗时,建议减少评估次数,或训练完再进行评估。

M
MissPenguin 已提交
191
**提示:** 可通过 -c 参数选择 `configs/rec/` 路径下的多种模型配置进行训练,PaddleOCR支持的识别算法有:
T
tink2123 已提交
192 193 194 195


| 配置文件 |  算法名称 |   backbone |   trans   |   seq      |     pred     |
| :--------: |  :-------:   | :-------:  |   :-------:   |   :-----:   |  :-----:   |
196 197
| [rec_chinese_lite_train_v2.0.yml](../../configs/rec/ch_ppocr_v2.0/rec_chinese_lite_train_v2.0.yml) |  CRNN |   Mobilenet_v3 small 0.5 |  None   |  BiLSTM |  ctc  |
| [rec_chinese_common_train_v2.0.yml](../../configs/rec/ch_ppocr_v2.0/rec_chinese_common_train_v2.0.yml) |  CRNN | ResNet34_vd |  None   |  BiLSTM |  ctc  |
T
tink2123 已提交
198
| rec_chinese_lite_train.yml |  CRNN |   Mobilenet_v3 small 0.5 |  None   |  BiLSTM |  ctc  |
W
WenmuZhou 已提交
199
| rec_chinese_common_train.yml |  CRNN |   ResNet34_vd |  None   |  BiLSTM |  ctc  |
T
tink2123 已提交
200 201 202 203 204 205 206 207 208
| rec_icdar15_train.yml |  CRNN |   Mobilenet_v3 large 0.5 |  None   |  BiLSTM |  ctc  |
| rec_mv3_none_bilstm_ctc.yml |  CRNN |   Mobilenet_v3 large 0.5 |  None   |  BiLSTM |  ctc  |
| rec_mv3_none_none_ctc.yml |  Rosetta |   Mobilenet_v3 large 0.5 |  None   |  None |  ctc  |
| rec_mv3_tps_bilstm_ctc.yml |  STARNet |   Mobilenet_v3 large 0.5 |  tps   |  BiLSTM |  ctc  |
| rec_mv3_tps_bilstm_attn.yml |  RARE |   Mobilenet_v3 large 0.5 |  tps   |  BiLSTM |  attention  |
| rec_r34_vd_none_bilstm_ctc.yml |  CRNN |   Resnet34_vd |  None   |  BiLSTM |  ctc  |
| rec_r34_vd_none_none_ctc.yml |  Rosetta |   Resnet34_vd |  None   |  None |  ctc  |
| rec_r34_vd_tps_bilstm_ctc.yml | STARNet | Resnet34_vd | tps | BiLSTM | ctc |

209
训练中文数据,推荐使用[rec_chinese_lite_train_v2.0.yml](../../configs/rec/ch_ppocr_v2.0/rec_chinese_lite_train_v2.0.yml),如您希望尝试其他算法在中文数据集上的效果,请参考下列说明修改配置文件:
T
tink2123 已提交
210

211
`rec_chinese_lite_train_v2.0.yml` 为例:
T
tink2123 已提交
212 213 214
```
Global:
  ...
215 216
  # 添加自定义字典,如修改字典请将路径指向新字典
  character_dict_path: ppocr/utils/ppocr_keys_v1.txt
T
tink2123 已提交
217 218 219
  # 修改字符类型
  character_type: ch
  ...
220
  # 识别空格
221
  use_space_char: True
T
tink2123 已提交
222

223 224 225 226

Optimizer:
  ...
  # 添加学习率衰减策略
227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271
  lr:
    name: Cosine
    learning_rate: 0.001
  ...

...

Train:
  dataset:
    # 数据集格式,支持LMDBDateSet以及SimpleDataSet
    name: SimpleDataSet
    # 数据集路径
    data_dir: ./train_data/
    # 训练集标签文件
    label_file_list: ["./train_data/train_list.txt"]
    transforms:
      ...
      - RecResizeImg:
          # 修改 image_shape 以适应长文本
          image_shape: [3, 32, 320]
      ...
  loader:
    ...
    # 单卡训练的batch_size
    batch_size_per_card: 256
    ...

Eval:
  dataset:
    # 数据集格式,支持LMDBDateSet以及SimpleDataSet
    name: SimpleDataSet
    # 数据集路径
    data_dir: ./train_data
    # 验证集标签文件
    label_file_list: ["./train_data/val_list.txt"]
    transforms:
      ...
      - RecResizeImg:
          # 修改 image_shape 以适应长文本
          image_shape: [3, 32, 320]
      ...
  loader:
    # 单卡验证的batch_size
    batch_size_per_card: 256
    ...
T
tink2123 已提交
272
```
T
tink2123 已提交
273
**注意,预测/评估时的配置文件请务必与训练一致。**
T
tink2123 已提交
274

W
WenmuZhou 已提交
275 276 277 278
<a name="小语种"></a>
- 小语种

PaddleOCR也提供了多语言的, `configs/rec/multi_languages` 路径下的提供了多语言的配置文件,目前PaddleOCR支持的多语言算法有:
T
tink2123 已提交
279

W
WenmuZhou 已提交
280 281 282 283 284 285 286
| 配置文件 |  算法名称 |   backbone |   trans   |   seq      |     pred     |  language |
| :--------: |  :-------:   | :-------:  |   :-------:   |   :-----:   |  :-----:   | :-----:  |
| rec_en_lite_train.yml |  CRNN |   Mobilenet_v3 small 0.5 |  None   |  BiLSTM |  ctc  | 英语   |
| rec_french_lite_train.yml |  CRNN |   Mobilenet_v3 small 0.5 |  None   |  BiLSTM |  ctc  | 法语 |  
| rec_ger_lite_train.yml |  CRNN |   Mobilenet_v3 small 0.5 |  None   |  BiLSTM |  ctc  | 德语   |
| rec_japan_lite_train.yml |  CRNN |   Mobilenet_v3 small 0.5 |  None   |  BiLSTM |  ctc  | 日语  |
| rec_korean_lite_train.yml |  CRNN |   Mobilenet_v3 small 0.5 |  None   |  BiLSTM |  ctc  | 韩语  |
T
tink2123 已提交
287

W
WenmuZhou 已提交
288 289 290 291 292 293 294 295 296 297 298 299

多语言模型训练方式与中文模型一致,训练数据集均为100w的合成数据,少量的字体可以在 [百度网盘](https://pan.baidu.com/s/1bS_u207Rm7YbY33wOECKDA) 上下载,提取码:frgi。

如您希望在现有模型效果的基础上调优,请参考下列说明修改配置文件:

`rec_french_lite_train` 为例:
```
Global:
  ...
  # 添加自定义字典,如修改字典请将路径指向新字典
  character_dict_path: ./ppocr/utils/dict/french_dict.txt
  ...
300
  # 识别空格
301
  use_space_char: True
W
WenmuZhou 已提交
302 303

...
304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323

Train:
  dataset:
    # 数据集格式,支持LMDBDateSet以及SimpleDataSet
    name: SimpleDataSet
    # 数据集路径
    data_dir: ./train_data/
    # 训练集标签文件
    label_file_list: ["./train_data/french_train.txt"]
    ...

Eval:
  dataset:
    # 数据集格式,支持LMDBDateSet以及SimpleDataSet
    name: SimpleDataSet
    # 数据集路径
    data_dir: ./train_data
    # 验证集标签文件
    label_file_list: ["./train_data/french_val.txt"]
    ...
W
WenmuZhou 已提交
324 325
```
<a name="评估"></a>
T
tink2123 已提交
326 327
### 评估

328
评估数据集可以通过 `configs/rec/rec_icdar15_train.yml`  修改Eval中的 `label_file_path` 设置。
T
tink2123 已提交
329

T
tink2123 已提交
330
*注意* 评估时必须确保配置文件中 infer_img 字段为空
T
tink2123 已提交
331
```
T
tink2123 已提交
332
# GPU 评估, Global.checkpoints 为待测权重
333
python3 -m paddle.distributed.launch --gpus '0' tools/eval.py -c configs/rec/rec_icdar15_train.yml -o Global.checkpoints={path/to/weights}/best_accuracy
T
tink2123 已提交
334 335
```

W
WenmuZhou 已提交
336
<a name="预测"></a>
T
tink2123 已提交
337
### 预测
T
tink2123 已提交
338

W
WenmuZhou 已提交
339
<a name="训练引擎预测"></a>
T
tink2123 已提交
340 341
* 训练引擎的预测

T
tink2123 已提交
342
使用 PaddleOCR 训练好的模型,可以通过以下脚本进行快速预测。
T
tink2123 已提交
343

T
tink2123 已提交
344
默认预测图片存储在 `infer_img` 里,通过 `-o Global.checkpoints` 指定权重:
T
tink2123 已提交
345 346

```
T
tink2123 已提交
347
# 预测英文结果
T
tink2123 已提交
348
python3 tools/infer_rec.py -c configs/rec/rec_icdar15_train.yml -o Global.checkpoints={path/to/weights}/best_accuracy Global.infer_img=doc/imgs_words/en/word_1.png
T
tink2123 已提交
349
```
T
tink2123 已提交
350 351 352

预测图片:

353
![](../imgs_words/en/word_1.png)
T
tink2123 已提交
354 355 356 357

得到输入图像的预测结果:

```
T
tink2123 已提交
358
infer_img: doc/imgs_words/en/word_1.png
T
tink2123 已提交
359 360 361 362
     index: [19 24 18 23 29]
     word : joint
```

363
预测使用的配置文件必须与训练一致,如您通过 `python3 tools/train.py -c configs/rec/ch_ppocr_v2.0/rec_chinese_lite_train_v2.0.yml` 完成了中文模型的训练,
T
tink2123 已提交
364 365 366 367
您可以使用如下命令进行中文模型预测。

```
# 预测中文结果
368
python3 tools/infer_rec.py -c configs/rec/ch_ppocr_v2.0/rec_chinese_lite_train_v2.0.yml -o Global.checkpoints={path/to/weights}/best_accuracy Global.infer_img=doc/imgs_words/ch/word_1.jpg
T
tink2123 已提交
369 370
```

T
tink2123 已提交
371
预测图片:
T
tink2123 已提交
372

373
![](../imgs_words/ch/word_1.jpg)
X
xiaoting 已提交
374

T
tink2123 已提交
375 376 377
得到输入图像的预测结果:

```
T
tink2123 已提交
378
infer_img: doc/imgs_words/ch/word_1.jpg
T
tink2123 已提交
379 380
     index: [2092  177  312 2503]
     word : 韩国小馆
T
tink2123 已提交
381
```