Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
PaddleClas
提交
f611f035
P
PaddleClas
项目概览
PaddlePaddle
/
PaddleClas
大约 1 年 前同步成功
通知
115
Star
4999
Fork
1114
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
19
列表
看板
标记
里程碑
合并请求
6
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleClas
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
19
Issue
19
列表
看板
标记
里程碑
合并请求
6
合并请求
6
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
f611f035
编写于
6月 13, 2022
作者:
C
cuicheng01
提交者:
GitHub
6月 13, 2022
浏览文件
操作
浏览文件
下载
差异文件
Merge pull request #2037 from TingquanGao/dev/fix_pulc_doc
检查文档:有车无车,车辆属性,有人无人,文本行方向
上级
e19731a3
8540b32c
变更
17
隐藏空白更改
内联
并排
Showing
17 changed file
with
53 addition
and
123 deletion
+53
-123
deploy/configs/PULC/car_exists/inference_car_exists.yaml
deploy/configs/PULC/car_exists/inference_car_exists.yaml
+1
-1
deploy/configs/PULC/car_exists/inference_person_exists.yaml
deploy/configs/PULC/car_exists/inference_person_exists.yaml
+0
-36
deploy/configs/PULC/vehicle_exists/inference_vehicle_exists.yaml
...configs/PULC/vehicle_exists/inference_vehicle_exists.yaml
+0
-36
deploy/images/PULC/vehicle_exists/objects365_00001507.jpeg
deploy/images/PULC/vehicle_exists/objects365_00001507.jpeg
+0
-0
deploy/images/PULC/vehicle_exists/objects365_00001521.jpeg
deploy/images/PULC/vehicle_exists/objects365_00001521.jpeg
+0
-0
docs/zh_CN/PULC/PULC_car_exists.md
docs/zh_CN/PULC/PULC_car_exists.md
+8
-8
docs/zh_CN/PULC/PULC_person_exists.md
docs/zh_CN/PULC/PULC_person_exists.md
+2
-2
docs/zh_CN/PULC/PULC_textline_orientation.md
docs/zh_CN/PULC/PULC_textline_orientation.md
+6
-10
docs/zh_CN/PULC/PULC_vehicle_attribute.md
docs/zh_CN/PULC/PULC_vehicle_attribute.md
+14
-14
docs/zh_CN/advanced_tutorials/ssld.md
docs/zh_CN/advanced_tutorials/ssld.md
+7
-1
paddleclas.py
paddleclas.py
+4
-4
ppcls/configs/PULC/car_exists/MobileNetV3_small_x0_35.yaml
ppcls/configs/PULC/car_exists/MobileNetV3_small_x0_35.yaml
+2
-2
ppcls/configs/PULC/car_exists/PPLCNet_x1_0.yaml
ppcls/configs/PULC/car_exists/PPLCNet_x1_0.yaml
+2
-2
ppcls/configs/PULC/car_exists/PPLCNet_x1_0_distillation.yaml
ppcls/configs/PULC/car_exists/PPLCNet_x1_0_distillation.yaml
+2
-2
ppcls/configs/PULC/car_exists/PPLCNet_x1_0_search.yaml
ppcls/configs/PULC/car_exists/PPLCNet_x1_0_search.yaml
+2
-2
ppcls/configs/PULC/car_exists/SwinTransformer_tiny_patch4_window7_224.yaml
...C/car_exists/SwinTransformer_tiny_patch4_window7_224.yaml
+2
-2
ppcls/configs/PULC/vehicle_attribute/PPLCNet_x1_0.yaml
ppcls/configs/PULC/vehicle_attribute/PPLCNet_x1_0.yaml
+1
-1
未找到文件。
deploy/configs/PULC/car_exists/inference_car_exists.yaml
浏览文件 @
f611f035
...
...
@@ -30,7 +30,7 @@ PostProcess:
main_indicator
:
ThreshOutput
ThreshOutput
:
threshold
:
0.5
label_0
:
nocar
label_0
:
no
_
car
label_1
:
contains_car
SavePreLabel
:
save_dir
:
./pre_label/
deploy/configs/PULC/car_exists/inference_person_exists.yaml
已删除
100644 → 0
浏览文件 @
e19731a3
Global
:
infer_imgs
:
"
./images/PULC/car_exists/objects365_00001507.jpeg"
inference_model_dir
:
"
./models/car_exists_infer"
batch_size
:
1
use_gpu
:
True
enable_mkldnn
:
False
cpu_num_threads
:
10
enable_benchmark
:
True
use_fp16
:
False
ir_optim
:
True
use_tensorrt
:
False
gpu_mem
:
8000
enable_profile
:
False
PreProcess
:
transform_ops
:
-
ResizeImage
:
resize_short
:
256
-
CropImage
:
size
:
224
-
NormalizeImage
:
scale
:
0.00392157
mean
:
[
0.485
,
0.456
,
0.406
]
std
:
[
0.229
,
0.224
,
0.225
]
order
:
'
'
channel_num
:
3
-
ToCHWImage
:
PostProcess
:
main_indicator
:
ThreshOutput
ThreshOutput
:
threshold
:
0.5
label_0
:
nocar
label_1
:
contains_car
SavePreLabel
:
save_dir
:
./pre_label/
deploy/configs/PULC/vehicle_exists/inference_vehicle_exists.yaml
已删除
100644 → 0
浏览文件 @
e19731a3
Global
:
infer_imgs
:
"
./images/PULC/vehicle_exists/objects365_00001507.jpeg"
inference_model_dir
:
"
./models/vehicle_exists_infer"
batch_size
:
1
use_gpu
:
True
enable_mkldnn
:
False
cpu_num_threads
:
10
enable_benchmark
:
True
use_fp16
:
False
ir_optim
:
True
use_tensorrt
:
False
gpu_mem
:
8000
enable_profile
:
False
PreProcess
:
transform_ops
:
-
ResizeImage
:
resize_short
:
256
-
CropImage
:
size
:
224
-
NormalizeImage
:
scale
:
0.00392157
mean
:
[
0.485
,
0.456
,
0.406
]
std
:
[
0.229
,
0.224
,
0.225
]
order
:
'
'
channel_num
:
3
-
ToCHWImage
:
PostProcess
:
main_indicator
:
ThreshOutput
ThreshOutput
:
threshold
:
0.5
label_0
:
no_vehicle
label_1
:
contains_vehicle
SavePreLabel
:
save_dir
:
./pre_label/
deploy/images/PULC/vehicle_exists/objects365_00001507.jpeg
已删除
100644 → 0
浏览文件 @
e19731a3
157.1 KB
deploy/images/PULC/vehicle_exists/objects365_00001521.jpeg
已删除
100644 → 0
浏览文件 @
e19731a3
178.0 KB
docs/zh_CN/PULC/PULC_car_exists.md
浏览文件 @
f611f035
# PULC 有
人/无人
分类模型
# PULC 有
车/无车
分类模型
------
...
...
@@ -40,7 +40,7 @@
## 1. 模型和应用场景介绍
该案例提供了用户使用 PaddleClas 的超轻量图像分类方案(PULC,Practical Ultra Lightweight Classification)快速构建轻量级、高精度、可落地的有
人/无人的分类模型。该模型可以广泛应用于如监控场景、人员进出管
控场景、海量数据过滤场景等。
该案例提供了用户使用 PaddleClas 的超轻量图像分类方案(PULC,Practical Ultra Lightweight Classification)快速构建轻量级、高精度、可落地的有
车/无车的分类模型。该模型可以广泛应用于如监
控场景、海量数据过滤场景等。
下表列出了判断图片中是否有车的二分类模型的相关指标,前两行展现了使用 SwinTranformer_tiny 和 MobileNetV3_small_x0_35 作为 backbone 训练得到的模型的相关指标,第三行至第六行依次展现了替换 backbone 为 PPLCNet_x1_0、使用 SSLD 预训练模型、使用 SSLD 预训练模型 + EDA 策略、使用 SSLD 预训练模型 + EDA 策略 + SKL-UGI 知识蒸馏策略训练得到的模型的相关指标。
...
...
@@ -58,7 +58,7 @@
**备注:**
*
`Tpr`
指标的介绍可以参考
[
3.
2 小节
](
#3.2
)
的备注部分,延时是基于 Intel(R) Xeon(R) Gold 6148 CPU @ 2.40GHz 测试得到,开启 MKLDNN 加速策略,线程数为10。
*
`Tpr`
指标的介绍可以参考
[
3.
3节
](
#3.3
)
的备注部分,延时是基于 Intel(R) Xeon(R) Gold 6148 CPU @ 2.40GHz 测试得到,开启 MKLDNN 加速策略,线程数为10。
*
关于PP-LCNet的介绍可以参考
[
PP-LCNet介绍
](
../models/PP-LCNet.md
)
,相关论文可以查阅
[
PP-LCNet paper
](
https://arxiv.org/abs/2109.15099
)
。
...
...
@@ -160,7 +160,7 @@ print(next(result))
-
训练集合,本案例处理了 Objects365 数据训练集的标注文件,如果某张图含有“car”的标签,且这个框的面积在整张图中的比例大于 10%,即认为该张图中含有车,如果某张图中没有任何与交通工具,例如car、bus等相关的的标签,则认为该张图中不含有车。经过处理后,得到 108629 条可用数据,其中有车的数据有 27422 条,无车的数据 81207 条。
-
验证集合,处理方法与训练集相同,数据来源
与
Objects365 数据集的验证集。为了测试结果准确,验证集经过人工校正,去除了一些可能存在标注错误的图像。
-
验证集合,处理方法与训练集相同,数据来源
于
Objects365 数据集的验证集。为了测试结果准确,验证集经过人工校正,去除了一些可能存在标注错误的图像。
*
注:由于objects365的标签并不是完全互斥的,例如F1赛车可能是 "F1 Formula",也可能被标称"car"。为了减轻干扰,我们仅保留"car"标签作为有车,而将不含任何交通工具的图作为无车。
...
...
@@ -265,7 +265,7 @@ python3 tools/infer.py \
输出结果如下:
```
[{'class_ids': [1], 'scores': [0.9871138], 'label_names': ['contains_
vehicle
'], 'filename': 'deploy/images/PULC/car_exists/objects365_00001507.jpeg'}]
[{'class_ids': [1], 'scores': [0.9871138], 'label_names': ['contains_
car
'], 'filename': 'deploy/images/PULC/car_exists/objects365_00001507.jpeg'}]
```
**备注:**
...
...
@@ -274,7 +274,7 @@ python3 tools/infer.py \
*
默认是对
`deploy/images/PULC/car_exists/objects365_00001507.jpeg`
进行预测,此处也可以通过增加字段
`-o Infer.infer_imgs=xxx`
对其他图片预测。
*
二分类默认的阈值为0.5, 如果需要指定阈值,可以重写
`Infer.PostProcess.threshold`
,如
`-o Infer.PostProcess.threshold=0.9794`
,该值需要根据实际场景来确定,此处的
`0.9794`
是在该场景中的
`val`
数据集在
千
分之一 Fpr 下得到的最佳 Tpr 所得到的。
*
二分类默认的阈值为0.5, 如果需要指定阈值,可以重写
`Infer.PostProcess.threshold`
,如
`-o Infer.PostProcess.threshold=0.9794`
,该值需要根据实际场景来确定,此处的
`0.9794`
是在该场景中的
`val`
数据集在
百
分之一 Fpr 下得到的最佳 Tpr 所得到的。
<a
name=
"4"
></a>
...
...
@@ -326,7 +326,7 @@ python3 -m paddle.distributed.launch \
## 5. 超参搜索
在
[
3.
2 节
](
#3.2
)
和
[
4.1 节
](
#4.1
)
所使用的超参数是根据 PaddleClas 提供的
`SHAS 超参数搜索策略`
搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考
[
SHAS 超参数搜索策略
](
PULC_train.md#4-超参搜索
)
来获得更好的训练超参数。
在
[
3.
3 节
](
#3.3
)
和
[
4.1 节
](
#4.1
)
所使用的超参数是根据 PaddleClas 提供的
`SHAS 超参数搜索策略`
搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考
[
SHAS 超参数搜索策略
](
PULC_train.md#4-超参搜索
)
来获得更好的训练超参数。
**备注:**
此部分内容是可选内容,搜索过程需要较长的时间,您可以根据自己的硬件情况来选择执行。如果没有更换数据集,可以忽略此节内容。
...
...
@@ -417,7 +417,7 @@ objects365_00001507.jpeg: class id(s): [1], score(s): [0.99], label_name(s
```
**备注:**
二分类默认的阈值为0.5, 如果需要指定阈值,可以重写
`Infer.PostProcess.threshold`
,如
`-o Infer.PostProcess.threshold=0.9794`
,该值需要根据实际场景来确定,此处的
`0.9794`
是在该场景中的
`val`
数据集在
千
分之一 Fpr 下得到的最佳 Tpr 所得到的。该阈值的确定方法可以参考
[
3.3节
](
#3.3
)
备注部分。
**备注:**
二分类默认的阈值为0.5, 如果需要指定阈值,可以重写
`Infer.PostProcess.threshold`
,如
`-o Infer.PostProcess.threshold=0.9794`
,该值需要根据实际场景来确定,此处的
`0.9794`
是在该场景中的
`val`
数据集在
百
分之一 Fpr 下得到的最佳 Tpr 所得到的。该阈值的确定方法可以参考
[
3.3节
](
#3.3
)
备注部分。
<a
name=
"6.2.2"
></a>
...
...
docs/zh_CN/PULC/PULC_person_exists.md
浏览文件 @
f611f035
...
...
@@ -261,7 +261,7 @@ python3 tools/eval.py \
```
python
python3
tools
/
infer
.
py
\
-
c
.
/
ppcls
/
configs
/
PULC
/
person_exists
/
PPLCNet_x1_0
.
yaml
\
-
o
Global
.
pretrained_model
=
output
/
PPLCNet_x1_0
/
best_model
-
o
Global
.
pretrained_model
=
output
/
PPLCNet_x1_0
/
best_model
```
输出结果如下:
...
...
@@ -328,7 +328,7 @@ python3 -m paddle.distributed.launch \
## 5. 超参搜索
在
[
3.
2 节
](
#3.2
)
和
[
4.1 节
](
#4.1
)
所使用的超参数是根据 PaddleClas 提供的
`SHAS 超参数搜索策略`
搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考
[
SHAS 超参数搜索策略
](
PULC_train.md#4-超参搜索
)
来获得更好的训练超参数。
在
[
3.
3 节
](
#3.3
)
和
[
4.1 节
](
#4.1
)
所使用的超参数是根据 PaddleClas 提供的
`SHAS 超参数搜索策略`
搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考
[
SHAS 超参数搜索策略
](
PULC_train.md#4-超参搜索
)
来获得更好的训练超参数。
**备注:**
此部分内容是可选内容,搜索过程需要较长的时间,您可以根据自己的硬件情况来选择执行。如果没有更换数据集,可以忽略此节内容。
...
...
docs/zh_CN/PULC/PULC_textline_orientation.md
浏览文件 @
f611f035
...
...
@@ -55,11 +55,11 @@
|
<b>
PPLCNet_x1_0
**
<b>
|
<b>
96.01
<b>
|
<b>
2.72
<b>
|
<b>
6.5
<b>
| 使用 SSLD 预训练模型+EDA 策略|
| PPLCNet_x1_0
**
| 95.86 | 2.72 | 6.5 | 使用 SSLD 预训练模型+EDA 策略+SKL-UGI 知识蒸馏策略|
从表中可以看出,backbone 为 SwinTranformer_tiny 时精度较高,但是推理速度较慢。将 backboone 替换为轻量级模型 MobileNetV3_small_x0_35 后,速度可以大幅提升,精度下降也比较明显。将 backbone 替换为 PPLCNet_x1_0 时,精度较 MobileNetV3_small_x0_35 高 8.6 个百分点,速度快10%左右。在此基础上,更改分辨率和stride, 速度变慢 27%,但是精度可以提升 4.5
%(采用
[
PaddleOCR
](
https://github.com/PaddlePaddle/PaddleOCR
)
的方案),使用 SSLD 预训练模型后,精度可以继续提升约 0.05%
,进一步地,当融合EDA策略后,精度可以再提升 1.9 个百分点。最后,融合SKL-UGI 知识蒸馏策略后,在该场景无效。关于 PULC 的训练方法和推理部署方法将在下面详细介绍。
从表中可以看出,backbone 为 SwinTranformer_tiny 时精度较高,但是推理速度较慢。将 backboone 替换为轻量级模型 MobileNetV3_small_x0_35 后,速度可以大幅提升,精度下降也比较明显。将 backbone 替换为 PPLCNet_x1_0 时,精度较 MobileNetV3_small_x0_35 高 8.6 个百分点,速度快10%左右。在此基础上,更改分辨率和stride, 速度变慢 27%,但是精度可以提升 4.5
个百分点(采用
[
PaddleOCR
](
https://github.com/PaddlePaddle/PaddleOCR
)
的方案),使用 SSLD 预训练模型后,精度可以继续提升约 0.05 个百分点
,进一步地,当融合EDA策略后,精度可以再提升 1.9 个百分点。最后,融合SKL-UGI 知识蒸馏策略后,在该场景无效。关于 PULC 的训练方法和推理部署方法将在下面详细介绍。
**备注:**
*
其中不带
\*
的模型表示分辨率为224x224,带
\*
的模型表示分辨率为48x192(h
*w),数据增强从网络中的 stride 改为 `[2, [2, 1], [2, 1], [2, 1], [2, 1]]`,其中,外层列表中的每一个元素代表网络结构下采样层的stride,该策略为 [PaddleOCR](https://github.com/PaddlePaddle/PaddleOCR) 提供的文本行方向分类器方案。带\*\*的模型表示分辨率为80x160(h*
w), 网络中的 stride 改为
`[2, [2, 1], [2, 1], [2, 1], [2, 1]]`
,其中,外层列表中的每一个元素代表网络结构下采样层的stride,此分辨率是经过
[
SHAS 超参数搜索策略
](
#TODO
)
搜索得到的。
*
其中不带
\*
的模型表示分辨率为224x224,带
\*
的模型表示分辨率为48x192(h
\*
w),数据增强从网络中的 stride 改为
`[2, [2, 1], [2, 1], [2, 1], [2, 1]]`
,其中,外层列表中的每一个元素代表网络结构下采样层的stride,该策略为
[
PaddleOCR
](
https://github.com/PaddlePaddle/PaddleOCR
)
提供的文本行方向分类器方案。带
\*\*
的模型表示分辨率为80x160(h
\*
w), 网络中的 stride 改为
`[2, [2, 1], [2, 1], [2, 1], [2, 1]]`
,其中,外层列表中的每一个元素代表网络结构下采样层的stride,此分辨率是经过
[
SHAS 超参数搜索策略
](
PULC_train.md#4-超参搜索
)
搜索得到的。
*
延时是基于 Intel(R) Xeon(R) Gold 6148 CPU @ 2.40GHz 测试得到,开启 MKLDNN 加速策略,线程数为10。
*
关于PP-LCNet的介绍可以参考
[
PP-LCNet介绍
](
../models/PP-LCNet.md
)
,相关论文可以查阅
[
PP-LCNet paper
](
https://arxiv.org/abs/2109.15099
)
。
...
...
@@ -116,7 +116,6 @@ Predict complete!
**备注**
: 更换其他预测的数据时,只需要改变
`--infer_imgs=xx`
中的字段即可,支持传入整个文件夹。
*
在 Python 代码中预测
```
python
import
paddleclas
...
...
@@ -140,7 +139,7 @@ print(next(result))
### 3.1 环境配置
*
安装:请先参考
[
Paddle 安装教程
](
../installation/install_paddle.md
)
以及
[
PaddleClas 安装教程
](
../installation/install_paddleclas.md
)
配置 PaddleClas 运行环境。
*
安装:请先参考
文档
[
环境准备
](
../installation/install_paddleclas.md
)
配置 PaddleClas 运行环境。
<a
name=
"3.2"
></a>
...
...
@@ -168,17 +167,15 @@ print(next(result))
![](
../../images/PULC/docs/textline_orientation_data_demo.png
)
此处提供了经过上述方法处理好的数据,可以直接下载得到。
进入 PaddleClas 目录。
```
cd path_to_PaddleClas
```
进入
`dataset/`
目录,下载并解压
有人/无人
场景的数据。
进入
`dataset/`
目录,下载并解压
文本行方向分类
场景的数据。
```
shell
cd
dataset
...
...
@@ -190,7 +187,6 @@ cd ../
执行上述命令后,
`dataset/`
下存在
`textline_orientation`
目录,该目录中具有以下数据:
```
├── 0
│ ├── img_0.jpg
│ ├── img_1.jpg
...
...
@@ -253,7 +249,7 @@ python3 tools/eval.py \
```
python
python3
tools
/
infer
.
py
\
-
c
.
/
ppcls
/
configs
/
PULC
/
textline_orientation
/
PPLCNet_x1_0
.
yaml
\
-
o
Global
.
pretrained_model
=
output
/
PPLCNet_x1_0
/
best_model
\
-
o
Global
.
pretrained_model
=
output
/
PPLCNet_x1_0
/
best_model
```
输出结果如下:
...
...
@@ -318,7 +314,7 @@ python3 -m paddle.distributed.launch \
## 5. 超参搜索
在
[
3.
2 节
](
#3.2
)
和
[
4.1 节
](
#4.1
)
所使用的超参数是根据 PaddleClas 提供的
`SHAS 超参数搜索策略`
搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考
[
SHAS 超参数搜索策略
](
PULC_train.md#4-超参搜索
)
来获得更好的训练超参数。
在
[
3.
3 节
](
#3.3
)
和
[
4.1 节
](
#4.1
)
所使用的超参数是根据 PaddleClas 提供的
`SHAS 超参数搜索策略`
搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考
[
SHAS 超参数搜索策略
](
PULC_train.md#4-超参搜索
)
来获得更好的训练超参数。
**备注:**
此部分内容是可选内容,搜索过程需要较长的时间,您可以根据自己的硬件情况来选择执行。
...
...
docs/zh_CN/PULC/PULC_vehicle_attribute.md
浏览文件 @
f611f035
...
...
@@ -55,7 +55,7 @@
| PPLCNet_x1_0 | 90.59 | 2.36 | 7.2 | 使用SSLD预训练模型+EDA策略|
|
<b>
PPLCNet_x1_0
<b>
|
<b>
90.81
<b>
|
<b>
2.36
<b>
|
<b>
8.2
<b>
| 使用SSLD预训练模型+EDA策略+SKL-UGI知识蒸馏策略|
从表中可以看出,backbone 为 Res2Net200_vd_26w_4s 时精度较高,但是推理速度较慢。将 backbone 替换为轻量级模型 MobileNetV3_small_x0_35 后,速度可以大幅提升,但是精度下降明显。将 backbone 替换为 PPLCNet_x1_0 时,精度提升 2
.16%,同时速度也提升 23% 左右。在此基础上,使用 SSLD 预训练模型后,在不改变推理速度的前提下,精度可以提升约 0.5%,进一步地,当融合EDA策略后,精度可以再提升 0.52%,最后,在使用 SKL-UGI 知识蒸馏后,精度可以继续提升 0.23%。此时,PPLCNet_x1_0 的精度与 Res2Net200_vd_26w_4s 仅相差0.55%,但是速度快32
倍。关于 PULC 的训练方法和推理部署方法将在下面详细介绍。
从表中可以看出,backbone 为 Res2Net200_vd_26w_4s 时精度较高,但是推理速度较慢。将 backbone 替换为轻量级模型 MobileNetV3_small_x0_35 后,速度可以大幅提升,但是精度下降明显。将 backbone 替换为 PPLCNet_x1_0 时,精度提升 2
个百分点,同时速度也提升 23% 左右。在此基础上,使用 SSLD 预训练模型后,在不改变推理速度的前提下,精度可以提升约 0.5 个百分点,进一步地,当融合EDA策略后,精度可以再提升 0.52 个百分点,最后,在使用 SKL-UGI 知识蒸馏后,精度可以继续提升 0.23 个百分点。此时,PPLCNet_x1_0 的精度与 Res2Net200_vd_26w_4s 仅相差 0.55 个百分点,但是速度快 32
倍。关于 PULC 的训练方法和推理部署方法将在下面详细介绍。
**备注:**
...
...
@@ -67,9 +67,9 @@
## 2. 模型快速体验
<a
name=
"2.1"
></a>
### 2.1 安装 paddlepaddle
-
您的机器安装的是 CUDA9 或 CUDA10,请运行以下命令安装
```
bash
...
...
@@ -81,23 +81,23 @@ python3 -m pip install paddlepaddle-gpu -i https://mirror.baidu.com/pypi/simple
```
bash
python3
-m
pip
install
paddlepaddle
-i
https://mirror.baidu.com/pypi/simple
```
更多的版本需求,请参照
[
飞桨官网安装文档
](
https://www.paddlepaddle.org.cn/install/quick
)
中的说明进行操作。
<a
name=
"2.2"
></a>
### 2.2 安装 paddleclas
使用如下命令快速安装 paddleclas
```
pip3 install paddleclas
```
```
<a
name=
"2.3"
></a>
### 2.3 预测
点击
[
这里
](
https://paddleclas.bj.bcebos.com/data/PULC/pulc_demo_imgs.zip
)
下载 demo 数据并解压,然后在终端中切换到相应目录。
*
使用命令行快速预测
...
...
@@ -337,7 +337,7 @@ python3 -m paddle.distributed.launch \
## 5. 超参搜索
在
[
3.
2 节
](
#3.2
)
和
[
4.1 节
](
#4.1
)
所使用的超参数是根据 PaddleClas 提供的
`SHAS 超参数搜索策略`
搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考
[
SHAS 超参数搜索策略
](
PULC_train.md#4-超参搜索
)
来获得更好的训练超参数。
在
[
3.
3 节
](
#3.3
)
和
[
4.1 节
](
#4.1
)
所使用的超参数是根据 PaddleClas 提供的
`SHAS 超参数搜索策略`
搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考
[
SHAS 超参数搜索策略
](
PULC_train.md#4-超参搜索
)
来获得更好的训练超参数。
**备注:**
此部分内容是可选内容,搜索过程需要较长的时间,您可以根据自己的硬件情况来选择执行。如果没有更换数据集,可以忽略此节内容。
...
...
@@ -368,10 +368,10 @@ python3 tools/export_model.py \
执行完该脚本后会在
`deploy/models/`
下生成
`PPLCNet_x1_0_vehicle_attributeibute_infer`
文件夹,
`models`
文件夹下应有如下文件结构:
```
├
── PPLCNet_x1_0_vehicle_attribute_infer
│
├── inference.pdiparams
│
├── inference.pdiparams.info
│
└── inference.pdmodel
└
── PPLCNet_x1_0_vehicle_attribute_infer
├── inference.pdiparams
├── inference.pdiparams.info
└── inference.pdmodel
```
**备注:**
此处的最佳权重是经过知识蒸馏后的权重路径,如果没有执行知识蒸馏的步骤,最佳模型保存在
`output/PPLCNet_x1_0/best_model.pdparams`
中。
...
...
docs/zh_CN/advanced_tutorials/ssld.md
浏览文件 @
f611f035
...
...
@@ -6,7 +6,7 @@
-
[
1. 算法介绍
](
#1
)
-
[
1.1 知识蒸馏简介
](
#1.1
)
-
[
1.2 SSLD蒸馏策略
](
#1.2
)
-
[
1.
2
SKL-UGI蒸馏策略
](
#1.3
)
-
[
1.
3
SKL-UGI蒸馏策略
](
#1.3
)
-
[
2. SSLD预训练模型库
](
#2
)
-
[
3. SSLD使用
](
#3
)
-
[
3.1 加载SSLD模型进行微调
](
#3.1
)
...
...
@@ -19,6 +19,8 @@
## 1. 算法介绍
<a
name=
"1.1"
></a>
### 1.1 简介
PaddleClas 融合已有的知识蒸馏方法 [2,3],提供了一种简单的半监督标签知识蒸馏方案(SSLD,Simple Semi-supervised Label Distillation),基于 ImageNet1k 分类数据集,在 ResNet_vd 以及 MobileNet 系列上的精度均有超过 3% 的绝对精度提升,具体指标如下图所示。
...
...
@@ -27,6 +29,8 @@ PaddleClas 融合已有的知识蒸馏方法 [2,3],提供了一种简单的半
<img
src=
"../../images/distillation/distillation_perform_s.jpg"
width =
"800"
/>
</div>
<a
name=
"1.2"
></a>
### 1.2 SSLD蒸馏策略
SSLD 的流程图如下图所示。
...
...
@@ -72,6 +76,8 @@ SSLD 蒸馏方案的一大特色就是无需使用图像的真值标签,因此
<a
name=
"1.3"
></a>
## 1.3 SKL-UGI蒸馏策略
此外,在无标注数据选择的过程中,我们发现使用更加通用的数据,即使不需要严格的数据筛选过程,也可以帮助知识蒸馏任务获得稳定的精度提升,因而提出了SKL-UGI (Symmetrical-KL Unlabeled General Images distillation)知识蒸馏方案。
通用数据可以使用ImageNet数据或者与场景相似的数据集。更多关于SKL-UGI的应用,请参考:
[
超轻量图像分类方案PULC使用教程
](
../PULC/PULC_train.md
)
。
...
...
paddleclas.py
浏览文件 @
f611f035
...
...
@@ -175,11 +175,11 @@ IMN_MODEL_SERIES = {
]
}
PULC_MODEL_BASE_DOWNLOAD_URL
=
"https://paddleclas.bj.bcebos.com/models/PULC/{}_infer.tar"
PULC_MODEL_BASE_DOWNLOAD_URL
=
"https://paddleclas.bj.bcebos.com/models/PULC/
inference/
{}_infer.tar"
PULC_MODELS
=
[
"
person_exists"
,
"person_attribute"
,
"safety_helmet"
,
"traffic_sign
"
,
"
vehicle_exists"
,
"vehicle_attribute"
,
"textlin
e_orientation"
,
"text
_image_orientation"
,
"language_classification
"
"
car_exists"
,
"language_classification"
,
"person_attribute
"
,
"
person_exists"
,
"safety_helmet"
,
"text_imag
e_orientation"
,
"text
line_orientation"
,
"traffic_sign"
,
"vehicle_attribute
"
]
...
...
ppcls/configs/PULC/car_exists/MobileNetV3_small_x0_35.yaml
浏览文件 @
f611f035
...
...
@@ -125,8 +125,8 @@ Infer:
PostProcess
:
name
:
ThreshOutput
threshold
:
0.5
label_0
:
no
body
label_1
:
someone
label_0
:
no
_car
label_1
:
contains_car
Metric
:
Train
:
...
...
ppcls/configs/PULC/car_exists/PPLCNet_x1_0.yaml
浏览文件 @
f611f035
...
...
@@ -138,8 +138,8 @@ Infer:
PostProcess
:
name
:
ThreshOutput
threshold
:
0.9
label_0
:
no
body
label_1
:
someone
label_0
:
no
_car
label_1
:
contains_car
Metric
:
Train
:
...
...
ppcls/configs/PULC/car_exists/PPLCNet_x1_0_distillation.yaml
浏览文件 @
f611f035
...
...
@@ -154,8 +154,8 @@ Infer:
PostProcess
:
name
:
ThreshOutput
threshold
:
0.5
label_0
:
no
body
label_1
:
someone
label_0
:
no
_car
label_1
:
contains_car
Metric
:
Train
:
...
...
ppcls/configs/PULC/car_exists/PPLCNet_x1_0_search.yaml
浏览文件 @
f611f035
...
...
@@ -138,8 +138,8 @@ Infer:
PostProcess
:
name
:
ThreshOutput
threshold
:
0.5
label_0
:
no
body
label_1
:
someone
label_0
:
no
_car
label_1
:
contains_car
Metric
:
Train
:
...
...
ppcls/configs/PULC/car_exists/SwinTransformer_tiny_patch4_window7_224.yaml
浏览文件 @
f611f035
...
...
@@ -155,8 +155,8 @@ Infer:
PostProcess
:
name
:
ThreshOutput
threshold
:
0.5
label_0
:
no
body
label_1
:
someone
label_0
:
no
_car
label_1
:
contains_car
Metric
:
Train
:
...
...
ppcls/configs/PULC/vehicle_attribute/PPLCNet_x1_0.yaml
浏览文件 @
f611f035
...
...
@@ -123,7 +123,7 @@ DataLoader:
use_shared_memory
:
True
Infer
:
infer_imgs
:
./deploy/images/PULC/vehicle_attr/0002_c002_00030670_0.jpg
infer_imgs
:
./deploy/images/PULC/vehicle_attr
ibute
/0002_c002_00030670_0.jpg
batch_size
:
10
transforms
:
-
DecodeImage
:
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录