Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
PaddleClas
提交
d6b4c17a
P
PaddleClas
项目概览
PaddlePaddle
/
PaddleClas
接近 2 年 前同步成功
通知
116
Star
4999
Fork
1114
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
19
列表
看板
标记
里程碑
合并请求
6
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleClas
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
19
Issue
19
列表
看板
标记
里程碑
合并请求
6
合并请求
6
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
d6b4c17a
编写于
4月 20, 2020
作者:
littletomatodonkey
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
update quick start
上级
d64000e5
变更
4
隐藏空白更改
内联
并排
Showing
4 changed file
with
10 addition
and
8 deletion
+10
-8
docs/images/quick_start/all_loss.png
docs/images/quick_start/all_loss.png
+0
-0
docs/images/quick_start/r50_vd_loss.png
docs/images/quick_start/r50_vd_loss.png
+0
-0
docs/images/quick_start/r50_vd_pretrained_loss.png
docs/images/quick_start/r50_vd_pretrained_loss.png
+0
-0
docs/zh_CN/tutorials/quick_start.md
docs/zh_CN/tutorials/quick_start.md
+10
-8
未找到文件。
docs/images/quick_start/all_loss.png
已删除
100644 → 0
浏览文件 @
d64000e5
234.1 KB
docs/images/quick_start/r50_vd_loss.png
已删除
100644 → 0
浏览文件 @
d64000e5
131.3 KB
docs/images/quick_start/r50_vd_pretrained_loss.png
已删除
100644 → 0
浏览文件 @
d64000e5
145.9 KB
docs/zh_CN/tutorials/quick_start.md
浏览文件 @
d6b4c17a
...
...
@@ -162,6 +162,12 @@ python -m paddle.distributed.launch \
最终flowers102验证集上的精度为0.9627,使用数据增广可以使得模型精度再次提升1.27
\%
。
*
如果希望体验
`3.6节`
的知识蒸馏部分,可以首先保存训练得到的ResNet50_vd预训练模型到合适的位置,作为蒸馏时教师模型的预训练模型。脚本如下所示。
```
shell
cp
-r
output/ResNet50_vd/19/ ./pretrained/flowers102_R50_vd_final/
```
### 3.6 知识蒸馏小试牛刀
*
使用flowers102数据集进行模型蒸馏,为了进一步提提升模型的精度,使用test_list.txt充当无标签数据,在这里有几点需要注意:
...
...
@@ -169,13 +175,6 @@ python -m paddle.distributed.launch \
*
即使引入了有标签的test_list.txt中的测试集图像,但是代码中没有使用标签信息,因此仍然可以视为无标签的模型蒸馏。
*
蒸馏过程中,教师模型使用的预训练模型为flowers102数据集上的训练结果,学生模型使用的是ImageNet1k数据集上精度为75.32
\%
的MobileNetV3_large_x1_0预训练模型。
*
首先需要保存之前训练得到的ResNet50_vd预训练模型到合适的位置,作教师模型的预训练。
脚本如下所示。
```
shell
cp
-r
output/ResNet50_vd/19/ ./pretrained/flowers102_R50_vd_final/
```
配置文件中数据数量、模型结构、预训练地址以及训练的数据配置如下:
...
...
@@ -198,8 +197,11 @@ python -m paddle.distributed.launch \
--selected_gpus
=
"0"
\
tools/train.py
\
-c ./configs/quick_start/R50_vd_distill_MV3_large_x1_0.yaml
```
最终flowers102验证集上的精度为0.9647,结合更多的无标签数据,使用教师模型进行知识蒸馏,MobileNetV3的精度涨幅高达6.47
\%
。
### 3.6 精度一览
*
下表给出了不同训练yaml文件对应的精度。
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录