Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
PaddleClas
提交
22636b2e
P
PaddleClas
项目概览
PaddlePaddle
/
PaddleClas
接近 2 年 前同步成功
通知
116
Star
4999
Fork
1114
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
19
列表
看板
标记
里程碑
合并请求
6
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleClas
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
19
Issue
19
列表
看板
标记
里程碑
合并请求
6
合并请求
6
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
22636b2e
编写于
9月 21, 2022
作者:
W
Walter
提交者:
GitHub
9月 21, 2022
浏览文件
操作
浏览文件
下载
差异文件
Merge pull request #2332 from TingquanGao/2.5/docs
[cherry-pick] fix invalid links
上级
0ebfefca
141f2caf
变更
7
隐藏空白更改
内联
并排
Showing
7 changed file
with
7 addition
and
7 deletion
+7
-7
deploy/lite_shitu/README.md
deploy/lite_shitu/README.md
+1
-1
deploy/paddleserving/README.md
deploy/paddleserving/README.md
+1
-0
deploy/paddleserving/readme.md
deploy/paddleserving/readme.md
+0
-1
deploy/paddleserving/recognition/README.md
deploy/paddleserving/recognition/README.md
+1
-0
deploy/paddleserving/recognition/readme.md
deploy/paddleserving/recognition/readme.md
+0
-1
deploy/shitu_index_manager/README.md
deploy/shitu_index_manager/README.md
+1
-1
docs/zh_CN/training/advanced/ssld.md
docs/zh_CN/training/advanced/ssld.md
+3
-3
未找到文件。
deploy/lite_shitu/README.md
浏览文件 @
22636b2e
../../docs/zh_CN/inference_deployment/lite_shitu.md
\ No newline at end of file
../../docs/zh_CN/deployment/PP-ShiTu/paddle_lite.md
\ No newline at end of file
deploy/paddleserving/README.md
0 → 120000
浏览文件 @
22636b2e
../../docs/zh_CN/deployment/image_classification/paddle_serving.md
\ No newline at end of file
deploy/paddleserving/readme.md
已删除
120000 → 0
浏览文件 @
0ebfefca
../../docs/zh_CN/inference_deployment/classification_serving_deploy.md
\ No newline at end of file
deploy/paddleserving/recognition/README.md
0 → 120000
浏览文件 @
22636b2e
../../../docs/zh_CN/deployment/PP-ShiTu/paddle_serving.md
\ No newline at end of file
deploy/paddleserving/recognition/readme.md
已删除
120000 → 0
浏览文件 @
0ebfefca
../../../docs/zh_CN/inference_deployment/recognition_serving_deploy.md
\ No newline at end of file
deploy/shitu_index_manager/README.md
浏览文件 @
22636b2e
../../docs/zh_CN/inference_deployment/shitu_gallery_manager.md
\ No newline at end of file
../../docs/zh_CN/deployment/PP-ShiTu/gallery_manager.md
\ No newline at end of file
docs/zh_CN/training/advanced/ssld.md
浏览文件 @
22636b2e
...
...
@@ -26,7 +26,7 @@
PaddleClas 融合已有的知识蒸馏方法 [2,3],提供了一种简单的半监督标签知识蒸馏方案(SSLD,Simple Semi-supervised Label Distillation),基于 ImageNet1k 分类数据集,在 ResNet_vd 以及 MobileNet 系列上的精度均有超过 3% 的绝对精度提升,具体指标如下图所示。
<div
align=
"center"
>
<img
src=
"../../images/distillation/distillation_perform_s.jpg"
width =
"800"
/>
<img
src=
"../../
../
images/distillation/distillation_perform_s.jpg"
width =
"800"
/>
</div>
<a
name=
"1.2"
></a>
...
...
@@ -36,7 +36,7 @@ PaddleClas 融合已有的知识蒸馏方法 [2,3],提供了一种简单的半
SSLD 的流程图如下图所示。
<div
align=
"center"
>
<img
src=
"../../images/distillation/ppcls_distillation.png"
width =
"800"
/>
<img
src=
"../../
../
images/distillation/ppcls_distillation.png"
width =
"800"
/>
</div>
首先,我们从 ImageNet22k 中挖掘出了近 400 万张图片,同时与 ImageNet-1k 训练集整合在一起,得到了一个新的包含 500 万张图片的数据集。然后,我们将学生模型与教师模型组合成一个新的网络,该网络分别输出学生模型和教师模型的预测分布,与此同时,固定教师模型整个网络的梯度,而学生模型可以做正常的反向传播。最后,我们将两个模型的 logits 经过 softmax 激活函数转换为 soft label,并将二者的 soft label 做 JS 散度作为损失函数,用于蒸馏模型训练。
...
...
@@ -64,7 +64,7 @@ SSLD 蒸馏方案的一大特色就是无需使用图像的真值标签,因此
(1)训练集去重。我们首先基于 SIFT 特征相似度匹配的方式对 ImageNet22k 数据集与 ImageNet1k 验证集进行去重,防止添加的 ImageNet22k 训练集中包含 ImageNet1k 验证集图像,最终去除了 4511 张相似图片。部分过滤的相似图片如下所示。
<div
align=
"center"
>
<img
src=
"../../images/distillation/22k_1k_val_compare_w_sift.png"
width =
"600"
/>
<img
src=
"../../
../
images/distillation/22k_1k_val_compare_w_sift.png"
width =
"600"
/>
</div>
(2)大数据集 soft label 获取,对于去重后的 ImageNet22k 数据集,我们使用
`ResNeXt101_32x16d_wsl`
模型进行预测,得到每张图片的 soft label 。
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录