Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
PLSC
提交
cd692521
P
PLSC
项目概览
PaddlePaddle
/
PLSC
通知
10
Star
3
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
5
列表
看板
标记
里程碑
合并请求
4
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PLSC
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
5
Issue
5
列表
看板
标记
里程碑
合并请求
4
合并请求
4
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
cd692521
编写于
12月 27, 2019
作者:
D
danleifeng
提交者:
lilong12
12月 27, 2019
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
add mixed precision doc (#17)
* add fp16 doc
上级
533c2392
变更
2
隐藏空白更改
内联
并排
Showing
2 changed file
with
35 addition
and
0 deletion
+35
-0
README.md
README.md
+1
-0
docs/mixed_precision.md
docs/mixed_precision.md
+34
-0
未找到文件。
README.md
浏览文件 @
cd692521
...
...
@@ -113,3 +113,4 @@ softmax的计算公示如下图所示:
*
[
分布式参数转换
](
docs/distributed_params.md
)
*
[
Base64格式图像预处理
](
docs/base64_preprocessor.md
)
*
[
混合精度训练
](
docs/mixed_precision.md
)
docs/mixed_precision.md
0 → 100644
浏览文件 @
cd692521
# 混合精度训练
## 简介
PLSC支持混合精度训练。使用混合精度训练可以提升训练的速度,同时减少训练使用的显存开销。
## 使用方法
可以通过下面的代码设置开启混合精度训练:
```
python
from
plsc
import
Entry
def
main
():
ins
=
Entry
()
ins
.
set_mixed_precision
(
True
,
1.0
)
ins
.
train
()
if
__name__
==
"__main__"
:
main
()
```
其中,
`set_mixed_precision`
函数介绍如下:
| API | 描述 | 参数说明 |
| :------------------- | :--------------------| :---------------------- |
| set_mixed_precision(use_fp16, loss_scaling) | 设置混合精度训练 |
`use_fp16`
为是否开启混合精度训练,默认为False;
`loss_scaling`
为初始的损失缩放值,默认为1.0|
-
`use_fp16`
:bool类型,当想要开启混合精度训练时,可将此参数设为True即可。
-
`loss_scaling`
:float类型,为初始的损失缩放值,这个值有可能会影响混合精度训练的精度,建议设为默认值1.0。
为了提高混合精度训练的稳定性和精度,默认开启了动态损失缩放机制。更多关于混合精度训练的介绍可参考:
[
混合精度训练
](
https://arxiv.org/abs/1710.03740
)
## 训练性能
配置: Nvidia Tesla v100 GPU 单机8卡
| 模型
\速
度 | FP32训练 | 混合精度训练 | 加速比 |
| --- | --- | --- | --- |
| ResNet50 | 2567.96 images/s | 3643.11 images/s | 1.42 |
备注:上述模型训练使用的loss_type均为'dist_arcface'。
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录