Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
PaddleSlim
提交
cbdb5b40
P
PaddleSlim
项目概览
PaddlePaddle
/
PaddleSlim
大约 1 年 前同步成功
通知
51
Star
1434
Fork
344
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
53
列表
看板
标记
里程碑
合并请求
16
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleSlim
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
53
Issue
53
列表
看板
标记
里程碑
合并请求
16
合并请求
16
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
cbdb5b40
编写于
12月 05, 2019
作者:
S
slf12
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix details
上级
bb7a3617
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
8 addition
and
7 deletion
+8
-7
paddleslim/quant/quantization_api_doc.md
paddleslim/quant/quantization_api_doc.md
+8
-7
未找到文件。
paddleslim/quant/quantization_api_doc.md
浏览文件 @
cbdb5b40
...
...
@@ -2,7 +2,7 @@
## 量化训练API
### 量化配置
```
quant_config_default = {
'weight_quantize_type': 'abs_max',
...
...
@@ -39,9 +39,8 @@ quant_config_default = {
-
``moving_rate(int)``
:
``'moving_average_abs_max'``
量化方式的衰减系数,默认 0.9。
-
``quant_weight_only(bool)``
: 是否只量化参数,如果设为
``True``
,则激活不进行量化,默认
``False``
。目前暂不支持设置为
``True``
。 设置为
``True``
时,只量化参数,这种方式不能减少显存占用和加速,只能用来减少带宽。
```
paddleslim.quant.quant_aware(program, place, config, scope=None, for_test=False)
```
### paddleslim.quant.quant_aware(program, place, config, scope=None, for_test=False)
功能:在
``program``
中加入量化和反量化
``op``
, 用于量化训练。具体如图所示:
...
...
@@ -53,6 +52,7 @@ paddleslim.quant.quant_aware(program, place, config, scope=None, for_test=False)
*
``for_test(bool)``
: 如果
``program``
参数是一个测试
``program``
,
``for_test``
应设为
``True``
,否则设为
``False``
。
**返回值:**
含有量化和反量化
``operator``
的
``program``
*
当
``for_test=False``
,返回类型为
``fluid.CompiledProgram``
,
**注意,此返回值不能用于保存参数**
。
*
当
``for_test=True``
,返回类型为
``fluid.Program``
。
...
...
@@ -63,9 +63,10 @@ paddleslim.quant.quant_aware(program, place, config, scope=None, for_test=False)
*
由于此接口会根据
``program``
的结构和量化配置来对
``program``
添加op,所以
``Paddle``
中一些通过
``fuse op``
来加速训练的策略不能使用。已知以下策略在使用量化时必须设为
``False``
:
``fuse_all_reduce_ops, sync_batch_norm``
。
*
如果传入的
``program``
中存在和任何op都没有连接的
``Variable``
,则会在量化的过程中被优化掉。
```
paddleslim.quant.convert(program, place, config, scope=None, save_int8=False)
```
### paddleslim.quant.convert(program, place, config, scope=None, save_int8=False)
功能:把训练好的量化
``program``
,转换为可用于保存
``inference model``
的
``program``
。
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录