Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
Paddle-Lite
提交
8256d211
P
Paddle-Lite
项目概览
PaddlePaddle
/
Paddle-Lite
通知
338
Star
4
Fork
1
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
271
列表
看板
标记
里程碑
合并请求
78
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle-Lite
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
271
Issue
271
列表
看板
标记
里程碑
合并请求
78
合并请求
78
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
8256d211
编写于
12月 04, 2019
作者:
S
sangoly
提交者:
GitHub
12月 04, 2019
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
[Doc] add model set tailoring doc (#2559)
* [Doc] add model set tailoring doc
上级
b3c83d94
变更
2
隐藏空白更改
内联
并排
Showing
2 changed file
with
66 addition
and
0 deletion
+66
-0
_all_pages/develop/library_tailoring.md
_all_pages/develop/library_tailoring.md
+33
-0
_all_pages/v2.1.0/library_tailoring.md
_all_pages/v2.1.0/library_tailoring.md
+33
-0
未找到文件。
_all_pages/develop/library_tailoring.md
浏览文件 @
8256d211
...
...
@@ -157,4 +157,37 @@ int main(int argc, char** argv) {
注意:
`mobilenetV1_PB`
是用
`mobilenetV1`
模型转化的protobuf格式模型(不需要设置
` --record_tailoring_info =true`
,转化流程参考:
[
使用model_optimize_tool转化模型
](
../model_optimize_tool
)
)。
## 按模型集合裁剪预测库
为了方便用户使用,我们同时提供了按模型集合进行预测库裁剪的功能。用户可以提供一个模型集合,Model Optimize Tool会根据用户所指定的模型集合分析其
**优化后的**
模型所需要的算子信息对预测库进行裁剪。使用此功能用户根据自己的需要使用模型集合来对预测库中的算子进行任意裁剪。
使用方法如下所示:
```
shell
# 非combined模型集合
./model_optimize_tool
\
--model_set_dir
=
<your_model_set_dir>
\
--optimize_out_type
=
naive_buffer
\
--optimize_out
=
<output_model_set_dir>
\
--record_tailoring_info
=
true
\
--valid_targets
=
arm
# combined模型集合
./model_optimize_tool
\
--model_set_dir
=
<your_model_set_dir>
\
--optimize_out_type
=
naive_buffer
\
--model_filename
=
<model_topo_filename>
\
--param_filename
=
<model_param_filename>
\
--optimize_out
=
<output_model_set_dir>
\
--record_tailoring_info
=
true
\
--valid_targets
=
arm
```
经过以上步骤后会在
`<output_model_set_dir>`
中生成模型集合中各模型对应的NaiveBuffer格式的优化模型。此步会对模型集合中所需算子信息进行搜集并存储到
`<output_model_set_dir>`
中。下一步编译预测库的流程与使用单模型进行预测库裁剪步骤相同。
**注意:**
1.
模型集合
**必须**
均为combined参数模型或均为非combined参数模型。
2.
使用非combined参数模型时,模型拓扑文件名应为
`__model__`
,使用非combined参数模型时,集合中各模型的拓扑与参数名应相同,分别由
`--model_filename`
和
`--param_filename`
指定。
3.
模型集合
**必须**
均为INT8量化模型或均为非INT8量化模型。
4.
需要使用Paddle-Lite 最新版本(release/v2.1.0之后)代码编译出的model_optimize_tool。
\ No newline at end of file
_all_pages/v2.1.0/library_tailoring.md
浏览文件 @
8256d211
...
...
@@ -157,4 +157,37 @@ int main(int argc, char** argv) {
注意:
`mobilenetV1_PB`
是用
`mobilenetV1`
模型转化的protobuf格式模型(不需要设置
` --record_tailoring_info =true`
,转化流程参考:
[
使用model_optimize_tool转化模型
](
../model_optimize_tool
)
)。
## 按模型集合裁剪预测库
为了方便用户使用,我们同时提供了按模型集合进行预测库裁剪的功能。用户可以提供一个模型集合,Model Optimize Tool会根据用户所指定的模型集合分析其
**优化后的**
模型所需要的算子信息对预测库进行裁剪。使用此功能用户根据自己的需要使用模型集合来对预测库中的算子进行任意裁剪。
使用方法如下所示:
```
shell
# 非combined模型集合
./model_optimize_tool
\
--model_set_dir
=
<your_model_set_dir>
\
--optimize_out_type
=
naive_buffer
\
--optimize_out
=
<output_model_set_dir>
\
--record_tailoring_info
=
true
\
--valid_targets
=
arm
# combined模型集合
./model_optimize_tool
\
--model_set_dir
=
<your_model_set_dir>
\
--optimize_out_type
=
naive_buffer
\
--model_filename
=
<model_topo_filename>
\
--param_filename
=
<model_param_filename>
\
--optimize_out
=
<output_model_set_dir>
\
--record_tailoring_info
=
true
\
--valid_targets
=
arm
```
经过以上步骤后会在
`<output_model_set_dir>`
中生成模型集合中各模型对应的NaiveBuffer格式的优化模型。此步会对模型集合中所需算子信息进行搜集并存储到
`<output_model_set_dir>`
中。下一步编译预测库的流程与使用单模型进行预测库裁剪步骤相同。
**注意:**
1.
模型集合
**必须**
均为combined参数模型或均为非combined参数模型。
2.
使用非combined参数模型时,模型拓扑文件名应为
`__model__`
,使用非combined参数模型时,集合中各模型的拓扑与参数名应相同,分别由
`--model_filename`
和
`--param_filename`
指定。
3.
模型集合
**必须**
均为INT8量化模型或均为非INT8量化模型。
4.
需要使用Paddle-Lite 最新版本(release/v2.1.0之后)代码编译出的model_optimize_tool。
\ No newline at end of file
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录