Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
PaddleX
提交
3dd9f89c
P
PaddleX
项目概览
PaddlePaddle
/
PaddleX
通知
138
Star
4
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
43
列表
看板
标记
里程碑
合并请求
5
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleX
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
43
Issue
43
列表
看板
标记
里程碑
合并请求
5
合并请求
5
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
提交
3dd9f89c
编写于
5月 20, 2020
作者:
J
jiangjiajun
浏览文件
操作
浏览文件
下载
差异文件
Merge branch 'develop' of
https://github.com/PaddlePaddle/PaddleX
into develop
上级
a8b8a674
d8bdd734
变更
3
显示空白变更内容
内联
并排
Showing
3 changed file
with
20 addition
and
18 deletion
+20
-18
deploy/README.md
deploy/README.md
+5
-4
docs/tutorials/deploy/deploy_openvino.md
docs/tutorials/deploy/deploy_openvino.md
+14
-13
docs/tutorials/deploy/deploy_server/encryption.md
docs/tutorials/deploy/deploy_server/encryption.md
+1
-1
未找到文件。
deploy/README.md
浏览文件 @
3dd9f89c
#
模型
部署
#
多端安全
部署
本目录为PaddleX模型部署代码
, 编译和使用的
教程参考:
本目录为PaddleX模型部署代码
,编译和使用
教程参考:
-
[
C++部署文档
](
../docs/tutorials/deploy/deploy.md#C部署
)
-
[
OpenVINO部署文档
](
../docs/tutorials/deploy/deploy.md#openvino部署
)
-
[
服务端部署(支持Python部署、C++部署、模型加密部署)
](
../docs/tutorials/deploy/deploy_server/
)
-
[
OpenVINO部署
](
../docs/tutorials/deploy/deploy_openvino.md
)
-
[
移动端部署
](
../docs/tutorials/deploy/deploy_lite.md
)
docs/tutorials/deploy/deploy_openvino.md
浏览文件 @
3dd9f89c
# OpenVINO部署
## 方案简介
OpenVINO部署方案位于目录
`deploy/openvino/`
下,且独立于PaddleX其他模块,该方案目前支持在
**Linux**
完成编译和部署运行。
OpenVINO部署方案位于目录
`
PaddleX/
deploy/openvino/`
下,且独立于PaddleX其他模块,该方案目前支持在
**Linux**
完成编译和部署运行。
PaddleX到OpenVINO的部署流程如下:
>
>
PaddleX --> ONNX --> OpenVINO IR --> OpenVINO Inference Engine
> PaddleX --> ONNX --> OpenVINO IR --> OpenVINO Inference Engine
|目前支持OpenVINO部署的PaddleX模型|
|-----|
...
...
@@ -16,7 +16,7 @@ PaddleX到OpenVINO的部署流程如下:
|ResNet50_vd|
|ResNet101_vd|
|ResNet50_vd_ssld|
|ResNet101_vd_ssld
|ResNet101_vd_ssld
|
|DarkNet53|
|MobileNetV1|
|MobileNetV2|
...
...
@@ -25,9 +25,11 @@ PaddleX到OpenVINO的部署流程如下:
|DenseNet201|
## 部署流程
### 说明
本文档在
`Ubuntu`
使用
`GCC 4.8.5`
进行了验证,如果需要使用更多G++版本和平台的OpenVino编译,请参考:
[
OpenVINO
](
https://github.com/openvinotoolkit/openvino/blob/2020/build-instruction.md
)
。
### 验证环境
*
Ubuntu
* 16.04 (64-bit) with GCC*
4.8.5
*
CMake 3.12
...
...
@@ -56,7 +58,7 @@ PaddleX到OpenVINO的部署流程如下:
-
ngraph:
说明:openvino编译的过程中会生成ngraph的lib文件,位于{openvino根目录}/bin/intel64/Release/lib/下。
### Step2: 编译
demo
### Step2: 编译
编译
`cmake`
的命令在
`scripts/build.sh`
中,请根据Step1中编译软件的实际情况修改主要参数,其主要内容说明如下:
...
...
@@ -89,16 +91,17 @@ make
### Step3: 模型转换
将PaddleX模型转换成ONNX模型
将PaddleX模型转换成ONNX模型
:
```
paddlex --export_onnx --model_dir=/path/to/xiaoduxiong_epoch_12 --save_dir=/path/to/onnx_model
```
将生成的onnx模型转换为Open
c
VINO支持的格式,请参考:
[
Model Optimizer文档
](
https://docs.openvinotoolkit.org/latest/_docs_MO_DG_Deep_Learning_Model_Optimizer_DevGuide.html
)
将生成的onnx模型转换为OpenVINO支持的格式,请参考:
[
Model Optimizer文档
](
https://docs.openvinotoolkit.org/latest/_docs_MO_DG_Deep_Learning_Model_Optimizer_DevGuide.html
)
### Step4: 预测
编译成功后,预测demo的可执行程序分别为
`build/detector`
,其主要命令参数说明如下:
编译成功后,分类任务的预测可执行程序为
`classifier`
,其主要命令参数说明如下:
| 参数 | 说明 |
| ---- | ---- |
...
...
@@ -107,17 +110,14 @@ paddlex --export_onnx --model_dir=/path/to/xiaoduxiong_epoch_12 --save_dir=/path
| --image_list | 按行存储图片路径的.txt文件 |
| --device | 运行的平台, 默认值为"CPU" |
### 样例
可使用
[
小度熊识别模型
](
deploy_server/deploy_python.html#inference
)
中导出的
`inference_model`
和测试图片进行预测。
#### 样例
`样例一`
:
测试图片
`/path/to/xiaoduxiong.jpeg`
```
shell
./build/classifier
--model_dir
=
/path/to/
inference
_model
--image
=
/path/to/xiaoduxiong.jpeg
./build/classifier
--model_dir
=
/path/to/
openvino
_model
--image
=
/path/to/xiaoduxiong.jpeg
```
...
...
@@ -130,6 +130,7 @@ paddlex --export_onnx --model_dir=/path/to/xiaoduxiong_epoch_12 --save_dir=/path
...
/path/to/images/xiaoduxiongn.jpeg
```
```
shell
./build/classifier
--model_dir
=
/path/to/models/
inference_model
--image_list
=
/root/projects/images_list.txt -
./build/classifier
--model_dir
=
/path/to/models/
openvino_model
--image_list
=
/root/projects/images_list.txt
```
docs/tutorials/deploy/deploy_server/encryption.md
浏览文件 @
3dd9f89c
...
...
@@ -77,7 +77,7 @@ paddlex-encryption
| use_gpu | 是否使用 GPU 预测, 支持值为0或1(默认值为0) |
| use_trt | 是否使用 TensorTr 预测, 支持值为0或1(默认值为0) |
| gpu_id | GPU 设备ID, 默认值为0 |
| save_dir | 保存可视化结果的路径, 默认值为"output",classfier无该参数 |
| save_dir | 保存可视化结果的路径, 默认值为"output",class
i
fier无该参数 |
| key | 加密过程中产生的密钥信息,默认值为""表示加载的是未加密的模型 |
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录