Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
PaddleX
提交
c8e4761f
P
PaddleX
项目概览
PaddlePaddle
/
PaddleX
通知
138
Star
4
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
43
列表
看板
标记
里程碑
合并请求
5
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleX
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
43
Issue
43
列表
看板
标记
里程碑
合并请求
5
合并请求
5
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
c8e4761f
编写于
4月 28, 2020
作者:
J
jiangjiajun
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
update doc and fix bug for visualize
上级
978c2091
变更
3
隐藏空白更改
内联
并排
Showing
3 changed file
with
4 addition
and
46 deletion
+4
-46
docs/deploy.md
docs/deploy.md
+2
-45
docs/index.rst
docs/index.rst
+1
-0
paddlex/cv/models/utils/visualize.py
paddlex/cv/models/utils/visualize.py
+1
-1
未找到文件。
docs/deploy.md
浏览文件 @
c8e4761f
# 模型预测部署
本文档指引用户如何采用更高性能地方式来部署使用PaddleX训练的模型。使用本文档模型部署方式,会在模型运算过程中,对模型计算图进行优化,同时减少内存操作,相对比普通的paddlepaddle模型加载和预测方式,预测速度平均可提升1倍,具体各模型性能对比见
[
预测性能对比
](
#预测性能对比
)
## 服务端部署
# 模型部署导出
### 导出inference模型
...
...
@@ -14,43 +10,4 @@
paddlex --export_inference --model_dir=./garbage_epoch_12 --save_dir=./inference_model
```
### Python部署
PaddleX已经集成了基于Python的高性能预测接口,在安装PaddleX后,可参照如下代码示例,进行预测。相关的接口文档可参考
[
paddlex.deploy
](
apis/deploy.md
)
> 点击下载测试图片 [garbage.bmp](https://bj.bcebos.com/paddlex/datasets/garbage.bmp)
```
import paddlex as pdx
predictorpdx.deploy.create_predictor('./inference_model')
result = predictor.predict(image='garbage.bmp')
```
### C++部署
> C++部署方案正在整理中,即将开源...
### 预测性能对比
#### 测试环境
-
CUDA 9.0
-
CUDNN 7.5
-
PaddlePaddle 1.71
-
GPU: Tesla P40
-
AnalysisPredictor 指采用Python的高性能预测方式
-
Executor 指采用paddlepaddle普通的python预测方式
-
Batch Size均为1,耗时单位为ms/image,只计算模型运行时间,不包括数据的预处理和后处理
| 模型 | AnalysisPredictor耗时 | Executor耗时 | 输入图像大小 |
| :---- | :--------------------- | :------------ | :------------ |
| resnet50 | 4.84 | 7.57 | 224
*
224 |
| mobilenet_v2 | 3.27 | 5.76 | 224
*
224 |
| unet | 22.51 | 34.60 |513
*
513 |
| deeplab_mobile | 63.44 | 358.31 |1025
*
2049 |
| yolo_mobilenetv2 | 15.20 | 19.54 | 608
*
608 |
| faster_rcnn_r50_fpn_1x | 50.05 | 69.58 |800
*
1088 |
| faster_rcnn_r50_1x | 326.11 | 347.22 | 800
*
1067 |
| mask_rcnn_r50_fpn_1x | 67.49 | 91.02 | 800
*
1088 |
| mask_rcnn_r50_1x | 326.11 | 350.94 | 800
*
1067 |
## 移动端部署
> Lite模型导出正在集成中,即将开源...
## 模型C++和Python部署方案预计一周内推出...
docs/index.rst
浏览文件 @
c8e4761f
...
...
@@ -18,6 +18,7 @@ PaddleX是基于飞桨技术生态的深度学习全流程开发工具。具备
gpu_configure.md
tutorials/index.rst
metrics.md
deploy.md
FAQ.md
* PaddleX版本: v0.1.0
...
...
paddlex/cv/models/utils/visualize.py
浏览文件 @
c8e4761f
...
...
@@ -25,7 +25,7 @@ def visualize_detection(image, result, threshold=0.5, save_dir=None):
image_name
=
os
.
path
.
split
(
image
)[
-
1
]
image
=
Image
.
open
(
image
).
convert
(
'RGB'
)
image
=
draw_bbox_mask
(
image
,
result
s
,
threshold
=
threshold
)
image
=
draw_bbox_mask
(
image
,
result
,
threshold
=
threshold
)
if
save_dir
is
not
None
:
if
not
os
.
path
.
exists
(
save_dir
):
os
.
makedirs
(
save_dir
)
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录