Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
PaddleX
提交
39294c30
P
PaddleX
项目概览
PaddlePaddle
/
PaddleX
通知
138
Star
4
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
43
列表
看板
标记
里程碑
合并请求
5
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleX
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
43
Issue
43
列表
看板
标记
里程碑
合并请求
5
合并请求
5
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
39294c30
编写于
9月 14, 2020
作者:
J
Jason
提交者:
GitHub
9月 14, 2020
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Update hub_serving.md
上级
64d562af
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
6 addition
and
6 deletion
+6
-6
docs/deploy/hub_serving.md
docs/deploy/hub_serving.md
+6
-6
未找到文件。
docs/deploy/hub_serving.md
浏览文件 @
39294c30
...
@@ -10,12 +10,12 @@
...
@@ -10,12 +10,12 @@
下面,我们按照步骤,实现将一个图像分类模型
[
MobileNetV3_small_ssld
](
https://bj.bcebos.com/paddlex/models/mobilenetv3_small_ssld_imagenet.tar.gz
)
转换成
`PaddleHub`
的预训练模型,并利用
`PaddleHub-Serving`
实现一键部署。
下面,我们按照步骤,实现将一个图像分类模型
[
MobileNetV3_small_ssld
](
https://bj.bcebos.com/paddlex/models/mobilenetv3_small_ssld_imagenet.tar.gz
)
转换成
`PaddleHub`
的预训练模型,并利用
`PaddleHub-Serving`
实现一键部署。
# 模型部署
#
#
模型部署
## 1 部署模型准备
##
#
1 部署模型准备
部署模型的格式均为目录下包含
`__model__`
,
`__params__`
和
`model.yml`
三个文件,如若不然,则参照
[
部署模型导出文档
](
./export_model.md
)
进行导出。
部署模型的格式均为目录下包含
`__model__`
,
`__params__`
和
`model.yml`
三个文件,如若不然,则参照
[
部署模型导出文档
](
./export_model.md
)
进行导出。
## 2 模型转换
##
#
2 模型转换
首先,我们将
`PaddleX`
的
`Inference Model`
转换成
`PaddleHub`
的预训练模型,使用命令
`hub convert`
即可一键转换,对此命令的说明如下:
首先,我们将
`PaddleX`
的
`Inference Model`
转换成
`PaddleHub`
的预训练模型,使用命令
`hub convert`
即可一键转换,对此命令的说明如下:
```
shell
```
shell
...
@@ -45,7 +45,7 @@ $ The converted module is stored in `MobileNetV3_small_ssld_hub_1596077881.86850
...
@@ -45,7 +45,7 @@ $ The converted module is stored in `MobileNetV3_small_ssld_hub_1596077881.86850
```
```
等待生成成功的提示后,我们就在输出目录中得到了一个
`PaddleHub`
的一个预训练模型。
等待生成成功的提示后,我们就在输出目录中得到了一个
`PaddleHub`
的一个预训练模型。
## 3 模型安装
##
#
3 模型安装
在模型转换一步中,我们得到了一个
`.tar.gz`
格式的预训练模型压缩包,在进行部署之前需要先安装到本机,使用命令
`hub install`
即可一键安装,对此命令的说明如下:
在模型转换一步中,我们得到了一个
`.tar.gz`
格式的预训练模型压缩包,在进行部署之前需要先安装到本机,使用命令
`hub install`
即可一键安装,对此命令的说明如下:
```
shell
```
shell
$
hub
install
${
MODULE
}
$
hub
install
${
MODULE
}
...
@@ -61,7 +61,7 @@ hub install MobileNetV3_small_ssld_hub_1596077881.868501/mobilenetv3_small_ssld_
...
@@ -61,7 +61,7 @@ hub install MobileNetV3_small_ssld_hub_1596077881.868501/mobilenetv3_small_ssld_
$
Successfully installed mobilenetv3_small_ssld_imagenet_hub
$
Successfully installed mobilenetv3_small_ssld_imagenet_hub
```
```
## 4 模型部署
##
#
4 模型部署
下面,我们只需要使用
`hub serving`
命令即可完成模型的一键部署,对此命令的说明如下:
下面,我们只需要使用
`hub serving`
命令即可完成模型的一键部署,对此命令的说明如下:
```
shell
```
shell
$
hub serving start
--modules
/-m
[
Module1
==
Version1,
Module2
==
Version2, ...]
\
$
hub serving start
--modules
/-m
[
Module1
==
Version1,
Module2
==
Version2, ...]
\
...
@@ -107,7 +107,7 @@ $ hub serving start -m mobilenetv3_small_ssld_imagenet_hub
...
@@ -107,7 +107,7 @@ $ hub serving start -m mobilenetv3_small_ssld_imagenet_hub
|modules_info|PaddleHub Serving预安装模型,以字典列表形式列出,key为模型名称。其中:
<br>
`init_args`
为模型加载时输入的参数,等同于
`paddlehub.Module(**init_args)`
<br>
`predict_args`
为模型预测时输入的参数,以
`mobilenetv3_small_ssld_imagenet_hub`
为例,等同于
`mobilenetv3_small_ssld_imagenet_hub.batch_predict(**predict_args)`
|modules_info|PaddleHub Serving预安装模型,以字典列表形式列出,key为模型名称。其中:
<br>
`init_args`
为模型加载时输入的参数,等同于
`paddlehub.Module(**init_args)`
<br>
`predict_args`
为模型预测时输入的参数,以
`mobilenetv3_small_ssld_imagenet_hub`
为例,等同于
`mobilenetv3_small_ssld_imagenet_hub.batch_predict(**predict_args)`
|port|服务端口,默认为8866|
|port|服务端口,默认为8866|
## 5 测试
##
#
5 测试
在第二步模型安装的同时,会生成一个客户端请求示例,存放在模型安装目录,默认为
`${HUB_HOME}/.paddlehub/modules`
,对于此例,我们可以在
`~/.paddlehub/modules/mobilenetv3_small_ssld_imagenet_hub`
找到此客户端示例
`serving_client_demo.py`
,代码如下:
在第二步模型安装的同时,会生成一个客户端请求示例,存放在模型安装目录,默认为
`${HUB_HOME}/.paddlehub/modules`
,对于此例,我们可以在
`~/.paddlehub/modules/mobilenetv3_small_ssld_imagenet_hub`
找到此客户端示例
`serving_client_demo.py`
,代码如下:
```
python
```
python
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录