Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
PaddleClas
提交
e449853b
P
PaddleClas
项目概览
PaddlePaddle
/
PaddleClas
接近 2 年 前同步成功
通知
116
Star
4999
Fork
1114
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
19
列表
看板
标记
里程碑
合并请求
6
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleClas
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
19
Issue
19
列表
看板
标记
里程碑
合并请求
6
合并请求
6
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
e449853b
编写于
11月 02, 2021
作者:
B
Bin Lu
提交者:
GitHub
11月 02, 2021
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Update paddle_serving_deploy.md
上级
88190f66
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
10 addition
and
4 deletion
+10
-4
docs/zh_CN/inference_deployment/paddle_serving_deploy.md
docs/zh_CN/inference_deployment/paddle_serving_deploy.md
+10
-4
未找到文件。
docs/zh_CN/inference_deployment/paddle_serving_deploy.md
浏览文件 @
e449853b
# 模型服务化部署
# 模型服务化部署
-
[
简介
](
#简介
)
-
[
Serving安装
](
#Serving安装
)
-
[
图像分类服务部署
](
#图像分类服务部署
)
-
[
图像识别服务部署
](
#图像识别服务部署
)
<a
name=
"简介"
></a>
## 1. 简介
## 1. 简介
[
Paddle Serving
](
https://github.com/PaddlePaddle/Serving
)
旨在帮助深度学习开发者轻松部署在线预测服务,支持一键部署工业级的服务能力、客户端和服务端之间高并发和高效通信、并支持多种编程语言开发客户端。
[
Paddle Serving
](
https://github.com/PaddlePaddle/Serving
)
旨在帮助深度学习开发者轻松部署在线预测服务,支持一键部署工业级的服务能力、客户端和服务端之间高并发和高效通信、并支持多种编程语言开发客户端。
该部分以 HTTP 预测服务部署为例,介绍怎样在 PaddleClas 中使用 PaddleServing 部署模型服务。
该部分以 HTTP 预测服务部署为例,介绍怎样在 PaddleClas 中使用 PaddleServing 部署模型服务。
<a
name=
"Serving安装"
></a>
## 2. Serving安装
## 2. Serving安装
Serving 官网推荐使用 docker 安装并部署 Serving 环境。首先需要拉取 docker 环境并创建基于 Serving 的 docker。
Serving 官网推荐使用 docker 安装并部署 Serving 环境。首先需要拉取 docker 环境并创建基于 Serving 的 docker。
...
@@ -32,7 +37,7 @@ pip install paddle-serving-app
...
@@ -32,7 +37,7 @@ pip install paddle-serving-app
```
shell
```
shell
pip
install
paddle-serving-server
pip
install
paddle-serving-server
```
```
<a
name=
"图像分类服务部署"
></a>
## 3. 图像分类服务部署
## 3. 图像分类服务部署
### 3.1 模型转换
### 3.1 模型转换
使用PaddleServing做服务化部署时,需要将保存的inference模型转换为Serving模型。下面以经典的ResNet50_vd模型为例,介绍如何部署图像分类服务。
使用PaddleServing做服务化部署时,需要将保存的inference模型转换为Serving模型。下面以经典的ResNet50_vd模型为例,介绍如何部署图像分类服务。
...
@@ -106,7 +111,6 @@ python3 classification_web_service.py &>log.txt &
...
@@ -106,7 +111,6 @@ python3 classification_web_service.py &>log.txt &
```
```
成功启动服务后,log.txt中会打印类似如下日志
成功启动服务后,log.txt中会打印类似如下日志


-
发送请求:
-
发送请求:
```
shell
```
shell
# 发送服务请求
# 发送服务请求
...
@@ -115,5 +119,7 @@ python3 pipeline_http_client.py
...
@@ -115,5 +119,7 @@ python3 pipeline_http_client.py
成功运行后,模型预测的结果会打印在cmd窗口中,结果示例为:
成功运行后,模型预测的结果会打印在cmd窗口中,结果示例为:


*
关于图像识别服务的部署,参考文档[基于PaddleServing的图像识别服务部署](../../../deploy/paddleserving/recognition/README_CN.md)
<a
name=
"图像识别服务部署"
></a>
## 4.图像识别服务部署
*
更多的服务部署类型,如
`RPC预测服务`
等,可以参考 Serving 的 github 官网:
[
https://github.com/PaddlePaddle/Serving/tree/develop/python/examples/imagenet
](
https://github.com/PaddlePaddle/Serving/tree/develop/python/examples/imagenet
)
*
更多的服务部署类型,如
`RPC预测服务`
等,可以参考 Serving 的 github 官网:
[
https://github.com/PaddlePaddle/Serving/tree/develop/python/examples/imagenet
](
https://github.com/PaddlePaddle/Serving/tree/develop/python/examples/imagenet
)
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录