Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
Serving
提交
374474ff
S
Serving
项目概览
PaddlePaddle
/
Serving
1 年多 前同步成功
通知
186
Star
833
Fork
253
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
105
列表
看板
标记
里程碑
合并请求
10
Wiki
2
Wiki
分析
仓库
DevOps
项目成员
Pages
S
Serving
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
105
Issue
105
列表
看板
标记
里程碑
合并请求
10
合并请求
10
Pages
分析
分析
仓库分析
DevOps
Wiki
2
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
374474ff
编写于
5月 04, 2022
作者:
T
TeslaZhao
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Update doc
上级
208865cb
变更
4
隐藏空白更改
内联
并排
Showing
4 changed file
with
106 addition
and
0 deletion
+106
-0
doc/Offical_Docs/10-0_Terminology.md
doc/Offical_Docs/10-0_Terminology.md
+1
-0
doc/Offical_Docs/11-0_Contributors.md
doc/Offical_Docs/11-0_Contributors.md
+13
-0
doc/Offical_Docs/11_Lookup_CN.md
doc/Offical_Docs/11_Lookup_CN.md
+0
-0
doc/Offical_Docs/3-1_QuickStart_Cpp_Resnet_CN.md
doc/Offical_Docs/3-1_QuickStart_Cpp_Resnet_CN.md
+92
-0
未找到文件。
doc/Offical_Docs/10-0_Terminology.md
0 → 100644
浏览文件 @
374474ff
# 名词术语解释
doc/Offical_Docs/11-0_Contributors.md
0 → 100644
浏览文件 @
374474ff
# 开发者贡献
如果您想为Paddle Serving贡献代码,请参考
[
Contribution Guidelines(English)
](
doc/Contribute_EN.md
)
-
感谢
[
@loveululu
](
https://github.com/loveululu
)
提供 Cube python API
-
感谢
[
@EtachGu
](
https://github.com/EtachGu
)
更新 docker 使用命令
-
感谢
[
@BeyondYourself
](
https://github.com/BeyondYourself
)
提供grpc教程,更新FAQ教程,整理文件目录。
-
感谢
[
@mcl-stone
](
https://github.com/mcl-stone
)
提供faster rcnn benchmark脚本
-
感谢
[
@cg82616424
](
https://github.com/cg82616424
)
提供unet benchmark脚本和修改部分注释错误
-
感谢
[
@cuicheng01
](
https://github.com/cuicheng01
)
提供PaddleClas的11个模型
-
感谢
[
@Jiaqi Liu
](
https://github.com/LiuChiachi
)
新增list[str]类型输入的预测支持
-
感谢
[
@Bin Lu
](
https://github.com/Intsigstephon
)
提供PP-Shitu C++模型示例
doc/Offical_Docs/11_Lookup_CN.md
已删除
100644 → 0
浏览文件 @
208865cb
doc/Offical_Docs/3-1_QuickStart_Cpp_Resnet_CN.md
0 → 100644
浏览文件 @
374474ff
# C++ Serving 快速部署案例
## 模型介绍
残差网络(ResNet)于2015年被提出,摘得 ImageNet 榜单5项第一,成绩大幅领先第二名,是 CNN 图像史上的一个里程碑。
从经验上看,网络结构层数越多,有利于复杂特征的提取,从理论上讲会取得更好的结果。但是,随着网络层数的增加,准确率会趋于饱和甚至会下降,称为退化问题(Degradation problem)。其根本原因是深层网络出现梯度消失或者梯度爆炸的问题。残差网络利用短路机制加入了残差单元,解决了退化问题。
ResNet 网络是参考了 VGG19 网络,加入残差单元,ResNet50 有50层网络。
## 部署步骤
前提条件是你已完成
[
环境安装
](
)步骤,并已验证环境安装成功,此处不在赘述。
克隆 Serving 仓库后,进入
`examples/C++/PaddleClas/resnet_50_vd`
目录下,已提供程序、配置和性能测试脚本。
```
git clone https://github.com/PaddlePaddle/Serving
```
按以下5个步骤操作即可实现模型部署。
-
一.获取模型
-
二.保存 Serving 部署的模型参数
-
三.启动服务
-
四.启动客户端
**一.获取模型**
下载
`ResNet50_vd`
的 推理模型
```
wget https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/inference/ResNet50_vd_infer.tar && tar xf ResNet50_vd_infer.tar
```
**二.保存 Serving 部署的模型参数**
用
`paddle_serving_client`
把下载的推理模型转换成易于 Serving 部署的模型格式,完整信息请参考
[
保存用于 Serving 部署的模型参数
](
./5-1_Save_Model_Params_CN.md
)
。
```
python3 -m paddle_serving_client.convert --dirname ./ResNet50_vd_infer/ \
--model_filename inference.pdmodel \
--params_filename inference.pdiparams \
--serving_server ./ResNet50_vd_serving/ \
--serving_client ./ResNet50_vd_client/
```
保存参数后,会在当前文件夹多出
`ResNet50_vd_serving`
和
`ResNet50_vd_client`
的文件夹:
```
├── daisy.jpg
├── http_client.py
├── imagenet.label
├── ResNet50_vd_client
│ ├── serving_client_conf.prototxt
│ └── serving_client_conf.stream.prototxt
├── ResNet50_vd_infer
│ ├── inference.pdiparams
│ ├── inference.pdiparams.info
│ └── inference.pdmodel
├── ResNet50_vd_serving
│ ├── fluid_time_file
│ ├── inference.pdiparams
│ ├── inference.pdmodel
│ ├── serving_server_conf.prototxt
│ └── serving_server_conf.stream.prototxt
├── rpc_client.py
```
**三.启动服务**
C++ Serving 服务可以指定一个网络端口同时接收 HTTP、gRPC 和 bRPC 请求。命令参数
`--model`
指定模型路径,
`--gpu_ids`
指定 GPU 卡,
`--port`
指定端口。
```
python3 -m paddle_serving_server.serve --model ResNet50_vd_serving --gpu_ids 0 --port 9394
```
**四.启动客户端**
PYTHON 程序
`http_client.py`
封装了 HTTP 请求客户端,运行以下命令:
```
python3 http_client.py
```
PYTHON 程序
`rpc_client.py`
封装了 gRPC 请求客户端,运行以下命令:
```
python3 rpc_client.py
```
成功运行后,模型预测的结果会打印如下:
```
prediction: daisy, probability: 0.9341399073600769
```
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录