Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
s920243400
PaddleOCR
提交
c7a50dbd
P
PaddleOCR
项目概览
s920243400
/
PaddleOCR
与 Fork 源项目一致
Fork自
PaddlePaddle / PaddleOCR
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleOCR
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
c7a50dbd
编写于
12月 15, 2021
作者:
littletomatodonkey
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix serving serviosn
上级
ad3c1f98
变更
5
隐藏空白更改
内联
并排
Showing
5 changed file
with
37 addition
and
41 deletion
+37
-41
deploy/pdserving/README_CN.md
deploy/pdserving/README_CN.md
+31
-35
deploy/pdserving/config.yml
deploy/pdserving/config.yml
+2
-2
deploy/pdserving/web_service.py
deploy/pdserving/web_service.py
+2
-2
deploy/pdserving/web_service_det.py
deploy/pdserving/web_service_det.py
+1
-1
deploy/pdserving/web_service_rec.py
deploy/pdserving/web_service_rec.py
+1
-1
未找到文件。
deploy/pdserving/README_CN.md
浏览文件 @
c7a50dbd
...
...
@@ -34,29 +34,24 @@ PaddleOCR提供2种服务部署方式:
-
准备PaddleServing的运行环境,步骤如下
1.
安装serving,用于启动服务
```
pip3 install paddle-serving-server==0.6.1 # for CPU
pip3 install paddle-serving-server-gpu==0.6.1 # for GPU
# 其他GPU环境需要确认环境再选择执行如下命令
pip3 install paddle-serving-server-gpu==0.6.1.post101 # GPU with CUDA10.1 + TensorRT6
pip3 install paddle-serving-server-gpu==0.6.1.post11 # GPU with CUDA11 + TensorRT7
```
2.
安装client,用于向服务发送请求
在
[
下载链接
](
https://github.com/PaddlePaddle/Serving/blob/develop/doc/LATEST_PACKAGES.md
)
中找到对应python版本的client安装包,这里推荐python3.7版本:
```
wget https://paddle-serving.bj.bcebos.com/test-dev/whl/paddle_serving_client-0.0.0-cp37-none-any.whl
pip3 install paddle_serving_client-0.0.0-cp37-none-any.whl
```
3.
安装serving-app
```
pip3 install paddle-serving-app==0.6.1
```
```
bash
# 安装serving,用于启动服务
wget https://paddle-serving.bj.bcebos.com/test-dev/whl/paddle_serving_server_gpu-0.7.0.post102-py3-none-any.whl
pip
install
paddle_serving_server_gpu-0.7.0.post102-py3-none-any.whl
# 如果是cuda10.1环境,可以使用下面的命令安装paddle-serving-server
# wget https://paddle-serving.bj.bcebos.com/test-dev/whl/paddle_serving_server_gpu-0.7.0.post101-py3-none-any.whl
# pip install paddle_serving_server_gpu-0.7.0.post101-py3-none-any.whl
# 安装client,用于向服务发送请求
wget https://paddle-serving.bj.bcebos.com/test-dev/whl/paddle_serving_client-0.7.0-cp37-none-any.whl
pip
install
paddle_serving_client-0.7.0-cp37-none-any.whl
# 安装serving-app
wget https://paddle-serving.bj.bcebos.com/test-dev/whl/paddle_serving_app-0.7.0-py3-none-any.whl
pip
install
paddle_serving_app-0.7.0-py3-none-any.whl
```
**Note:** 如果要安装最新版本的PaddleServing参考[链接](https://github.com/PaddlePaddle/Serving/blob/develop/doc/LATEST_PACKAGES
.md)。
**Note:**
如果要安装最新版本的PaddleServing参考
[
链接
](
https://github.com/PaddlePaddle/Serving/blob/v0.7.0/doc/Latest_Packages_CN
.md
)
。
<a
name=
"模型转换"
></a>
## 模型转换
...
...
@@ -64,40 +59,41 @@ PaddleOCR提供2种服务部署方式:
使用PaddleServing做服务化部署时,需要将保存的inference模型转换为serving易于部署的模型。
首先,下载PPOCR的
[
inference模型
](
https://github.com/PaddlePaddle/PaddleOCR#pp-ocr-20-series-model-listupdate-on-dec-15
)
```
```
bash
# 下载并解压 OCR 文本检测模型
wget https://paddleocr.bj.bcebos.com/
dygraph_v2.0/ch/ch_ppocr_mobile_v2.0_det_infer.tar && tar xf ch_ppocr_mobile_v2.0
_det_infer.tar
wget https://paddleocr.bj.bcebos.com/
PP-OCRv2/chinese/ch_PP-OCRv2_det_infer.tar
-O
ch_PP-OCRv2_det_infer.tar
&&
tar
-xf
ch_PP-OCRv2
_det_infer.tar
# 下载并解压 OCR 文本识别模型
wget https://paddleocr.bj.bcebos.com/
dygraph_v2.0/ch/ch_ppocr_mobile_v2.0_rec_infer.tar && tar xf ch_ppocr_mobile_v2.0
_rec_infer.tar
wget https://paddleocr.bj.bcebos.com/
PP-OCRv2/chinese/ch_PP-OCRv2_rec_infer.tar
-O
ch_PP-OCRv2_rec_infer.tar
&&
tar
-xf
ch_PP-OCRv2
_rec_infer.tar
```
接下来,用安装的paddle_serving_client把下载的inference模型转换成易于server部署的模型格式。
```
```
bash
# 转换检测模型
python
3 -m paddle_serving_client.convert --dirname ./ch_ppocr_mobile_v2.0
_det_infer/ \
python
-m
paddle_serving_client.convert
--dirname
./ch_PP-OCRv2
_det_infer/
\
--model_filename
inference.pdmodel
\
--params_filename
inference.pdiparams
\
--serving_server ./ppocr
_det_mobile_2.0
_serving/ \
--serving_client ./ppocr
_det_mobile_2.0
_client/
--serving_server
./ppocr
v2_det
_serving/
\
--serving_client
./ppocr
v2_det
_client/
# 转换识别模型
python
3 -m paddle_serving_client.convert --dirname ./ch_ppocr_mobile_v2.0
_rec_infer/ \
python
-m
paddle_serving_client.convert
--dirname
./ch_PP-OCRv2
_rec_infer/
\
--model_filename
inference.pdmodel
\
--params_filename
inference.pdiparams
\
--serving_server ./ppocr
_rec_mobile_2.0
_serving/ \
--serving_client ./ppocr
_rec_mobile_2.0
_client/
--serving_server
./ppocr
v2_rec
_serving/
\
--serving_client
./ppocr
v2_rec
_client/
```
检测模型转换完成后,会在当前文件夹多出
`ppocr
_det_mobile_2.0_serving`
和
`ppocr_det_mobile_2.0
_client`
的文件夹,具备如下格式:
检测模型转换完成后,会在当前文件夹多出
`ppocr
v2_det_serving`
和
`ppocrv2_det
_client`
的文件夹,具备如下格式:
```
|- ppocr
_det_mobile_2.0
_serving/
|- ppocr
v2_det
_serving/
|- __model__
|- __params__
|- serving_server_conf.prototxt
|- serving_server_conf.stream.prototxt
|- ppocr
_det_mobile_2.0
_client
|- ppocr
v2_det
_client
|- serving_client_conf.prototxt
|- serving_client_conf.stream.prototxt
...
...
deploy/pdserving/config.yml
浏览文件 @
c7a50dbd
...
...
@@ -34,7 +34,7 @@ op:
client_type
:
local_predictor
#det模型路径
model_config
:
./ppocr
_det_mobile_2.0
_serving
model_config
:
./ppocr
v2_det
_serving
#Fetch结果列表,以client_config中fetch_var的alias_name为准
fetch_list
:
[
"
save_infer_model/scale_0.tmp_1"
]
...
...
@@ -60,7 +60,7 @@ op:
client_type
:
local_predictor
#rec模型路径
model_config
:
./ppocr
_rec_mobile_2.0
_serving
model_config
:
./ppocr
v2_rec
_serving
#Fetch结果列表,以client_config中fetch_var的alias_name为准
fetch_list
:
[
"
save_infer_model/scale_0.tmp_1"
]
...
...
deploy/pdserving/web_service.py
浏览文件 @
c7a50dbd
...
...
@@ -54,7 +54,7 @@ class DetOp(Op):
_
,
self
.
new_h
,
self
.
new_w
=
det_img
.
shape
return
{
"x"
:
det_img
[
np
.
newaxis
,
:].
copy
()},
False
,
None
,
""
def
postprocess
(
self
,
input_dicts
,
fetch_dict
,
log_id
):
def
postprocess
(
self
,
input_dicts
,
fetch_dict
,
data_id
,
log_id
):
det_out
=
fetch_dict
[
"save_infer_model/scale_0.tmp_1"
]
ratio_list
=
[
float
(
self
.
new_h
)
/
self
.
ori_h
,
float
(
self
.
new_w
)
/
self
.
ori_w
...
...
@@ -129,7 +129,7 @@ class RecOp(Op):
return
feed_list
,
False
,
None
,
""
def
postprocess
(
self
,
input_dicts
,
fetch_data
,
log_id
):
def
postprocess
(
self
,
input_dicts
,
fetch_data
,
data_id
,
log_id
):
res_list
=
[]
if
isinstance
(
fetch_data
,
dict
):
if
len
(
fetch_data
)
>
0
:
...
...
deploy/pdserving/web_service_det.py
浏览文件 @
c7a50dbd
...
...
@@ -54,7 +54,7 @@ class DetOp(Op):
_
,
self
.
new_h
,
self
.
new_w
=
det_img
.
shape
return
{
"x"
:
det_img
[
np
.
newaxis
,
:].
copy
()},
False
,
None
,
""
def
postprocess
(
self
,
input_dicts
,
fetch_dict
,
log_id
):
def
postprocess
(
self
,
input_dicts
,
fetch_dict
,
data_id
,
log_id
):
det_out
=
fetch_dict
[
"save_infer_model/scale_0.tmp_1"
]
ratio_list
=
[
float
(
self
.
new_h
)
/
self
.
ori_h
,
float
(
self
.
new_w
)
/
self
.
ori_w
...
...
deploy/pdserving/web_service_rec.py
浏览文件 @
c7a50dbd
...
...
@@ -56,7 +56,7 @@ class RecOp(Op):
feed_list
.
append
(
feed
)
return
feed_list
,
False
,
None
,
""
def
postprocess
(
self
,
input_dicts
,
fetch_data
,
log_id
):
def
postprocess
(
self
,
input_dicts
,
fetch_data
,
data_id
,
log_id
):
res_list
=
[]
if
isinstance
(
fetch_data
,
dict
):
if
len
(
fetch_data
)
>
0
:
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录