Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
Serving
提交
950bfe81
S
Serving
项目概览
PaddlePaddle
/
Serving
1 年多 前同步成功
通知
186
Star
833
Fork
253
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
105
列表
看板
标记
里程碑
合并请求
10
Wiki
2
Wiki
分析
仓库
DevOps
项目成员
Pages
S
Serving
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
105
Issue
105
列表
看板
标记
里程碑
合并请求
10
合并请求
10
Pages
分析
分析
仓库分析
DevOps
Wiki
2
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
950bfe81
编写于
5月 09, 2022
作者:
T
TeslaZhao
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Update doc
上级
09a353d0
变更
6
隐藏空白更改
内联
并排
Showing
6 changed file
with
23 addition
and
52 deletion
+23
-52
core/configure/proto/general_model_service.proto
core/configure/proto/general_model_service.proto
+5
-3
doc/Offical_Docs/12-0_FAQ_CN.md
doc/Offical_Docs/12-0_FAQ_CN.md
+4
-38
doc/Offical_Docs/3-0_QuickStart_Int_CN.md
doc/Offical_Docs/3-0_QuickStart_Int_CN.md
+4
-5
doc/Offical_Docs/3-1_QuickStart_Cpp_Resnet_CN.md
doc/Offical_Docs/3-1_QuickStart_Cpp_Resnet_CN.md
+2
-2
doc/Offical_Docs/3-2_QuickStart_Pipeline_OCR_CN.md
doc/Offical_Docs/3-2_QuickStart_Pipeline_OCR_CN.md
+3
-1
java/src/main/proto/general_model_service.proto
java/src/main/proto/general_model_service.proto
+5
-3
未找到文件。
core/configure/proto/general_model_service.proto
浏览文件 @
950bfe81
...
...
@@ -90,11 +90,13 @@ message Request {
message
Response
{
repeated
ModelOutput
outputs
=
1
;
repeated
int64
profile_time
=
2
;
// Error code
int32
err_no
=
3
;
bool
profile_server
=
3
;
uint64
log_id
=
4
;
// Error code
int32
err_no
=
5
;
// Error messages
string
err_msg
=
4
;
string
err_msg
=
6
;
};
message
ModelOutput
{
...
...
doc/Offical_Docs/12-0_FAQ_CN.md
浏览文件 @
950bfe81
...
...
@@ -61,7 +61,7 @@ Failed to predict: (data_id=1 log_id=0) [det|0] Failed to postprocess: postproce
#### Q: Paddle Serving 支持哪些网络协议?
**A:**
支持 HTTP、gRPC 和 bRPC 协议。其中 HTTP 协议既支持 HTTP + Json 格式,同时支持 HTTP + proto 格式。
**A:**
C++ Serving 同时支持 HTTP、gRPC 和 bRPC 协议。其中 HTTP 协议既支持 HTTP + Json 格式,同时支持 HTTP + proto 格式。完整信息请阅读
[
C++ Serving 通讯协议
](
./6-2_Cpp_Serving_Protocols_CN.md
)
;Python Pipeline 支持 HTTP 和 gRPC 协议,更多信息请阅读
[
Python Pipeline 框架设计
](
./6-2_Cpp_Serving_Protocols_CN.md
)
<a
name=
"3"
></a>
...
...
@@ -71,30 +71,12 @@ Failed to predict: (data_id=1 log_id=0) [det|0] Failed to postprocess: postproce
```
Collecting opencv-python
Using cached opencv-python-4.3.0.38.tar.gz (88.0 MB)
Installing build dependencies ... done
Getting requirements to build wheel ... error
ERROR: Command errored out with exit status 1:
command: /home/work/Python-2.7.17/build/bin/python /home/work/Python-2.7.17/build/lib/python2.7/site-packages/pip/_vendor/pep517/_in_process.py get_requires_for_build_wheel /tmp/tmpLiweA9
cwd: /tmp/pip-install-_w6AUI/opencv-python
Complete output (22 lines):
Traceback (most recent call last):
File "/home/work/Python-2.7.17/build/lib/python2.7/site-packages/pip/_vendor/pep517/_in_process.py", line 280, in <module>
main()
File "/home/work/Python-2.7.17/build/lib/python2.7/site-packages/pip/_vendor/pep517/_in_process.py", line 263, in main
json_out['return_val'] = hook(**hook_input['kwargs'])
File "/home/work/Python-2.7.17/build/lib/python2.7/site-packages/pip/_vendor/pep517/_in_process.py", line 114, in get_requires_for_build_wheel
return hook(config_settings)
File "/tmp/pip-build-env-AUCbP4/overlay/lib/python2.7/site-packages/setuptools/build_meta.py", line 146, in get_requires_for_build_wheel
return self._get_build_requires(config_settings, requirements=['wheel'])
File "/tmp/pip-build-env-AUCbP4/overlay/lib/python2.7/site-packages/setuptools/build_meta.py", line 127, in _get_build_requires
self.run_setup()
File "/tmp/pip-build-env-AUCbP4/overlay/lib/python2.7/site-packages/setuptools/build_meta.py", line 243, in run_setup
self).run_setup(setup_script=setup_script)
File "/tmp/pip-build-env-AUCbP4/overlay/lib/python2.7/site-packages/setuptools/build_meta.py", line 142, in run_setup
exec(compile(code, __file__, 'exec'), locals())
File "setup.py", line 448, in <module>
main()
File "setup.py", line 99, in main
% {"ext": re.escape(sysconfig.get_config_var("EXT_SUFFIX"))}
File "/home/work/Python-2.7.17/build/lib/python2.7/re.py", line 210, in escape
...
...
@@ -175,27 +157,11 @@ make: *** [all] Error 2
## 环境问题
#### Q:
使用过程中出现 CXXABI
错误。
#### Q:
程序运行出现 `CXXABI` 相关
错误。
这个问题出现的原因是编译 Python 使用的 GCC 版本和编译 Serving 的 GCC 版本不一致。对于 Docker 用户,推荐使用
[
Docker容器
](
https://github.com/PaddlePaddle/Serving/blob/develop/doc/Docker_Images_CN.md
)
,由于 Docker 容器内的 Python 版本与 Serving 在发布前都做过适配,这样就不会出现类似的错误。如果是其他开发环境,首先需要确保开发环境中具备 GCC 8.2,如果没有 GCC 8.2,参考安装方式
错误原因是编译 Python 使用的 GCC 版本和编译 Serving 的 GCC 版本不一致。对于 Docker 用户,推荐使用
[
Docker容器
](
https://github.com/PaddlePaddle/Serving/blob/develop/doc/Docker_Images_CN.md
)
,由于 Docker 容器内的 Python 版本与 Serving 在发布前都做过适配,这样就不会出现类似的错误。
```
bash
wget
-q
https://paddle-ci.gz.bcebos.com/gcc-8.2.0.tar.xz
tar
-xvf
gcc-8.2.0.tar.xz
&&
\
cd
gcc-8.2.0
&&
\
unset
LIBRARY_PATH CPATH C_INCLUDE_PATH PKG_CONFIG_PATH CPLUS_INCLUDE_PATH INCLUDE
&&
\
./contrib/download_prerequisites
&&
\
cd
..
&&
mkdir
temp_gcc82
&&
cd
temp_gcc82
&&
\
../gcc-8.2.0/configure
--prefix
=
/usr/local/gcc-8.2
--enable-threads
=
posix
--disable-checking
--disable-multilib
&&
\
make
-j8
&&
make
install
cd
..
&&
rm
-rf
temp_gcc82
cp
${
lib_so_6
}
${
lib_so_6
}
.bak
&&
rm
-f
${
lib_so_6
}
&&
ln
-s
/usr/local/gcc-8.2/lib64/libgfortran.so.5
${
lib_so_5
}
&&
\
ln
-s
/usr/local/gcc-8.2/lib64/libstdc++.so.6
${
lib_so_6
}
&&
\
cp
/usr/local/gcc-8.2/lib64/libstdc++.so.6.0.25
${
lib_path
}
```
推荐使用 GCC 8.2 预编译的
[
Python3.6
](
https://paddle-serving.bj.bcebos.com/others/Python3.6.10-gcc82.tar
)
包。下载解压后,需要将对应的目录设置为
`PYTHONROOT`
,并设置
`PATH`
和
`LD_LIBRARY_PATH`
。
推荐使用 GCC 8.2 预编译包
[
Python3.6
](
https://paddle-serving.bj.bcebos.com/others/Python3.6.10-gcc82.tar
)
。下载解压后,需要将对应的目录设置为
`PYTHONROOT`
,并设置
`PATH`
和
`LD_LIBRARY_PATH`
。
```
bash
export
PYTHONROOT
=
/path/of/python
# 对应解压后的Python目录
...
...
doc/Offical_Docs/3-0_QuickStart_Int_CN.md
浏览文件 @
950bfe81
# 快速开始案例部署
您可以通过以下 Paddle Serving 快速开始案例,分别了解到 C++ Serving 与 Python Pipeline 2种框架的部署方法。
-
[
使用 C++ Serving 部署 Resnet50 模型案例
](
)
-
[
使用 Python Pipeline 部署 OCR 模型案例
](
)
-
[
使用 C++ Serving 部署 Resnet50 模型案例
](
./3-1_QuickStart_Cpp_Resnet_CN.md
)
-
[
使用 Python Pipeline 部署 OCR 模型案例
](
./3-2_QuickStart_Pipeline_OCR_CN.md
)
通过阅读以下内容掌握 Paddle Serving 基础功能以及2种框架特性和使用指南:
-
[
基础功能
](
)
-
[
进阶 C++ Serving 介绍
](
)
-
[
进阶 Python Pipeline 介绍
](
)
-
[
进阶 C++ Serving 介绍
](
./doc/Offical_Docs/6-0_C++_Serving_Advanced_Introduction_CN.md
)
-
[
进阶 Python Pipeline 介绍
](
./7-0_Python_Pipeline_Int_CN.md
)
doc/Offical_Docs/3-1_QuickStart_Cpp_Resnet_CN.md
浏览文件 @
950bfe81
...
...
@@ -20,7 +20,7 @@ ResNet 网络是参考了 VGG19 网络,加入残差单元,ResNet50 有50层
## 部署步骤
前提条件是你已完成
[
环境安装
](
)步骤,并已验证环境安装成功,此处不在赘述。
前提条件是你已完成
[
环境安装
](
./2-0_Index_CN.md
)
步骤,并已验证环境安装成功,此处不在赘述。
克隆 Serving 仓库后,进入
`examples/C++/PaddleClas/resnet_50_vd`
目录下,已提供程序、配置和性能测试脚本。
```
...
...
@@ -37,7 +37,7 @@ git clone https://github.com/PaddlePaddle/Serving
**一.获取模型**
下载
`ResNet50_vd`
的 推理模型
下载
`ResNet50_vd`
的 推理模型
,更多模型信息请阅读
[
ImageNet 预训练模型库
](
https://github.com/PaddlePaddle/PaddleClas/blob/8fa820f5c81edb1e7a2b222306a307bc27bff90f/docs/zh_CN/algorithm_introduction/ImageNet_models.md
)
```
wget https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/inference/ResNet50_vd_infer.tar && tar xf ResNet50_vd_infer.tar
...
...
doc/Offical_Docs/3-2_QuickStart_Pipeline_OCR_CN.md
浏览文件 @
950bfe81
...
...
@@ -271,12 +271,14 @@ ocr_service.run_service()
└── web_service.py
```
运行
程序
`web_service.py`
启动服务端
运行
服务程序
`web_service.py`
启动服务端,接收客户端请求,采用图执行引擎执行推理预测。
```
# Run Server
python3 web_service.py &>log.txt &
```
客户端程序
`pipeline_http_client.py`
注册服务端地址,并发送客户端请求。
启动客户端前,要确认 URL://{ip}:{port}/{name}/{method} 。本项目中 {name} 即是 web_service.py 中 OcrService name 参数 "ocr"。 {method} 默认为 "prediction"
```
...
...
java/src/main/proto/general_model_service.proto
浏览文件 @
950bfe81
...
...
@@ -89,11 +89,13 @@ message Request {
message
Response
{
repeated
ModelOutput
outputs
=
1
;
repeated
int64
profile_time
=
2
;
// Error code
int32
err_no
=
3
;
bool
profile_server
=
3
;
uint64
log_id
=
4
;
// Error code
int32
err_no
=
5
;
// Error messages
string
err_msg
=
4
;
string
err_msg
=
6
;
};
message
ModelOutput
{
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录