From 30cd389bb8abca7b2a3d16f74504401ceb777ff2 Mon Sep 17 00:00:00 2001 From: Dong Daxiang <35550832+guru4elephant@users.noreply.github.com> Date: Fri, 20 Mar 2020 22:59:14 +0800 Subject: [PATCH] Update DESIGN_DOC.md --- doc/DESIGN_DOC.md | 9 +++++++++ 1 file changed, 9 insertions(+) diff --git a/doc/DESIGN_DOC.md b/doc/DESIGN_DOC.md index 2235aa7c..cb505dbc 100644 --- a/doc/DESIGN_DOC.md +++ b/doc/DESIGN_DOC.md @@ -26,6 +26,15 @@ serving_io.save_model("serving_model", "client_conf", ``` #### 2.1.2 服务端模型加载 +当前Paddle Serving中的预估引擎支持在CPU/GPU上进行预测,对应的预测服务安装包以及镜像也有两个。但无论是CPU上进行模型预估还是GPU上进行模型预估,普通模型的预测都可用一行命令进行启动。 +``` shell +python -m paddle_serving_server.serve --model your_servable_model --thread 10 --port 9292 +``` +``` shell +python -m paddle_serving_server_gpu.serve --model your_servable_model --thread 10 --port 9292 +``` +服务端的预测逻辑也可以通过Paddle Serving Server端的API进行人工定义,一个例子: + #### 2.1.3 客户端访问API -- GitLab