Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
Serving
提交
83572d9a
S
Serving
项目概览
PaddlePaddle
/
Serving
大约 1 年 前同步成功
通知
186
Star
833
Fork
253
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
105
列表
看板
标记
里程碑
合并请求
10
Wiki
2
Wiki
分析
仓库
DevOps
项目成员
Pages
S
Serving
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
105
Issue
105
列表
看板
标记
里程碑
合并请求
10
合并请求
10
Pages
分析
分析
仓库分析
DevOps
Wiki
2
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
83572d9a
编写于
2月 22, 2021
作者:
T
Thomas Young
提交者:
GitHub
2月 22, 2021
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix doc
fix doc
上级
db0822c6
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
11 addition
and
8 deletion
+11
-8
java/README_CN.md
java/README_CN.md
+11
-8
未找到文件。
java/README_CN.md
浏览文件 @
83572d9a
...
...
@@ -103,17 +103,20 @@ cd ../../../java/examples/target
java -cp paddle-serving-sdk-java-examples-0.0.1-jar-with-dependencies.jar PipelineClientExample indarray_predict
```
###
二次开发指导
###
注意事项
上述示例是在CPU模式下运行,如果需要GPU模式,可以有两种选择。
1.
在示例中,所有非Pipeline模型都需要使用
`--use_multilang`
来启动GRPC多编程语言支持,以及端口号都是9393,如果需要别的端口,需要在java文件里修改
第一种是GPU Serving和Java Client在同一个镜像,需要用户在启动对应的镜像后,把java镜像当中的/Serving/java移动到对应的镜像中
。
2.
目前Serving已推出Pipeline模式(详见
[
Pipeline Serving
](
../doc/PIPELINE_SERVING_CN.md
)
),面向Java的Pipeline Serving Client已发布
。
第二种是GPU Serving和Java Client分开部署,如果在同一台宿主机,可以通过ifconfig了解对应容器的IP地址,然后在
`examples/src/main/java/PaddleServingClientExample.java`
当中对client.connect时的endpoint做修改,然后再编译一次。 或者在docker启动时选择
`--net=host`
来绑定docker和宿主机的网络设备,这样不需要定制java代码可以直接运行
。
3.
注意java/examples/src/main/java/PipelineClientExample.java中的ip和port,需要与/python/examples/pipeline/中对应Pipeline server的config.yaml文件中配置的ip和port相对应
。
**需要注意的是,在示例中,所有非Pipeline模型都需要使用`--use_multilang`来启动GRPC多编程语言支持,以及端口号都是9393,如果需要别的端口,需要在java文件里修改**
### 开发部署指导
由于Java的docker镜像中不含有Serving需要的编译开发环境,Serving的常规docker镜像中也不包含Java所需要的编译开发环境,故下面以GPU模式为例,讲解开发部署的两种形式。
第一种是GPU Serving和Java Client在运行在同一个GPU对应的镜像中,需要用户在启动对应的GPU镜像后,把在java镜像中编译完成后的文件(位于/Serving/java目录下)拷贝到GPU镜像中。
第二种是GPU Serving和Java Client分别在对应的docker镜像中(或具备编译开发环境的不同主机上)部署,此时仅需注意在
`examples/src/main/java/PaddleServingClientExample.java`
当中对client.connect时的endpoint做修改,于对应的server的config.yaml文件中配置的ip和port相对应即可。
**目前Serving已推出Pipeline模式(详见[Pipeline Serving](../doc/PIPELINE_SERVING_CN.md)),面向Java的Pipeline Serving Client已发布。**
**
需要注意的是,Java Pipeline Client相关示例在/Java/Examples和/Java/src/main中,对应的Pipeline server在/python/examples/pipeline/中
注意java/examples/src/main/java/PipelineClientExample.java中的ip和port,需要与/python/examples/pipeline/中对应Pipeline server的config.yaml文件中配置的ip和port相对应。
**
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录