Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
Serving
提交
15d611f9
S
Serving
项目概览
PaddlePaddle
/
Serving
1 年多 前同步成功
通知
186
Star
833
Fork
253
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
105
列表
看板
标记
里程碑
合并请求
10
Wiki
2
Wiki
分析
仓库
DevOps
项目成员
Pages
S
Serving
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
105
Issue
105
列表
看板
标记
里程碑
合并请求
10
合并请求
10
Pages
分析
分析
仓库分析
DevOps
Wiki
2
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
15d611f9
编写于
1月 10, 2022
作者:
T
TeslaZhao
提交者:
GitHub
1月 10, 2022
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Update Run_On_Kubernetes_CN.md
上级
2efc4eab
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
8 addition
and
8 deletion
+8
-8
doc/Run_On_Kubernetes_CN.md
doc/Run_On_Kubernetes_CN.md
+8
-8
未找到文件。
doc/Run_On_Kubernetes_CN.md
浏览文件 @
15d611f9
...
...
@@ -2,13 +2,13 @@
Paddle Serving在0.6.0版本开始支持在Kubenetes集群上部署,并提供反向代理和安全网关支持。与Paddle Serving在Docker镜像中开发类似,Paddle Serving 模型在Kubenetes集群部署需要制作轻量化的运行镜像,并使用kubectl工具在集群上部署。
### 集群准备
###
1.
集群准备
如果您还没有Kubenetes集群,我们推荐
[
购买并使用百度智能云CCE集群
](
https://cloud.baidu.com/doc/CCE/index.html
)
. 如果是其他云服务商提供的集群,或者自行安装Kubenetes集群,请遵照对应的教程。
您还需要准备一个用于Kubenetes集群部署使用的镜像仓库,通常与云服务提供商绑定,如果您使用的是百度智能云的CCE集群,可以参照
[
百度智能云CCR镜像仓库使用方式
](
https://cloud.baidu.com/doc/CCR/index.html
)
。当然Docker Hub也可以作为镜像仓库,但是可能在部署时会出现下载速度慢的情况。
### 环境准备
###
2.
环境准备
需要在Kubenetes集群上安装网关工具KONG。
...
...
@@ -16,20 +16,20 @@ Paddle Serving在0.6.0版本开始支持在Kubenetes集群上部署,并提供
kubectl apply -f https://bit.ly/kong-ingress-dbless
```
### 选择Serving开发镜像 (可选)
您可以直接选择已生成的Serving
[
DOCKER开发镜像列表
](
./Docker_Images_CN.md
)
作为Kubernetes部署的首选,携带了开发工具,可用于调试和编译代码。
### 制作Serving运行镜像(可选)
### 制作Serving运行镜像(可选):
与
[
DOCKER开发镜像列表
](
./Docker_Images_CN.md
)
文档相比,开发镜像用于调试、编译代码,携带了大量的开发工具,因此镜像体积较大。运行镜像通常容器体积更小的轻量级容器,可在边缘端设备上部署。如您不需要轻量级运行容器,请直接跳过这一部分。
首先您需要确定运行镜像的具体环境。和
[
DOCKER开发镜像列表
](
./Docker_Images_CN.md
)
文档相比,开发镜像用于调试、编译代码,携带了大量的开发工具,因此镜像体积较大。运行镜像通常要求缩小容器体积以提高部署的灵活性。如果您不太需要轻量级的运行容器,请直接跳过这一部分。
在
`tools/generate_runtime_docker.sh`
文件下,它的使用方式如下
我们提供了运行镜像的生成脚本在Serving代码库下
`tools/generate_runtime_docker.sh`
文件,通过以下命令可生成代码。
```
bash
bash tools/generate_runtime_docker.sh
--env
cuda10.1
--python
3.7
--image_name
serving_runtime:cuda10.1-py37
--paddle
2.2.0
--serving
0.7.0
```
会生成 cuda10.1,python 3.7,serving版本0.7.0 还有 paddle版本2.2.0的运行镜像。如果有其他疑问,可以执行下列语句得到帮助信息。
如果您需要老版本Serving运行镜像,请checkout到老版本分支。
会生成 cuda10.1,python 3.7,serving版本0.7.0 还有 paddle版本2.2.0的运行镜像。如果有其他疑问,可以执行下列语句得到帮助信息。强烈建议您使用最新的paddle和serving的版本(2个版本是对应的如paddle 2.2.x 与serving 0.7.0对应,paddle 2.1.x 与 serving 0.6.x对应),因为更早的版本上出现的错误只在最新版本修复,无法在历史版本中修复。
```
bash tools/generate_runtime_docker.sh --help
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录