RUN_IN_DOCKER_CN.md 2.5 KB
Newer Older
1 2
# 如何在Docker中运行PaddleServing

J
Jiawei Wang 已提交
3
(简体中文|[English](RUN_IN_DOCKER.md))
B
fix doc  
barrierye 已提交
4

T
TeslaZhao 已提交
5 6
Docker最大的好处之一就是可移植性,可在多种操作系统和主流的云计算平台部署。使用Paddle Serving Docker镜像可在Linux、Mac和Windows平台部署。

7 8 9 10
## 环境要求

Docker(GPU版本需要在GPU机器上安装nvidia-docker)

B
barrierye 已提交
11 12
该文档以Python2为例展示如何在Docker中运行Paddle Serving,您也可以通过将`python`更换成`python3`来用Python3运行相关命令。

13 14 15 16
## CPU版本

### 获取镜像

B
barrierye 已提交
17
参考[该文档](DOCKER_IMAGES_CN.md)获取镜像:
18

W
wangjiawei04 已提交
19 20
以CPU编译镜像为例

B
barrierye 已提交
21
```shell
W
wangjiawei04 已提交
22
docker pull registry.baidubce.com/paddlepaddle/serving:latest-devel
B
barrierye 已提交
23
```
24 25 26 27

### 创建容器并进入

```bash
W
wangjiawei04 已提交
28
docker run -p 9292:9292 --name test -dit registry.baidubce.com/paddlepaddle/serving:latest-devel
29 30 31 32 33 34 35
docker exec -it test bash
```

`-p`选项是为了将容器的`9292`端口映射到宿主机的`9292`端口。

### 安装PaddleServing

W
wangjiawei04 已提交
36
镜像里自带对应镜像tag版本的`paddle_serving_server``paddle_serving_client``paddle_serving_app`,如果用户不需要更改版本,可以直接使用,适用于没有外网服务的环境。
37

W
wangjiawei04 已提交
38
如果需要更换版本,请参照首页的指导,下载对应版本的pip包。
39

W
wangjiawei04 已提交
40
## GPU 版本
41

W
wangjiawei04 已提交
42
```shell
W
wangjiawei04 已提交
43
docker pull registry.baidubce.com/paddlepaddle/serving:latest-cuda10.2-cudnn8-devel
W
wangjiawei04 已提交
44 45
```

46 47 48
### 创建容器并进入

```bash
W
wangjiawei04 已提交
49
nvidia-docker run -p 9292:9292 --name test -dit registry.baidubce.com/paddlepaddle/serving:latest-cuda10.2-cudnn8-devel
50 51
nvidia-docker exec -it test bash
```
W
wangjiawei04 已提交
52
或者
53
```bash
W
wangjiawei04 已提交
54
docker run --gpus all -p 9292:9292 --name test -dit registry.baidubce.com/paddlepaddle/serving:latest-cuda10.2-cudnn8-devel
W
wangjiawei04 已提交
55
docker exec -it test bash
56 57
```

W
wangjiawei04 已提交
58
`-p`选项是为了将容器的`9292`端口映射到宿主机的`9292`端口。
59

W
wangjiawei04 已提交
60
### 安装PaddleServing
61

W
wangjiawei04 已提交
62
镜像里自带对应镜像tag版本的`paddle_serving_server_gpu``paddle_serving_client``paddle_serving_app`,如果用户不需要更改版本,可以直接使用,适用于没有外网服务的环境。
63

W
wangjiawei04 已提交
64
如果需要更换版本,请参照首页的指导,下载对应版本的pip包。[最新安装包合集](LATEST_PACKAGES.md)
B
barrierye 已提交
65 66 67

## 注意事项

W
wangjiawei04 已提交
68 69
- 运行时镜像不能用于开发编译。如果想要从源码编译,请查看[如何编译PaddleServing](COMPILE.md)
- 由于Cuda10和Cuda9的环境受限于GCC版本,无法同时运行CPU版本的`paddle_serving_server`,因此如果想要在GPU环境中同时使用CPU版本的`paddle_serving_server`,请选择Cuda10.1,Cuda10.2和Cuda11版本的镜像。