Docker_Images_CN.md 4.9 KB
Newer Older
B
barrierye 已提交
1 2
# Docker 镜像

T
TeslaZhao 已提交
3
(简体中文|[English](Docker_Images_EN.md))
B
barrierye 已提交
4 5 6 7 8 9 10

该文档维护了 Paddle Serving 提供的镜像列表。

## 获取镜像

您可以通过两种方式获取镜像。

B
bjjwwang 已提交
11
1. 通过 TAG 直接从 dockerhub 或 `registry.baidubce.com` 拉取镜像,具体TAG请参见下文的**镜像说明**章节的表格。
B
barrierye 已提交
12 13

   ```shell
T
TeslaZhao 已提交
14
   docker pull registry.baidubce.com/paddlepaddle/serving:<TAG> 
B
barrierye 已提交
15 16 17 18 19 20 21
   ```

2. 基于 Dockerfile 构建镜像

   建立新目录,复制对应 Dockerfile 内容到该目录下 Dockerfile 文件。执行

   ```shell
T
TeslaZhao 已提交
22
   docker build -f tools/${DOCKERFILE} -t registry.baidubce.com/paddlepaddle/serving:<images-tag> .
B
barrierye 已提交
23 24 25 26 27
   ```
   

## 镜像说明

28
若需要基于源代码二次开发编译,请使用后缀为-devel的版本。
T
TeslaZhao 已提交
29
**在TAG列,0.8.0也可以替换成对应的版本号,例如0.5.0/0.4.1等,但需要注意的是,部分开发环境随着某个版本迭代才增加,因此并非所有环境都有对应的版本号可以使用。**
W
wangjiawei04 已提交
30

B
barrierye 已提交
31

W
wangjiawei04 已提交
32 33
|                         镜像选择                         |   操作系统    |             TAG              |                          Dockerfile                          |
| :----------------------------------------------------------: | :-----: | :--------------------------: | :----------------------------------------------------------: |
T
TeslaZhao 已提交
34 35 36 37 38 39
|                       CPU development                        | Ubuntu16 |         0.8.0-devel         |        [Dockerfile.devel](../tools/Dockerfile.devel)         |
|              GPU (cuda10.1-cudnn7-tensorRT6-gcc54) development               | Ubuntu16 | 0.8.0-cuda10.1-cudnn7-gcc54-devel (not ready) | [Dockerfile.cuda10.1-cudnn7-gcc54.devel](../tools/Dockerfile.cuda10.1-cudnn7-gcc54.devel) |
|              GPU (cuda10.1-cudnn7-tensorRT6) development               | Ubuntu16 | 0.8.0-cuda10.1-cudnn7-devel | [Dockerfile.cuda10.1-cudnn7.devel](../tools/Dockerfile.cuda10.1-cudnn7.devel) |
|              GPU (cuda10.2-cudnn7-tensorRT6) development               | Ubuntu16 | 0.8.0-cuda10.2-cudnn7-devel | [Dockerfile.cuda10.2-cudnn7.devel](../tools/Dockerfile.cuda10.2-cudnn7.devel) |
|              GPU (cuda10.2-cudnn8-tensorRT7) development               | Ubuntu16 | 0.8.0-cuda10.2-cudnn8-devel | [Dockerfile.cuda10.2-cudnn8.devel](../tools/Dockerfile.cuda10.2-cudnn8.devel) |
|              GPU (cuda11.2-cudnn8-tensorRT8) development               | Ubuntu16 | 0.8.0-cuda11.2-cudnn8-devel | [Dockerfile.cuda11.2-cudnn8.devel](../tools/Dockerfile.cuda11.2-cudnn8.devel) |
B
barrierye 已提交
40

W
wangjiawei04 已提交
41 42
**Java镜像:**
```
T
TeslaZhao 已提交
43
registry.baidubce.com/paddlepaddle/serving:0.8.0-cuda10.2-java
W
wangjiawei04 已提交
44 45 46 47
```

**XPU镜像:**
```
J
Jiawei Wang 已提交
48 49
registry.baidubce.com/paddlepaddle/serving:xpu-arm # for arm xpu user
registry.baidubce.com/paddlepaddle/serving:xpu-x86 # for x86 xpu user
W
wangjiawei04 已提交
50
```
B
barrierye 已提交
51

W
wangjiawei04 已提交
52

B
barrierye 已提交
53 54 55 56 57 58
## 运行CUDA容器的要求

运行CUDA容器需要至少具有一个支持CUDA的GPU以及与您所使用的CUDA工具包版本兼容的驱动程序。

运行CUDA容器的机器**只需要相应的NVIDIA驱动程序**,而CUDA工具包不是必要的。

B
barriery 已提交
59
相关CUDA工具包版本、驱动版本和GPU架构的关系请参阅 [nvidia-docker wiki](https://github.com/NVIDIA/nvidia-docker/wiki/CUDA)
W
wangjiawei04 已提交
60 61 62 63

# (附录)所有镜像列表


T
TeslaZhao 已提交
64 65
开发镜像:

W
wangjiawei04 已提交
66 67
| Env      | Version | Docker images tag            | OS        | Gcc Version |
|----------|---------|------------------------------|-----------|-------------|
T
TeslaZhao 已提交
68
|    CPU   | >=0.5.0 | 0.8.0-devel                 | Ubuntu 16 |  8.2.0       |
W
wangjiawei04 已提交
69
|          | <=0.4.0 | 0.4.0-devel                  | CentOS 7  | 4.8.5       |
T
TeslaZhao 已提交
70
| Cuda10.1 | >=0.5.0 | 0.8.0-cuda10.1-cudnn7-devel  | Ubuntu 16 |   8.2.0       |
B
bjjwwang 已提交
71
|          | <=0.4.0 | 0.4.0-cuda10.1-cudnn7-devel    | CentOS 7  | 4.8.5     |
T
TeslaZhao 已提交
72
| Cuda10.2+Cudnn7 | >=0.5.0 | 0.8.0-cuda10.2-cudnn7-devel  | Ubuntu 16 |   8.2.0       |
W
wangjiawei04 已提交
73
|          | <=0.4.0 | Nan                          | Nan       | Nan         |
T
TeslaZhao 已提交
74
| Cuda10.2+Cudnn8 | >=0.5.0 | 0.8.0-cuda10.2-cudnn8-devel  | Ubuntu 16 |   8.2.0       |
B
bjjwwang 已提交
75
|          | <=0.4.0 | Nan                          | Nan       | Nan         |
T
TeslaZhao 已提交
76
| Cuda11.2 | >=0.5.0 | 0.8.0-cuda11.2-cudnn8-devel | Ubuntu 16 |    8.2.0       |
W
wangjiawei04 已提交
77
|          | <=0.4.0 | Nan                          | Nan       | Nan         |
W
wangjiawei04 已提交
78 79 80

运行镜像:

H
huangjianhui 已提交
81
运行镜像比开发镜像更加轻量化, 运行镜像提供了serving的whl和bin,但为了运行期更小的镜像体积,没有提供诸如cmake这样但开发工具。 如果您想了解有关信息,请检查文档[在Kubernetes上使用Paddle Serving](./Run_On_Kubernetes_CN.md)
B
bjjwwang 已提交
82

S
ShiningZhang 已提交
83 84 85 86 87 88
| Env      | Version | Docker images tag            | OS        | Gcc Version | Size |
|----------|---------|------------------------------|-----------|-------------|------|
|    CPU   | 0.8.0 | 0.8.0-runtime                 | Ubuntu 16 |  8.2.0       | 3.9 GB |
| Cuda10.1 | 0.8.0 | 0.8.0-cuda10.1-cudnn7-runtime  | Ubuntu 16 |   8.2.0       | 10 GB |
| Cuda10.2 | 0.8.0 | 0.8.0-cuda10.2-cudnn8-runtime  | Ubuntu 16 |   8.2.0       | 10.1 GB |
| Cuda11.2 | 0.8.0 | 0.8.0-cuda11.2-cudnn8-runtime| Ubuntu 16 |    8.2.0       | 14.2 GB |