Docker_Images_CN.md 3.7 KB
Newer Older
B
barrierye 已提交
1 2
# Docker 镜像

T
TeslaZhao 已提交
3
(简体中文|[English](Docker_Images_EN.md))
B
barrierye 已提交
4 5 6 7 8 9 10

该文档维护了 Paddle Serving 提供的镜像列表。

## 获取镜像

您可以通过两种方式获取镜像。

B
bjjwwang 已提交
11
1. 通过 TAG 直接从 dockerhub 或 `registry.baidubce.com` 拉取镜像,具体TAG请参见下文的**镜像说明**章节的表格。
B
barrierye 已提交
12 13

   ```shell
T
TeslaZhao 已提交
14
   docker pull registry.baidubce.com/paddlepaddle/serving:<TAG> 
B
barrierye 已提交
15 16 17 18 19 20 21
   ```

2. 基于 Dockerfile 构建镜像

   建立新目录,复制对应 Dockerfile 内容到该目录下 Dockerfile 文件。执行

   ```shell
T
TeslaZhao 已提交
22
   docker build -f tools/${DOCKERFILE} -t registry.baidubce.com/paddlepaddle/serving:<images-tag> .
B
barrierye 已提交
23 24 25 26 27
   ```
   

## 镜像说明

28
若需要基于源代码二次开发编译,请使用后缀为-devel的版本。
T
TeslaZhao 已提交
29
**在TAG列,0.9.0也可以替换成对应的版本号,例如0.5.0/0.4.1等,但需要注意的是,部分开发环境随着某个版本迭代才增加,因此并非所有环境都有对应的版本号可以使用。**
W
wangjiawei04 已提交
30

T
TeslaZhao 已提交
31
**开发镜像:**
T
TeslaZhao 已提交
32

T
TeslaZhao 已提交
33
开发镜像中安装多种开发工具,可用于调试和编译代码,适配2种 GCC 版本和多种 CUDA 环境,但镜像体积较大。
B
barrierye 已提交
34

W
wangjiawei04 已提交
35 36
|                         镜像选择                         |   操作系统    |             TAG              |                          Dockerfile                          |
| :----------------------------------------------------------: | :-----: | :--------------------------: | :----------------------------------------------------------: |
T
TeslaZhao 已提交
37 38 39 40
|                       CPU development                        | Ubuntu16 |         0.9.0-devel         |        [Dockerfile.devel](../tools/Dockerfile.devel)         |
|              GPU (cuda10.1-cudnn7-tensorRT6) development               | Ubuntu16 | 0.9.0-cuda10.1-cudnn7-devel | [Dockerfile.cuda10.1-cudnn7.devel](../tools/Dockerfile.cuda10.1-cudnn7.devel) |
|              GPU (cuda10.2-cudnn8-tensorRT7) development               | Ubuntu16 | 0.9.0-cuda10.2-cudnn8-devel | [Dockerfile.cuda10.2-cudnn8.devel](../tools/Dockerfile.cuda10.2-cudnn8.devel) |
|              GPU (cuda11.2-cudnn8-tensorRT8) development               | Ubuntu16 | 0.9.0-cuda11.2-cudnn8-devel | [Dockerfile.cuda11.2-cudnn8.devel](../tools/Dockerfile.cuda11.2-cudnn8.devel) |
B
barrierye 已提交
41

T
TeslaZhao 已提交
42

T
TeslaZhao 已提交
43
**运行镜像:**
T
TeslaZhao 已提交
44 45 46 47 48

运行镜像比开发镜像更加轻量化, 运行镜像提供了serving的whl和bin,但为了运行期更小的镜像体积,没有提供诸如cmake这样但开发工具。 如果您想了解有关信息,请检查文档[在Kubernetes上使用Paddle Serving](./Run_On_Kubernetes_CN.md)

| Env      | Version | Docker images tag            | OS        | Gcc Version | Size |
|----------|---------|------------------------------|-----------|-------------|------|
T
TeslaZhao 已提交
49 50 51 52
|    CPU   | 0.9.0 | 0.9.0-runtime                 | Ubuntu 16 |  8.2.0       | 3.9 GB |
| CUDA 10.1 + cuDNN 7 | 0.9.0 | 0.9.0-cuda10.1-cudnn7-runtime  | Ubuntu 16 |   8.2.0       | 10 GB |
| CUDA 10.2 + cuDNN 8 | 0.9.0 | 0.9.0-cuda10.2-cudnn8-runtime  | Ubuntu 16 |   8.2.0       | 10.1 GB |
| CUDA 11.2 + cuDNN 8 | 0.9.0 | 0.9.0-cuda11.2-cudnn8-runtime  | Ubuntu 16 |   8.2.0       | 14.2 GB |
T
TeslaZhao 已提交
53 54


W
wangjiawei04 已提交
55 56
**Java镜像:**
```
T
TeslaZhao 已提交
57
registry.baidubce.com/paddlepaddle/serving:0.9.0-cuda11.2-java
W
wangjiawei04 已提交
58 59 60 61
```

**XPU镜像:**
```
J
Jiawei Wang 已提交
62 63
registry.baidubce.com/paddlepaddle/serving:xpu-arm # for arm xpu user
registry.baidubce.com/paddlepaddle/serving:xpu-x86 # for x86 xpu user
W
wangjiawei04 已提交
64
```
B
barrierye 已提交
65

W
wangjiawei04 已提交
66

B
barrierye 已提交
67 68 69 70 71 72
## 运行CUDA容器的要求

运行CUDA容器需要至少具有一个支持CUDA的GPU以及与您所使用的CUDA工具包版本兼容的驱动程序。

运行CUDA容器的机器**只需要相应的NVIDIA驱动程序**,而CUDA工具包不是必要的。

B
barriery 已提交
73
相关CUDA工具包版本、驱动版本和GPU架构的关系请参阅 [nvidia-docker wiki](https://github.com/NVIDIA/nvidia-docker/wiki/CUDA)
W
wangjiawei04 已提交
74 75