docker_install.rst 5.2 KB
Newer Older
Z
zhangjinchao01 已提交
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27
安装PaddlePaddle的Docker镜像
============================

PaddlePaddle提供了Docker的使用镜像。PaddlePaddle推荐使用Docker进行Paddle的部署和
运行。Docker是一个基于容器的轻量级虚拟环境。具有和宿主机差不多的运行效率,并提供
了非常方便的二进制分发手段。

下述内容将分为如下几个类别描述。

* PaddlePaddle提供的Docker镜像版本
* 下载和运行Docker镜像
* 注意事项

PaddlePaddle提供的Docker镜像版本
--------------------------------

我们提供了6个Docker image\:

* paddledev/paddlepaddle\:latest-cpu\: Paddle的CPU二进制
* paddledev/paddlepaddle\:latest-gpu\: Paddle的GPU二进制
* paddledev/paddlepaddle\:latest-cpu-devel\: Paddle的CPU二进制,同时包含CPU开发环境和源码
* paddledev/paddlepaddle\:latest-gpu-devel\: Paddle的GPU二进制,同时包含GPU开发环境和源码
* paddledev/paddlepaddle\:latest-cpu-demo\: Paddle的CPU二进制,同时包含CPU开发环境、源码和运行demo的必要依赖
* paddledev/paddlepaddle\:latest-gpu-demo\: Paddle的GPU二进制,同时包含GPU开发环境、源码和运行demo的必要依赖

同时,不同的稳定版本,会将latest替换成稳定版本的版本号。

28
PaddlePaddle提供的镜像并不包含任何命令运行,想要运行PaddlePaddle,您需要进入镜像运行paddlePaddle
Z
zhangjinchao01 已提交
29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120
程序或者自定义一个含有启动脚本的image。具体请参考注意事项中的 
`使用ssh访问paddle镜像`

下载和运行Docker镜像
--------------------

为了运行PaddlePaddle的docker镜像,您需要在机器中安装好Docker。安装Docker需要您的机器
至少具有3.10以上的linux kernel。安装方法请参考
`Docker的官方文档 <https://docs.docker.com/engine/installation/>`_ 。如果您使用
mac osx或者是windows机器,请参考 
`mac osx的安装文档 <https://docs.docker.com/engine/installation/mac/>`_ 和
`windows 的安装文档 <https://docs.docker.com/engine/installation/windows/>`_ 。

您可以使用 :code:`docker pull` 命令预先下载镜像,也可以直接执行 
:code:`docker run` 命令运行镜像。执行方法如下:

..  code-block:: bash
    
    $ docker run -it paddledev/paddlepaddle:latest-cpu

即可启动和进入PaddlePaddle的container。如果运行GPU版本的PaddlePaddle,则需要先将
cuda相关的Driver和设备映射进container中,脚本类似于

..  code-block:: bash

    $ export CUDA_SO="$(\ls /usr/lib64/libcuda* | xargs -I{} echo '-v {}:{}') $(\ls /usr/lib64/libnvidia* | xargs -I{} echo '-v {}:{}')"
    $ export DEVICES=$(\ls /dev/nvidia* | xargs -I{} echo '--device {}:{}')
    $ docker run -it paddledev/paddlepaddle:latest-gpu

进入Docker container后,运行 :code:`paddle version` 即可打印出paddle的版本和构建
信息。安装完成的paddle主体包括三个部分, :code:`paddle` 脚本, python的 
:code:`paddle`包和:code:`py_paddle`包。其中\:

* :code:`paddle`脚本和:code:`paddle`的python包是paddle的训练主要程序。使用 
  :code:`paddle`脚本可以启动paddle的训练进程和pserver。而:code:`paddle`脚本
  中的二进制使用了:code:`paddle`的python包来做配置文件解析等工作。
* python包:code:`py_paddle`是一个swig封装的paddle包,用来做预测和简单的定制化
  训练。

注意事项
--------

性能问题
++++++++

由于Docker是基于容器的轻量化虚拟方案,所以在CPU的运算性能上并不会有严重的影响。
而GPU的驱动和设备全部映射到了容器内,所以GPU在运算性能上也不会有严重的影响。

但是如果使用了高性能的网卡,例如RDMA网卡(RoCE 40GbE 或者 IB 56GbE),或者高性能的
以太网卡 (10GbE)。推荐使用将本地网卡,即 "--net=host" 来进行训练。而不使用docker
的网桥来进行网络通信。

远程访问问题和二次开发
++++++++++++++++++++++

由于Paddle的Docker镜像并不包含任何预定义的运行命令。所以如果想要在后台启用ssh
远程访问,则需要进行一定的二次开发,将ssh装入系统内并开启远程访问。二次开发可以
使用Dockerfile构建一个全新的docker image。需要参考 
`Dockerfile的文档 <https://docs.docker.com/engine/reference/builder/>`_ 和
`Dockerfile的最佳实践 <https://docs.docker.com/engine/userguide/eng-image/dockerfile_best-practices/>`_ 
两个文档。

简单的含有ssh的Dockerfile如下:

..  literalinclude:: paddle_ssh.Dockerfile

使用该Dockerfile构建出镜像,然后运行这个container即可。相关命令为\:

..  code-block:: bash

    # cd到含有Dockerfile的路径中
    $ docker build . -t paddle_ssh
    # 运行这个container,将宿主机的8022端口映射到container的22端口上
    $ docker run -d -p 8022:22  --name paddle_ssh_machine paddle_ssh

执行如下命令即可以关闭这个container,并且删除container中的数据\:

..  code-block:: bash
    
    # 关闭container
    $ docker stop paddle_ssh_machine
    # 删除container
    $ docker rm paddle_ssh_machine

如果想要在外部机器访问这个container,即可以使用ssh访问宿主机的8022端口。用户名为
root,密码也是root。命令为\:

..  code-block:: bash

    $ ssh -p 8022 root@YOUR_HOST_MACHINE

至此,您就可以远程的使用PaddlePaddle啦。