diff --git a/doc/fluid/beginners_guide/install/index_cn.rst b/doc/fluid/beginners_guide/install/index_cn.rst index 94b713c864e2e8893b0d8ab260a238db96baf184..1d7be7c3bba698490c1d7e59dc6eaff8f871fa63 100644 --- a/doc/fluid/beginners_guide/install/index_cn.rst +++ b/doc/fluid/beginners_guide/install/index_cn.rst @@ -49,5 +49,4 @@ PaddlePaddle目前支持以下环境： install_Windows.md install_Docker.md compile/fromsource.rst - FAQ.md Tables.md diff --git a/doc/fluid/beginners_guide/install/index_en.rst b/doc/fluid/beginners_guide/install/index_en.rst index fa8a7394880454f7ce8ef7a0af7395f9094887d9..07638774e6ada8dbfdfe65fca2cc27807e61ee13 100644 --- a/doc/fluid/beginners_guide/install/index_en.rst +++ b/doc/fluid/beginners_guide/install/index_en.rst @@ -42,5 +42,4 @@ And the installation assumes your computer possesses 64-bit operating system, an install_MacOS_en.md install_Windows_en.md compile/fromsource_en.rst - FAQ_en.md Tables_en.md diff --git a/doc/fluid/faq/index_cn.rst b/doc/fluid/faq/index_cn.rst index b8db76665932c117cc309747bf50a8718e31bad1..f44fc147434a0c06442a5ddc7439e2f46870d524 100644 --- a/doc/fluid/faq/index_cn.rst +++ b/doc/fluid/faq/index_cn.rst @@ -7,4 +7,4 @@ FAQ install_cn.rst train_cn.rst - inferense_cn.rst + inference_cn.rst diff --git a/doc/fluid/faq/inference_cn.md b/doc/fluid/faq/inference_cn.md new file mode 100644 index 0000000000000000000000000000000000000000..4bff59cb42af7731b77414a92e32544d27796451 --- /dev/null +++ b/doc/fluid/faq/inference_cn.md @@ -0,0 +1,57 @@ +# 预测引擎 + + + +## 常见问题 + +##### Q: 模型保存成功，但加载失败 + ++ 问题描述 + +VGG模型，训练时候使用`fluid.io.save_inference_model`保存模型，预测的时候使用`fluid.io.load_inference_model`加载模型文件。保存的是我自己训练的 VGG 模型。保存没问题，加载的时候报错`paddle.fluid.core.EnforceNotMet: Cannot read more from file` ？ + ++ 问题解答 + +错误提示可能的原因如下，请检查。 + +1、 模型文件有损坏或缺失。 + +2、 模型参数和模型结构不匹配。 + +## 同时多模型问题 + +##### Q: 加载两个模型失败 + ++ 问题描述 + +infer时，当先后加载检测和分类两个网络时，分类网络的参数为什么未被load进去？ + ++ 问题解答 + +尝试两个模型在不同的scope里面infer，使用`with fluid.scope_guard(new_scope)`，另外定义模型前加上`with fluid.unique_name.guard()`解决。 + +##### Q: 同时使用两个模型报错 + ++ 问题描述 + +两个模型都load之后，用第一个模型的时候会报错？ + ++ 问题解答 + +由于用`load_inference_model`的时候会修改一些用户不可见的环境变量，所以执行后一个`load_inference_model`的时候会把前一个模型的环境变量覆盖，导致前一个模型不能用，或者说再用的时候就需要再加载一次。此时需要用如下代码保护一下，[参考详情](https://github.com/PaddlePaddle/Paddle/issues/16661)。 + +``` +xxx_scope = fluid.core.Scope() +with fluid.scope_guard(xxx_scope): + [...] = fluid.load_inference_model(...) +``` + +##### Q: 多线程预测失败 + ++ 问题描述 + +c++调用paddlepaddle多线程预测出core？ + ++ 问题解答 + +Paddle predict 库里没有多线程的实现，当上游服务并发时，需要用户起多个预测服务，[参考示例](http://paddlepaddle.org/documentation/docs/zh/1.3/advanced_usage/deploy/inference/native_infer.html)。 diff --git a/doc/fluid/faq/inferense_cn.md b/doc/fluid/faq/inferense_cn.md deleted file mode 100644 index 342a572d85924938fc6a604ceda3a0a9e0e20a37..0000000000000000000000000000000000000000 --- a/doc/fluid/faq/inferense_cn.md +++ /dev/null @@ -1,71 +0,0 @@ -# 预测引擎 - -### Q：VGG模型，训练时候使用`fluid.io.save_inference_model`保存模型，预测的时候使用`fluid.io.load_inference_model`加载模型文件。保存的是我自己训练的 VGG 模型。保存没问题，加载的时候报错`paddle.fluid.core.EnforceNotMet: Cannot read more from file` ？ -+ 版本、环境信息 -1）PaddlePaddle版本：Paddle Fluid 1.2.0。 -2）系统环境：Linux，Python2.7。 -+ 错误信息 -``` -Traceback (most recent call last): - File "classify-infer.py", line 43, in - executor=exe) - File "/home/work/xiangyubo/paddle_release_home/python/lib/python2.7/site-packages/paddle/fluid/io.py", line 784, in load_inference_model - load_persistables(executor, dirname, program, params_filename) - File "/home/work/xiangyubo/paddle_release_home/python/lib/python2.7/site-packages/paddle/fluid/io.py", line 529, in load_persistables - filename=filename) - File "/home/work/xiangyubo/paddle_release_home/python/lib/python2.7/site-packages/paddle/fluid/io.py", line 395, in load_vars - filename=filename) - File "/home/work/xiangyubo/paddle_release_home/python/lib/python2.7/site-packages/paddle/fluid/io.py", line 436, in load_vars - executor.run(load_prog) - File "/home/work/xiangyubo/paddle_release_home/python/lib/python2.7/site-packages/paddle/fluid/executor.py", line 472, in run - self.executor.run(program.desc, scope, 0, True, True) -paddle.fluid.core.EnforceNotMet: Cannot read more from file ./classify-model/vgg-classify-params at [/paddle/paddle/fluid/operators/load_combine_op.cc:58] -PaddlePaddle Call Stacks: -0 0x7f4bdb4b2226p paddle::platform::EnforceNotMet::EnforceNotMet(std::__exception_ptr::exception_ptr, char const*, int) + 486 -1 0x7f4bdbb97ab4p paddle::operators::LoadCombineOp::RunImpl(paddle::framework::Scope const&, boost::variant const&) const + 2004 -2 0x7f4bdcda56afp paddle::framework::OperatorBase::Run(paddle::framework::Scope const&, boost::variant const&) + 463 -3 0x7f4bdb588ef3p paddle::framework::Executor::RunPreparedContext(paddle::framework::ExecutorPrepareContext*, paddle::framework::Scope*, bool, bool, bool) + 227 -4 0x7f4bdb589920p paddle::framework::Executor::Run(paddle::framework::ProgramDesc const&, paddle::framework::Scope*, int, bool, bool) + 128 -5 0x7f4bdb49e0dbp -6 0x7f4bdb4da18ep -7 0x7f4c3efcabb8p PyEval_EvalFrameEx + 25016 -8 0x7f4c3efce0bdp PyEval_EvalCodeEx + 2061 -9 0x7f4c3efcb345p PyEval_EvalFrameEx + 26949 -10 0x7f4c3efce0bdp PyEval_EvalCodeEx + 2061 -11 0x7f4c3efcb345p PyEval_EvalFrameEx + 26949 -12 0x7f4c3efce0bdp PyEval_EvalCodeEx + 2061 -13 0x7f4c3efcb345p PyEval_EvalFrameEx + 26949 -14 0x7f4c3efce0bdp PyEval_EvalCodeEx + 2061 -15 0x7f4c3efcb345p PyEval_EvalFrameEx + 26949 -16 0x7f4c3efce0bdp PyEval_EvalCodeEx + 2061 -17 0x7f4c3efcb345p PyEval_EvalFrameEx + 26949 -18 0x7f4c3efce0bdp PyEval_EvalCodeEx + 2061 -19 0x7f4c3efce1f2p PyEval_EvalCode + 50 -20 0x7f4c3eff6f42p PyRun_FileExFlags + 146 -21 0x7f4c3eff82d9p PyRun_SimpleFileExFlags + 217 -22 0x7f4c3f00e00dp Py_Main + 3149 -23 0x7f4c3e20bbd5p __libc_start_main + 245 -24 0x4007a1p -``` -+ 问题解答 -错误提示可能的原因如下，请检查。 -1、 模型文件有损坏或缺失。 -2、 模型参数和模型结构不匹配。 - -### Q：infer时，当先后加载检测和分类两个网络时，分类网络的参数为什么未被load进去？ -+ 问题解答 -尝试两个模型在不同的scope里面infer，使用`with fluid.scope_guard(new_scope)`，另外定义模型前加上`with fluid.unique_name.guard()`解决。 - -### Q：c++调用paddlepaddle多线程预测出core？ -+ 问题解答 -Paddle predict 库里没有多线程的实现，当上游服务并发时，需要用户起多个预测服务，[参考示例](http://paddlepaddle.org/documentation/docs/zh/1.3/advanced_usage/deploy/inference/native_infer.html)。 - - -### Q：两个模型都load之后，用第一个模型的时候会报错？ -+ 问题解答 -由于用`load_inference_model`的时候会修改一些用户不可见的环境变量，所以执行后一个`load_inference_model`的时候会把前一个模型的环境变量覆盖，导致前一个模型不能用，或者说再用的时候就需要再加载一次。此时需要用如下代码保护一下，[参考详情](https://github.com/PaddlePaddle/Paddle/issues/16661)。 -``` -xxx_scope = fluid.core.Scope() -with fluid.scope_guard(xxx_scope): - [...] = fluid.load_inference_model(...) -``` diff --git a/doc/fluid/faq/install_cn.md b/doc/fluid/faq/install_cn.md index 1d5278bfcf622cfeaf50b1881ce6a0d9908628ce..d1c9a79c42a16ed8f10c28d35dc8d1786e07c227 100644 --- a/doc/fluid/faq/install_cn.md +++ b/doc/fluid/faq/install_cn.md @@ -1,146 +1,417 @@ - # 安装与编译 - -## Linux安装PaddlePaddle -### Q：Ubuntu18.10、CPU版本、Python3.6编译错误如何解决？ -+ 版本、环境信息 -1）PaddlePaddle版本：Github develop版本 -2）CPU：vmware14 -3）GPU：非GPU -4）系统环境：Ubuntu18.10 64位 Python3.6 -+ 安装方式信息：[本地编译](http://paddlepaddle.org/documentation/docs/zh/1.3/beginners_guide/install/compile/compile_Ubuntu.html/#ubt_source)中本机编译第十步make 命令 -+ 错误信息 -``` -[100%] Built target warpctc -Install the project... --- Install configuration: "Release" --- Installing: /home/eason/main/source/ai/alg/Paddle/Paddle/build/third_party/install/warpctc/lib/libwarpctc.so --- Installing: /home/eason/main/source/ai/alg/Paddle/Paddle/build/third_party/install/warpctc/include/ctc.h -[ 5%] Completed 'extern_warpctc' -[ 5%] Built target extern_warpctc -Scanning dependencies of target extern_gzstream -[ 5%] Creating directories for 'extern_gzstream' -[ 5%] Performing download step (git clone) for 'extern_gzstream' -Cloning into 'extern_gzstream'... -Already on 'master' -Your branch is up to date with 'origin/master'. -[ 5%] No patch step for 'extern_gzstream' -[ 5%] No update step for 'extern_gzstream' -[ 5%] No configure step for 'extern_gzstream' -[ 5%] Performing build step for 'extern_gzstream' -CPPFLAGS: "-I/home/eason/main/source/ai/alg/Paddle/Paddle/build/third_party/install/zlib/include" -I. -fPIC -O -LDFLAGS: "-L/home/eason/main/source/ai/alg/Paddle/Paddle/build/third_party/install/zlib/lib" -L. -lgzstream -lz -[ 5%] Performing install step for 'extern_gzstream' -[ 5%] Completed 'extern_gzstream' -[ 5%] Built target extern_gzstream -Scanning dependencies of target place -[ 5%] Building CXX object paddle/fluid/platform/CMakeFiles/place.dir/place.cc.o -In file included from /home/eason/main/source/ai/alg/Paddle/Paddle/build/third_party/boost/src/extern_boost/boost/mpl/aux_/na_assert.hpp:23, -from /home/eason/main/source/ai/alg/Paddle/Paddle/build/third_party/boost/src/extern_boost/boost/mpl/arg.hpp:25, -from /home/eason/main/source/ai/alg/Paddle/Paddle/build/third_party/boost/src/extern_boost/boost/variant/variant_fwd.hpp:19, -from /home/eason/main/source/ai/alg/Paddle/Paddle/build/third_party/boost/src/extern_boost/boost/variant/variant.hpp:27, -from /home/eason/main/source/ai/alg/Paddle/Paddle/build/third_party/boost/src/extern_boost/boost/variant.hpp:17, -from /home/eason/main/source/ai/alg/Paddle/Paddle/paddle/fluid/platform/variant.h:45, -from /home/eason/main/source/ai/alg/Paddle/Paddle/paddle/fluid/platform/place.h:21, -from /home/eason/main/source/ai/alg/Paddle/Paddle/paddle/fluid/platform/place.cc:15: -/home/eason/main/source/ai/alg/Paddle/Paddle/build/third_party/boost/src/extern_boost/boost/mpl/assert.hpp:154:21: error: unnecessary parentheses in declaration of ‘assert_arg’ [-Werror=parentheses] -failed ************ (Pred::************ -^ -/home/eason/main/source/ai/alg/Paddle/Paddle/build/third_party/boost/src/extern_boost/boost/mpl/assert.hpp:159:21: error: unnecessary parentheses in declaration of ‘assert_not_arg’ [-Werror=parentheses] -failed ************ (boost::mpl::not_::************ -^ -cc1plus: all warnings being treated as errors -make[2]: *** [paddle/fluid/platform/CMakeFiles/place.dir/build.make:63: paddle/fluid/platform/CMakeFiles/place.dir/place.cc.o] Error 1 -make[1]: *** [CMakeFiles/Makefile2:2670: paddle/fluid/platform/CMakeFiles/place.dir/all] Error 2 -make: *** [Makefile:152: all] Error 2 +# 安装与编译 + + + + +## 下载速度慢 + +##### Q: pip install过于缓慢 + ++ 问题描述: + +使用pip或pip3.5/pip3.6/pip3.7 install paddlepaddle时出现下载过慢的情况 + ++ 问题解答: + +可以在使用pip的时候在后面加上-i参数，指定pip源，使用国内源加速： + +Python2: + +`pip install paddlepaddle -i http://pypi.douban.com/simple/` + +Python3: + +`pip3 install paddlepaddle -i http://pypi.douban.com/simple/` + +这里也可以将 -i 后的参数换成：https://mirrors.aliyun.com/pypi/simple/ + +##### Q: github下载耗时 + ++ 问题描述 + +使用`git clone https://github.com/PaddlePaddle/models.git`命令下载models目录耗时数个小时 + ++ 问题解答 + +有两种加速方法（需要管理员权限root/administration）: + +1. 编辑hosts 文件 + + Linux/Mac：`vim/etc/hosts` + + Windows：双击 `C:\Windows\System32\drivers\etc\hosts` + +2. 添加下面两行内容到hosts文件中 + + `151.101.72.249 github.global.ssl.fastly.net` + + `192.30.253.112 github.com` + + +## 环境问题 + +##### Q: CPU版本可运行，GPU版本运行失败 + ++ 问题描述 + +版本为paddlepaddle_gpu-0.14.0.post87-cp27-cp27mu-manylinux1_x86_64.whl，跑一个简单的测试程序，出现Segmentation fault。其中 如果place为cpu，可以正常输出，改成gpu则core。 + ++ 问题解答 + +安装版本为`paddlepaddle_gpu-0.14.0.post87-cp27-cp27mu-manylinux1_x86_64.whl`，其中post87是指在CUDA8.0、cudnn7.0编译的，请确定您机器上是否安装了对应版本的cuDNN。造成问题描述中现象的情况通常可能是环境不匹配导致的。 + +##### Q: 可以用 IDE 吗？ + ++ 问题解答 + +当然可以，因为源码就在本机上。IDE 默认调用 make 之类的程序来编译源码，我们只需要配置 IDE 来调用 Docker 命令编译源码即可。 + +很多 PaddlePaddle 开发者使用 Emacs。他们在自己的 `~/.emacs` 配置文件里加两行: + +`global-set-key "\C-cc" 'compile` + +`setq compile-command "docker run --rm -it -v $(git rev-parse --show-toplevel):/paddle paddle:dev"` + +就可以按 `Ctrl-C` 和 `c` 键来启动编译了。 + +##### Q: 可以并行编译吗？ + ++ 问题解答 + +是的。我们的 Docker image 运行一个 [Bash 脚本](https://github.com/PaddlePaddle/Paddle/blob/develop/paddle/scripts/paddle_build.sh)。这个脚本调用`make -j$(nproc)` 来启动和 CPU 核一样多的进程来并行编译。 + +##### Q: 磁盘不够？ + ++ 问题解答 + +在本文中的例子里，`docker run` 命令里都用了 `--rm` 参数，这样保证运行结束之后的 containers 不会保留在磁盘上。可以用 `docker ps -a` 命令看到停止后但是没有删除的 containers。`docker build` 命令有时候会产生一些中间结果，是没有名字的 images，也会占用磁盘。 + + +## CPU + +### 源代码编译问题 + +#### Linux系统 + +##### Q: CentOS6下如何编译python2.7为共享库 + ++ 问题解答 + +使用以下指令： + +``` +./configure --prefix=/usr/local/python2.7 --enable-shared +make && make install ``` + +##### Q: 安装swig后找不到swig + ++ 问题描述 + +ubuntu14编译安装时已经安装了swig，之后在虚环境中make编译时报找不到swig错误。 + + 问题解答 -自行编译建议的GCC版本:4.8、5.4以及更高。 -### Q：遇到如下cuDNN报错如何解决？ +安装时没有严格按照官网安装流程的顺序安装，退出虚环境再安装一次swig。 + +##### Q: 源代码编译安装后出现版本错误 + ++ 问题描述 + +在Liunx环境上，通过编译源码的方式安装PaddlePaddle，当安装成功后，运行 `paddle version`, 出现 `PaddlePaddle 0.0.0`？ + ++ 问题解答 + +如果运行 `paddle version`, 出现`PaddlePaddle 0.0.0`；或者运行 `cmake ..`，出现 + +```bash +CMake Warning at cmake/version.cmake:20 (message): +Cannot add paddle version from git tag ``` -CUDNN_STATUS_NOT_INITIALIZED at [/paddle/paddle/fluid/platform/device_context.cc:216] + +在dev分支下这个情况是正常的，在release分支下通过export PADDLE_VERSION=对应版本号来解决。 + +##### Q: Ubuntu编译时大量代码段不能识别 + ++ 问题解答 + +这可能是由于cmake版本不匹配造成的，请在gcc的安装目录下使用以下指令： + ``` +apt install gcc-4.8 g++-4.8 +cp gcc gcc.bak +cp g++ g++.bak +rm gcc +rm g++ +ln -s gcc-4.8 gcc +ln -s g++-4.8 g++ +``` + +#### MacOS系统 + +##### Q: 在 Windows/MacOS 上编译很慢？ + 问题解答 -cuDNN与CUDA版本不一致导致。PIP安装的GPU版本默认使用CUDA 9.0和cuDNN 7编译，请根据您的环境配置选择在官网首页选择对应的安装包进行安装，例如paddlepaddle-gpu==1.2.0.post87 代表使用CUDA 8.0和cuDNN 7编译的1.2.0版本。 -### Q：cuda9.0需要安装哪一个版本的paddle，安装包在哪? -- 问题解答 -pip install paddlepaddle-gpu 命令将安装支持CUDA 9.0 cuDNN v7的PaddlePaddle，可以参考[安装说明文档](http://paddlepaddle.org/documentation/docs/zh/1.4/beginners_guide/install/index_cn.html) +Docker 在 Windows 和 MacOS 都可以运行。不过实际上是运行在一个Linux虚拟机上。可能需要注意给这个虚拟机多分配一些 CPU 和内存，以保证编译高效。具体做法请参考[issue627](https://github.com/PaddlePaddle/Paddle/issues/627)。 + +##### Q: 编译develop分支代码后出现No such file or directory ++ 问题描述 -### Q：使用 `pip install paddlepaddle-gpu==0.14.0.post87`命令在公司内部开发GPU机器上安装PaddlePaddle，安装信息如下： -![](https://user-images.githubusercontent.com/12878507/45028894-606ba980-b079-11e8-98e7-6e80f1c3f386.png) -机器的CUDA信息如下： -![](https://user-images.githubusercontent.com/12878507/45028950-8c872a80-b079-11e8-82f2-ca6591203eb1.png) -按照官网安装：pip install paddlepaddle-gpu==0.14.0.post87 -执行 import paddle.fluid as fluid 失败 -![](https://user-images.githubusercontent.com/12878507/45028976-a0329100-b079-11e8-84a7-07253eafb3cb.png) -奇怪的是，同样的环境下，上周运行成功，这周确运行失败，求解答？ +MacOS本地编译PaddlePaddle github上develop分支的代码出现，出现No such file or directory错误？ + 问题解答 -这通常是GPU显存不足导致的，请检查一下机器的显存，确保显存足够后再尝试import paddle.fluid +因为此时develop分支上Generating build/.timestamp这一步涉及的代码还在进行修改，所以并不能保证稳定，建议切换回稳定分支进行编译安装。 + +可以通过执行如下命令将分支切换到0.14.0进行编译: + +```bash +cd Paddle +git checkout -b release/1.1 +cd build && rm -rf * +cmake .. -DWITH_FLUID_ONLY=ON -DWITH_GPU=OFF -DWITH_TESTING=OFF +make -j4 +``` + +编译成功后的结果如图： + +![](https://user-images.githubusercontent.com/17102274/42515418-4fb71e56-848e-11e8-81c6-da2a5553a27a.png) + +##### Q: 找不到各种module + ++ 问题描述 + +在MacOSX上从源码编译，最后`cmake ..`时 + +`Could NOT find PY_google.protobuf (missing: PY_GOOGLE.PROTOBUF) +CMake Error at cmake/FindPythonModule.cmake:27 (message): +python module google.protobuf is not found` + +若通过-D设置路径后，又会有其他的如`Could not find PY_wheel`等其他找不到的情况 -### Q：在使用PaddlePaddle GPU的Docker镜像的时候，出现 `Cuda Error: CUDA driver version is insufficient for CUDA runtime version`？ + 问题解答 -通常出现 `Cuda Error: CUDA driver version is insufficient for CUDA runtime version`, 原因在于没有把机器上CUDA相关的驱动和库映射到容器内部。 -使用nvidia-docker, 命令只需要将docker换为nvidia-docker即可。 -更多请参考[nvidia-docker](https://github.com/NVIDIA/nvidia-docker) +![](https://cloud.githubusercontent.com/assets/728699/19915727/51f7cb68-a0ef-11e6-86cc-febf82a07602.png) + +如上，当cmake找到python解释器和python库时，如果安装了许多pythons，它总会找到不同版本的Python。在这种情况下，您应该明确选择应该使用哪个python。 +通过cmake显式设置python包。只要确保python libs和python解释器是相同的python可以解决所有这些问题。当这个python包有一些原生扩展时，例如numpy，显式set python包可能会失败。 + +##### Q: `ld terminated with signal 9 [Killed]`错误 + ++ 问题描述 + +在MacOS下，本地直接编译安装PaddlePaddle遇到`collect2: ld terminated with signal 9 [Killed]` ？ + ++ 问题解答 + +该问题是由磁盘空间不足造成的，你的硬盘要有30G+的空余空间，请尝试清理出足够的磁盘空间，重新安装。 + +##### Q: Error 2 + ++ 问题描述 + +MacOS本机直接通过源码编译的方式安装PaddlePaddle出现`[paddle/fluid/platform/CMakeFiles/profiler_py_proto.dir/all] Error 2`？ + ++ 报错截图 + +![](https://user-images.githubusercontent.com/17102274/42515350-28c055ce-848e-11e8-9b90-c294b375d8a4.png) + ++ 问题解答 + +使用cmake版本为3.4则可。自行编译建议GCC版本:4.8、5.4以及更高。 + +##### Q: `wget: command not found` + ++ 问题描述 + +MacOS 10.12下编译PaddlePaddle出现`/bin/sh: wget: command not found`，如何解决？ + ++ 问题解答 + +报错的原因从报错输出的信息中可以发现，即没有有找到wget命令，安装wget则可，安装命令如下： + +```bash +brew install wget +``` + +##### Q: `Configuring incomplete, errors occured!` + ++ 问题描述 + +以源码方式在MacOS上安装时，出现`Configuring incomplete, errors occured!`？ + ++ 问题解答 + +安装PaddlePaddle编译时需要的各种依赖则可，如下： + +```bash +pip install wheel +brew install protobuf@3.1 +pip install protobuf==3.1.0 +``` + +如果执行pip install protobuf==3.1.0时报错，输出下图内容： + +![](https://user-images.githubusercontent.com/17102274/42515286-fb7a7b76-848d-11e8-931a-a7f61bd6374b.png) + +从图中可以获得报错的关键为`Cannot uninstall 'six'`，那么解决方法就是先安装好`six`，再尝试安装`protobuf 3.1.0`如下： + +```bash +easy_install -U six +pip install protobuf==3.1.0 +``` + +##### Q: 基于Docker容器编译 VS MacOS本机编译 + ++ 问题描述 + +PaddlePaddle官方文档中，关于MacOS下安装PaddlePaddle只提及了MacOS中使用Docker环境安装PaddlePaddle的内容，没有Mac本机安装的内容？ + ++ 问题解答 + +基于Docker容器编译PaddlePaddle与本机上直接编译PaddlePaddle，所使用的编译执行命令是不一样的，但是官网仅仅给出了基于Docker容器编译PaddlePaddle所执行的命令。 + +1.基于Docker容器编译PaddlePaddle，需要执行： + +```bash +# 1. 获取源码 +git clone https://github.com/PaddlePaddle/Paddle.git +cd Paddle +# 2. 可选步骤：源码中构建用于编译PaddlePaddle的Docker镜像 +docker build -t paddle:dev . +# 3. 执行下面的命令编译CPU-Only的二进制 +docker run -it -v $PWD:/paddle -e "WITH_GPU=OFF" -e "WITH_TESTING=OFF" paddlepaddle/paddle_manylinux_devel:cuda8.0_cudnn5 bash -x /paddle/paddle/scripts/paddle_build.sh build +# 4. 或者也可以使用为上述可选步骤构建的镜像（必须先执行第2步） +docker run -it -v $PWD:/paddle -e "WITH_GPU=OFF" -e "WITH_TESTING=OFF" paddle:dev +``` +2.直接在本机上编译PaddlePaddle，需要执行： +```bash +# 1. 使用virtualenvwrapper创建python虚环境并将工作空间切换到虚环境 +mkvirtualenv paddle-venv +workon paddle-venv +# 2. 获取源码 +git clone https://github.com/PaddlePaddle/Paddle.git +cd Paddle +# 3. 执行下面的命令编译CPU-Only的二进制 +mkdir build && cd build +cmake .. -DWITH_GPU=OFF -DWITH_TESTING=OFF +make -j$(nproc) +``` + +更详细的内容，请参考[官方文档](http://paddlepaddle.org/documentation/docs/zh/1.4/beginners_guide/install/install_MacOS.html) + +### 安装冲突 + +##### Q: Error-平台不支持 + ++ 问题描述 + +安装PaddlePaddle过程中，出现`paddlepaddle\*.whl is not a supported wheel on this platform`？ + ++ 问题解答 + +`paddlepaddle\*.whl is not a supported wheel on this platform`表示你当前使用的PaddlePaddle不支持你当前使用的系统平台，即没有找到和当前系统匹配的paddlepaddle安装包。最新的paddlepaddle python安装包支持Linux x86_64和MacOS 10.12操作系统，并安装了python 2.7和pip 9.0.1。 +请先尝试安装最新的pip，方法如下： -### Q：安成功安装了PaddlePaddle CPU版本后，使用Paddle训练模型，训练过程中，Paddle会自动退出，gdb显示Illegal instruction？ -+ 报错信息 ```bash -*** Aborted at 1539697466 (unix time) try "date -d @1539697466" if you are using GNU date *** -PC: @ 0x0 (unknown) -*** SIGILL (@0x7fe3a27b7912) received by PID 13005 (TID 0x7fe4059d8700) from PID 18446744072140585234; stack trace: *** - @ 0x318b20f500 (unknown) - @ 0x7fe3a27b7912 paddle::framework::VisitDataType<>() - @ 0x7fe3a279f84f paddle::operators::math::set_constant_with_place<>() - @ 0x7fe3a1e50c21 paddle::operators::FillConstantOp::RunImpl() - @ 0x7fe3a27526bf paddle::framework::OperatorBase::Run() - @ 0x7fe3a1ca31ea paddle::framework::Executor::RunPreparedContext() - @ 0x7fe3a1ca3be0 paddle::framework::Executor::Run() - @ 0x7fe3a1bc9e7d _ZZN8pybind1112cpp_function10initializeIZN6paddle6pybindL13pybind11_initEvEUlRNS2_9framework8ExecutorERKNS4_11ProgramDescEPNS4_5ScopeEibbE63_vIS6_S9_SB_ibbEINS_4nameENS_9is_methodENS_7siblingEEEEvOT_PFT0_DpT1_EDpRKT2_ENUlRNS_6detail13function_callEE1_4_FUNEST_ - @ 0x7fe3a1c14c24 pybind11::cpp_function::dispatcher() - @ 0x7fe405acf3e4 PyEval_EvalFrameEx - @ 0x7fe405ad0130 PyEval_EvalCodeEx - @ 0x7fe405ace4a1 PyEval_EvalFrameEx - @ 0x7fe405ad0130 PyEval_EvalCodeEx - @ 0x7fe405ace4a1 PyEval_EvalFrameEx - @ 0x7fe405ad0130 PyEval_EvalCodeEx - @ 0x7fe405a5c181 function_call - @ 0x7fe405a340f3 PyObject_Call - @ 0x7fe405accde7 PyEval_EvalFrameEx - @ 0x7fe405acec56 PyEval_EvalFrameEx - @ 0x7fe405ad0130 PyEval_EvalCodeEx - @ 0x7fe405a5c27d function_call - @ 0x7fe405a340f3 PyObject_Call - @ 0x7fe405accde7 PyEval_EvalFrameEx - @ 0x7fe405ad0130 PyEval_EvalCodeEx - @ 0x7fe405a5c181 function_call - @ 0x7fe405a340f3 PyObject_Call - @ 0x7fe405a46f7f instancemethod_call - @ 0x7fe405a340f3 PyObject_Call - @ 0x7fe405a8abd4 slot_tp_call - @ 0x7fe405a340f3 PyObject_Call - @ 0x7fe405acd887 PyEval_EvalFrameEx - @ 0x7fe405acec56 PyEval_EvalFrameEx +pip install --upgrade pip ``` + +如果还不行，可以执行 `python -c "import pip; print(pip.pep425tags.get_supported())"` 获取当前系统支持的python包的后缀， +并对比是否和正在安装的后缀一致。 + +如果系统支持的是 `linux_x86_64` 而安装包是 `manylinux1_x86_64` ，需要升级pip版本到最新； + +如果系统支持 `manylinux1_x86_64` 而安装包（本地）是 `linux_x86_64` ，可以重命名这个whl包为 `manylinux1_x86_64` 再安装。 + +##### Q: NumPy & Python冲突 + ++ 问题描述 + +因为需要安装numpy等包，但在Mac自带的Python上无法安装，权限错误导致难以将PaddlePaddle正常安装到Mac本地？ + ++ 问题解答 + +Mac上对自带的Python和包有严格的权限保护，最好不要在自带的Python上安装。建议用virtualenv建立一个新的Python环境来操作。virtualenv的基本原理是将机器上的Python运行所需的运行环境完整地拷贝一份。我们可以在一台机器上制造多份拷贝，并在这多个拷贝之间自由切换，这样就相当于在一台机器上拥有了多个相互隔离、互不干扰的Python环境。 + +下面使用virtualenv为Paddle生成一个专用的Python环境。 + +安装virtualenv，virtualenv本身也是Python的一个包，可以用pip进行安装： + +``` +sudo -H pip install virtualenv +``` + +由于virtualenv需要安装给系统自带的Python，因此需要使用sudo权限。接着使用安装好的virtualenv创建一个新的Python运行环境： + +``` +virtualenv --no-site-packages paddle +``` + +--no-site-packages 参数表示不拷贝已有的任何第三方包，创造一个完全干净的新Python环境。后面的paddle是我们为这个新创建的环境取的名字。执行完这一步后，当前目录下应该会出现一个名为paddle（或者你取的其他名字）的目录。这个目录里保存了运行一个Python环境所需要的各种文件。 +启动运行环境： + +``` +source paddle/bin/activate +``` + +执行后会发现命令提示符前面增加了(paddle)字样，说明已经成功启动了名为‘paddle’的Python环境。执行which python，可以发现使用的已经是刚刚创建的paddle目录下的Python。在这个环境中，我们可以自由地进行PaddlePaddle的安装、使用和开发工作，无需担心对系统自带Python的影响。 +如果我们经常使用Paddle这个环境，我们每次打开终端后都需要执行一下source paddle/bin/activate来启动环境，比较繁琐。为了简便，可以修改终端的配置文件，来让终端每次启动后自动启动特定的Python环境。 +执行: + +``` +vi ~/.bash_profile +``` + +打开终端配置文件，并在文件的最后添加一行： + +``` +source paddle/bin/activate +``` + +这样，每次打开终端时就会自动启动名为‘paddle’的Python环境了。 + +### 安装后无法使用 + +##### Q: 安装后无法import paddle.fluid + ++ 问题描述 + +MacOS下安装PaddlePaddle后import paddle.fluid出现`Fatal Python error: PyThreadState_Get: no current thread running`错误 + + 问题解答 + +For Python2.7.x （install by brew): 请使用`export LD_LIBRARY_PATH=/usr/local/Cellar/python@2/2.7.15_1/Frameworks/Python.framework/Versions/2.7 && export DYLD_LIBRARY_PATH=/usr/local/Cellar/python@2/2.7.15_1/Frameworks/Python.framework/Versions/2.7` + +For Python2.7.x （install by Python.org): 请使用`export LD_LIBRARY_PATH=/Library/Frameworks/Python.framework/Versions/2.7 && export DYLD_LIBRARY_PATH=/Library/Frameworks/Python.framework/Versions/2.7` + +For Python3.5.x （install by Python.org): 请使用`export LD_LIBRARY_PATH=/Library/Frameworks/Python.framework/Versions/3.5/ && export DYLD_LIBRARY_PATH=/Library/Frameworks/Python.framework/Versions/3.5/` + +##### Q: CPU版本训练中自动退出 + ++ 问题描述 + +成功安装了PaddlePaddle CPU版本后，使用Paddle训练模型，训练过程中，Paddle会自动退出，gdb显示Illegal instruction？ + ++ 问题解答 + CPU版本PaddlePaddle自动退出的原因通常是因为所在机器不支持AVX2指令集而主动abort。简单的判断方法： 用gdb-7.9以上版本（因编译C++文件用的工具集是gcc-4.8.2，目前只知道gdb-7.9这个版本可以debug gcc4编译出来的目标文件）： + ```bash $ /path/to/gdb -iex "set auto-load safe-path /" -iex "set solib-search-path /path/to/gcc-4/lib" /path/to/python -c core.xxx ``` 在gdb界面： + ```bash (gdb) disas ``` 找到箭头所指的指令，例如： + ```bash 0x00007f381ae4b90d <+3101>: test %r8,%r8 => 0x00007f381ae4b912 <+3106>: vbroadcastss %xmm0,%ymm1 @@ -149,443 +420,272 @@ $ /path/to/gdb -iex "set auto-load safe-path /" -iex "set solib-search-path /pat 然后google一下这个指令需要的指令集。上面例子中的带xmm和ymm操作数的vbroadcastss指令只在AVX2中支持 然后看下自己的CPU是否支持该指令集 + ```bash cat /proc/cpuinfo | grep flags | uniq | grep avx --color ``` -如果没有AVX2，就表示确实是指令集不支持引起的主动abort -如果没有AVX2指令集，就需要要安装不支持AVX2指令集版本的PaddlePaddle，默认安装的PaddlePaddle是支持AVX2指令集的，因为AVX2可以加速模型训练的过程，更多细节可以参考[安装文档](http://paddlepaddle.org/documentation/docs/zh/1.4/beginners_guide/install/index_cn.html) +如果没有AVX2，就表示确实是指令集不支持引起的主动abort。 -### Q：使用`sudo nvidia-docker run --name Paddle -it -v $PWD:/work hub.baidubce.com/paddlepaddle/paddle:latest-gpu-cuda8.0-cudnn7 /bin/bash`，安装成功后，出现如下问题 -```bash -import paddle.fluid -*** Aborted at 1539682149 (unix time) try "date -d @1539682149" if you are using GNU date *** -PC: @ 0x0 (unknown) -*** SIGILL (@0x7f6ac6ea9436) received by PID 16 (TID 0x7f6b07bc7700) from PID 18446744072751846454; stack trace: *** -``` +如果没有AVX2指令集，就需要要安装不支持AVX2指令集版本的PaddlePaddle，默认安装的PaddlePaddle是支持AVX2指令集的，因为AVX2可以加速模型训练的过程，更多细节可以参考[安装文档](http://paddlepaddle.org/documentation/docs/zh/1.4/beginners_guide/install/index_cn.html)。 -+ 问题解答 -请先确定一下机器是否支持AVX2指令集，如果不支持，请按照相应的不支持AVX2指令集的PaddlePaddle，可以解决该问题。 +##### Q: Python相关单元测试失败 ++ 问题描述 -### Q：使用的系统是Ubuntu 16.04，GPU相关环境：cuda8.0, cudnn 6.0, 安装最新版的paddlepaddle fluid 后，`import paddle.fluid`时问题如下： -+ 报错信息 -```bash -Traceback (most recent call last): -File "", line 1, in -File "/usr/local/lib/python2.7/dist-packages/paddle/fluid/init.py", line 132, in -bootstrap() -File "/usr/local/lib/python2.7/dist-packages/paddle/fluid/init.py", line 126, in bootstrap -core.init_devices(not in_test) -paddle.fluid.core.EnforceNotMet: CUBLAS: not initialized, at [/paddle/paddle/fluid/platform/device_context.cc:153] -PaddlePaddle Call Stacks: -0 0x7f0238da06f6p paddle::platform::EnforceNotMet::EnforceNotMet(std::exception_ptr::exception_ptr, char const*, int) + 486 -1 0x7f0239b1ee54p paddle::platform::CUDADeviceContext::CUDADeviceContext(paddle::platform::CUDAPlace) + 1684 -2 0x7f0239b1feb0p paddle::platform::DeviceContextPool::DeviceContextPool(std::vector, std::allocator > > const&) + 752 -3 0x7f0238e368bcp paddle::framework::InitDevices(bool, std::vector) + 588 -4 0x7f0238e36addp paddle::framework::InitDevices(bool) + 285 -5 0x7f0238d865bap -6 0x7f0238db1804p pybind11::cpp_function::dispatcher(_object*, _object*, _object*) + 2596 -7 0x4bc3fap PyEval_EvalFrameEx + 1482 -8 0x4b9ab6p PyEval_EvalCodeEx + 774 -9 0x4c1e6fp PyEval_EvalFrameEx + 24639 -10 0x4b9ab6p PyEval_EvalCodeEx + 774 -11 0x4b97a6p PyEval_EvalCode + 22 -12 0x4b96dfp PyImport_ExecCodeModuleEx + 191 -13 0x4b2b06p -14 0x4b402cp -15 0x4a4ae1p -16 0x4a4513p PyImport_ImportModuleLevel + 2259 -17 0x4a59e4p -18 0x4a577ep PyObject_Call + 62 -19 0x4c5e10p PyEval_CallObjectWithKeywords + 48 -20 0x4be6d7p PyEval_EvalFrameEx + 10407 -21 0x4b9ab6p PyEval_EvalCodeEx + 774 -22 0x4eb30fp -23 0x44a7a2p PyRun_InteractiveOneFlags + 400 -24 0x44a56dp PyRun_InteractiveLoopFlags + 186 -25 0x43092ep -26 0x493ae2p Py_Main + 1554 -27 0x7f026bfa1830p __libc_start_main + 240 -28 0x4933e9p _start + 41 +安装完了PaddlePaddle后，出现以下python相关的单元测试都过不了的情况： + +``` +24 - test_PyDataProvider (Failed) +26 - test_RecurrentGradientMachine (Failed) +27 - test_NetworkCompare (Failed) +28 - test_PyDataProvider2 (Failed) +32 - test_Prediction (Failed) +33 - test_Compare (Failed) +34 - test_Trainer (Failed) +35 - test_TrainerOnePass (Failed) +36 - test_CompareTwoNets (Failed) +37 - test_CompareTwoOpts (Failed) +38 - test_CompareSparse (Failed) +39 - test_recurrent_machine_generation (Failed) +40 - test_PyDataProviderWrapper (Failed) +41 - test_config_parser (Failed) +42 - test_swig_api (Failed) +43 - layers_test (Failed) +``` + +并且查询PaddlePaddle单元测试的日志，提示： + +``` +paddle package is already in your PYTHONPATH. But unittest need a clean environment. +Please uninstall paddle package before start unittest. Try to 'pip uninstall paddle'. ``` + + 问题解答 -请先查看您系统GPU环境的适配关系，应该选择和您的系统已经安装的CUDA版本相同的whl包，您的系统是cuda 8.0, cudnn 6 应该使用cuda8.0_cudnn7_avx_mkl才可以适配。 -然后尝试`import paddle.fluid`命令看看是否报错。 -如果报错，则可能是GPU 和CUDA环境没有正确配置。 -如果没有报错，请判断是否有给所有相关文件`sudo权限`。 +卸载PaddlePaddle包 `pip uninstall paddle`, 清理掉老旧的PaddlePaddle安装包，使得单元测试有一个干净的环境。如果PaddlePaddle包已经在python的site-packages里面，单元测试会引用site-packages里面的python包，而不是源码目录里 `/python` 目录下的python包。同时，即便设置 `PYTHONPATH` 到 `/python` 也没用，因为python的搜索路径是优先已经安装的python包。 + +## GPU + +### 安装过程中报错 + +##### Q: Error: Can not load core_noavx.* .ImportError + ++ 问题描述 + +为了更好的支持paddle安装包在不同指令集（AVX和没有AVX）的机器上运行，近期对paddle核心core文件进行了修改（有重命名），可能会导致开发者遇到类似如下warning或者错误： -### Q：安装的是cuda9.0和cudnn7.0，默认安装的是0.14.0.post87，训练一个手写数据那个例子的时候报错？ -+ 报错信息： -```bash -Traceback (most recent call last): - File "train.py", line 240, in - main() - File "train.py", line 236, in main - train(args) - File "train.py", line 147, in train - exe.run(fluid.default_startup_program()) - File "/usr/local/lib/python2.7/dist-packages/paddle/fluid/executor.py", line 443, in run - self.executor.run(program.desc, scope, 0, True, True) -paddle.fluid.core.EnforceNotMet: enforce allocating <= available failed, 1827927622 > 1359806208 - at [/paddle/paddle/fluid/platform/gpu_info.cc:119] -PaddlePaddle Call Stacks: -0 0x7f1bac5312f6p paddle::platform::EnforceNotMet::EnforceNotMet(std::__exception_ptr::exception_ptr, char const*, int) + 486 -1 0x7f1bad3a95bep paddle::platform::GpuMaxChunkSize() + 766 -2 0x7f1bad2d92ddp paddle::memory::GetGPUBuddyAllocator(int) + 141 -3 0x7f1bad2d94ecp void* paddle::memory::Alloc(paddle::platform::CUDAPlace, unsigned long) + 28 -4 0x7f1bad2ced42p paddle::framework::Tensor::mutable_data(boost::variant, std::type_index) + 866 -5 0x7f1bac7a0cbfp paddle::operators::FillConstantOp::RunImpl(paddle::framework::Scope const&, boost::variant const&) const + 1007 -6 0x7f1bad261ebdp paddle::framework::OperatorBase::Run(paddle::framework::Scope const&, boost::variant const&) + 205 -7 0x7f1bac5cd06fp paddle::framework::Executor::RunPreparedContext(paddle::framework::ExecutorPrepareContext*, paddle::framework::Scope*, bool, bool, bool) + 255 -8 0x7f1bac5ce0c0p paddle::framework::Executor::Run(paddle::framework::ProgramDesc const&, paddle::framework::Scope*, int, bool, bool) + 128 -9 0x7f1bac548cbbp void pybind11::cpp_function::initialize(void (paddle::framework::Executor::*)(paddle::framework::ProgramDesc const&, paddle::framework::Scope*, int, bool, bool), pybind11::name const&, pybind11::is_method const&, pybind11::sibling const&)::{lambda(paddle::framework::Executor*, paddle::framework::ProgramDesc const&, paddle::framework::Scope*, int, bool, bool)#1}, void, paddle::framework::Executor*, paddle::framework::ProgramDesc const&, paddle::framework::Scope*, int, bool, bool, pybind11::name, pybind11::is_method, pybind11::sibling>(pybind11::cpp_function::initialize(void (paddle::framework::Executor::*)(paddle::framework::ProgramDesc const&, paddle::framework::Scope*, int, bool, bool), pybind11::name const&, pybind11::is_method const&, pybind11::sibling const&)::{lambda(paddle::framework::Executor*, paddle::framework::ProgramDesc const&, paddle::framework::Scope*, int, bool, bool)#1}&&, void (*)(paddle::framework::Executor*, paddle::framework::ProgramDesc const&, paddle::framework::Scope*, int, bool, bool), pybind11::name const&, pybind11::is_method const&, pybind11::sibling const&)::{lambda(pybind11::detail::function_call&)#3}::_FUN(pybind11::detail::function_call) + 555 -10 0x7f1bac5411c4p pybind11::cpp_function::dispatcher(_object*, _object*, _object*) + 2596 -11 0x4c37edp PyEval_EvalFrameEx + 31165 -12 0x4b9ab6p PyEval_EvalCodeEx + 774 -13 0x4c16e7p PyEval_EvalFrameEx + 22711 -14 0x4b9ab6p PyEval_EvalCodeEx + 774 -15 0x4c1e6fp PyEval_EvalFrameEx + 24639 -16 0x4c136fp PyEval_EvalFrameEx + 21823 -17 0x4b9ab6p PyEval_EvalCodeEx + 774 -18 0x4eb30fp -19 0x4e5422p PyRun_FileExFlags + 130 -20 0x4e3cd6p PyRun_SimpleFileExFlags + 390 -21 0x493ae2p Py_Main + 1554 -22 0x7f1bd6ae9830p __libc_start_main + 240 -23 0x4933e9p _start + 41 ``` -+ 问题解答 -该问题通常是GPU显存不足造成的，请在显存充足的GPU服务器上再次尝试则可。可以检查一下机器的显存使用情况。 -方法如下： -```bash -test@test:~$ nvidia-smi -Tue Jul 24 08:24:22 2018 -+-----------------------------------------------------------------------------+ -| NVIDIA-SMI 384.130 Driver Version: 384.130 | -|-------------------------------+----------------------+----------------------+ -| GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC | -| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. | -|===============================+======================+======================| -| 0 GeForce GTX 960 Off | 00000000:01:00.0 On | N/A | -| 22% 52C P2 100W / 120W | 1757MiB / 1994MiB | 98% Default | -+-------------------------------+----------------------+----------------------+ - -+-----------------------------------------------------------------------------+ -| Processes: GPU Memory | -| GPU PID Type Process name Usage | -|=============================================================================| -| 0 1071 G /usr/lib/xorg/Xorg 314MiB | -| 0 1622 G compiz 149MiB | -| 0 2201 G fcitx-qimpanel 7MiB | -| 0 15304 G ...-token=58D78B2D4A63DAE7ED838021B2136723 74MiB | -| 0 15598 C python 1197MiB | -+-----------------------------------------------------------------------------+ +WARNING: Can not import avx core. You may not build with AVX, but AVX is supported on local machine, you could build paddle WITH_AVX=ON to get bettwe performance. Error: Can not load core_noavx.* .ImportError ``` ++ 问题解读 + +这条信息分为2个，前者是warning，是追求性能的warning，普通情况可以忽略。后者是，Error：往后才是导致不能继续运行的地方。 -### Q：版本为paddlepaddle_gpu-0.14.0.post87-cp27-cp27mu-manylinux1_x86_64.whl，跑一个简单的测试程序，出现Segmentation fault。其中 如果place为cpu，可以正常输出，改成gpu则core。 -+ 程序代码 -```bash -def testpaddle014(): - place = fluid.CUDAPlace(0) - #place = fluid.CPUPlace() - print 'version', paddle.__version__, place - input = fluid.layers.data(name='input', shape=[3,50,50], dtype='float32') - - output = fluid.layers.conv2d(input=input,num_filters=1,filter_size=3,stride=1,padding=1,groups=1,act=None) - #output = fluid.layers.fc(input=input,size=2) - - fetch_list = [output.name] - data = np.zeros((2,3,50,50), np.float32) - exe = fluid.Executor(place) - exe.run(fluid.default_startup_program()) - outputlist = exe.run( - fluid.default_main_program(), - feed={'input': data}, - fetch_list=fetch_list - ) - print 'output', outputlist[0].shape -``` + 问题解答 -安装版本为`paddlepaddle_gpu-0.14.0.post87-cp27-cp27mu-manylinux1_x86_64.whl`，其中post87是指在CUDA8.0、cudnn7.0编译的，请确定您机器上是否安装了对应版本的cuDNN。造成问题描述中现象的情况通常可能是环境不匹配导致的。 -### Q：安装完了PaddlePaddle后，出现以下python相关的单元测试都过不了的情况： -``` - 24 - test_PyDataProvider (Failed) - 26 - test_RecurrentGradientMachine (Failed) - 27 - test_NetworkCompare (Failed) - 28 - test_PyDataProvider2 (Failed) - 32 - test_Prediction (Failed) - 33 - test_Compare (Failed) - 34 - test_Trainer (Failed) - 35 - test_TrainerOnePass (Failed) - 36 - test_CompareTwoNets (Failed) - 37 - test_CompareTwoOpts (Failed) - 38 - test_CompareSparse (Failed) - 39 - test_recurrent_machine_generation (Failed) - 40 - test_PyDataProviderWrapper (Failed) - 41 - test_config_parser (Failed) - 42 - test_swig_api (Failed) - 43 - layers_test (Failed) -``` -并且查询PaddlePaddle单元测试的日志，提示： +1. 更新最新代码，如上图的错误代表您还不是最新代码，请更新之后尝试。 + +2. 如果您机器上之前本来就安装有paddlepaddle，请使用pip install -U paddlepaddle， 加上-U选项明确代表升级。 + +3. 如果问题还存在，可能问题原因是之前build缓存没有删除导致，可以make clean，删除build目录下的python目录从而删除原有缓存，重新编译安装即可。 + +4. 如果仍然有问题，当然，通常到这里就已经不是paddle本身的问题了，并且该错误跟AVX本身没有任何关系，请怀疑下您的运行环境是否和编译环境一致，包括glibc，python版本等信息。或者，是您的加了什么代码，没有正确加到pybind导致的错误。 + 1. 请仔细查看错误信息，会提示缺失或者load错误的原因。 + 2. 请确认安装后的python目录下（通常会在/usr/local/lib/python2.7/dist-packages/paddle/fluid）中是否有core_avx.so或者core_noavx.so，这两文件其中一个，或者两个都有。如果都没有，或者只有core.so那说明第一和二步没有正确执行。并请仔细查看python输出的load失败的报错信息。通常这个是因为编译和运行不在一个环境导致的错误，比如glibc版本不匹配等，这个与本次升级无关。 + +##### Q: 报错“nccl.h找不到” + ++ 问题解答： + +请[安装nccl2](https://developer.nvidia.com/nccl/nccl-download) + +#### 安装过程中cuDNN报错 + +##### Q: CUDNN_STATUS_NOT_INITIALIZED + ++ 问题描述 + +遇到如下cuDNN报错如何解决？ + ``` - paddle package is already in your PYTHONPATH. But unittest need a clean environment. - Please uninstall paddle package before start unittest. Try to 'pip uninstall paddle'. +CUDNN_STATUS_NOT_INITIALIZED at [/paddle/paddle/fluid/platform/device_context.cc:216] ``` + 问题解答 -卸载PaddlePaddle包 `pip uninstall paddle`, 清理掉老旧的PaddlePaddle安装包，使得单元测试有一个干净的环境。如果PaddlePaddle包已经在python的site-packages里面，单元测试会引用site-packages里面的python包，而不是源码目录里 `/python` 目录下的python包。同时，即便设置 `PYTHONPATH` 到 `/python` 也没用，因为python的搜索路径是优先已经安装的python包。 -### Q：根据官方文档中提供的步骤安装Docker，无法下载需要的golang，导致`tar: Error is not recoverable: exiting now`？ +cuDNN与CUDA版本不一致导致。PIP安装的GPU版本默认使用CUDA 9.0和cuDNN 7编译，请根据您的环境配置选择在官网首页选择对应的安装包进行安装，例如paddlepaddle-gpu==1.2.0.post87 代表使用CUDA 8.0和cuDNN 7编译的1.2.0版本。 + +#### 安装过程中CUDA报错 + +##### Q: cuda9.0对应paddle版本 + ++ 问题描述 +cuda9.0需要安装哪一个版本的paddle，安装包在哪? + ++ 问题解答 + +`pip install paddlepaddle-gpu`命令将安装支持CUDA 9.0 cuDNN v7的PaddlePaddle，可以参考[安装说明文档](http://paddlepaddle.org/documentation/docs/zh/1.4/beginners_guide/install/index_cn.html) + +##### Q: driver version is insufficient for runtime version + ++ 问题描述 + +在使用PaddlePaddle GPU的Docker镜像的时候，出现 `Cuda Error: CUDA driver version is insufficient for CUDA runtime version`？ + ++ 问题解答 + +通常出现 `Cuda Error: CUDA driver version is insufficient for CUDA runtime version`, 原因在于没有把机器上CUDA相关的驱动和库映射到容器内部。 + +使用nvidia-docker, 命令只需要将docker换为nvidia-docker即可。 + +更多请参考[nvidia-docker](https://github.com/NVIDIA/nvidia-docker) + +#### Docker + +使用Docker出现编译错误，请额外参照GitHub上[Issue12079](https://github.com/PaddlePaddle/Paddle/issues/12079) + +##### Q: 无法下载golang + ++ 问题描述 + +根据官方文档中提供的步骤安装Docker，无法下载需要的golang，导致`tar: Error is not recoverable: exiting now`？ + + 报错截图 + ![](https://user-images.githubusercontent.com/17102274/42516245-314346be-8490-11e8-85cc-eb95e9f0e02c.png) + 问题解答 + 由上图可知，生成docker镜像时需要下载[golang](https://storage.googleapis.com/golang/go1.8.1.linux-amd64.tar.gz)，使用者需要保证电脑可以科学上网。 + 选择下载并使用docker.paddlepaddlehub.com/paddle:latest-devdocker镜像，执行命令如下： + ``` git clone https://github.com/PaddlePaddle/Paddle.git - cd Paddle - git checkout -b 0.14.0 origin/release/0.14.0 - - sudo docker run --name paddle-test -v $PWD:/paddle --network=host -it docker.paddlepaddlehub.com/paddle:latest-dev /bin/bash ``` + 进入docker编译GPU版本的PaddlePaddle，执行命令如下： + ``` mkdir build && cd build # 编译GPU版本的PaddlePaddle cmake .. -DWITH_FLUID_ONLY=ON -DWITH_GPU=ON -DWITH_TESTING=ON make -j$(nproc) ``` + 通过上面的方式操作后： + ![](https://user-images.githubusercontent.com/17102274/42516287-46ccae8a-8490-11e8-9186-985efff3629c.png) + 接着安装PaddlePaddle并运行线性回归test_fit_a_line.py程序测试一下PaddlePaddle是安装成功则可 + ```bash pip install build/python/dist/*.whl python python/paddle/fluid/tests/book/test_fit_a_line.py ``` -### Q：在Docker镜像上，GPU版本的PaddlePaddle运行结果报错 +##### Q: 在Docker镜像上，GPU版本的PaddlePaddle运行结果报错 + ++ 问题描述 + ![](https://user-images.githubusercontent.com/17102274/42516300-50f04f8e-8490-11e8-95f1-613d3d3f6ca6.png) + ![](https://user-images.githubusercontent.com/17102274/42516303-5594bd22-8490-11e8-8c01-55741484f126.png) + 问题解答 + 使用`sudo docker run --name paddle-test -v $PWD:/paddle --network=host -it docker.paddlepaddlehub.com/paddle:latest-dev /bin/bash`命令创建的docker容器仅能支持运行CPU版本的PaddlePaddle。 使用如下命令重新开启支持GPU运行的docker容器： + ``` export CUDA_SO="$(\ls /usr/lib64/libcuda* | xargs -I{} echo '-v {}:{}') $(\ls /usr/lib64/libnvidia* | xargs -I{} echo '-v {}:{}')" - export DEVICES=$(\ls /dev/nvidia* | xargs -I{} echo '--device {}:{}') - sudo docker run ${CUDA_SO} ${DEVICES} --rm --name paddle-test-gpu -v /usr/bin/nvidia-smi:/usr/bin/nvidia-smi -v $PWD:/paddle --network=host -it docker.paddlepaddlehub.com/paddle:latest-dev /bin/bash ``` + 进入docker之后执行如下命令进行PaddlePaddle的安装及测试运行： + ``` export LD_LIBRARY_PATH=/usr/lib64:/usr/local/lib:$LD_LIBRARY_PATH pip install build/python/dist/*.whl python python/paddle/fluid/tests/book/test_fit_a_line.py ``` -### Q：在Liunx环境上，通过编译源码的方式安装PaddlePaddle，当安装成功后，运行 `paddle version`, 出现 `PaddlePaddle 0.0.0`？ -+ 问题解答 -如果运行 `paddle version`, 出现`PaddlePaddle 0.0.0`；或者运行 `cmake ..`，出现 -```bash -CMake Warning at cmake/version.cmake:20 (message): -Cannot add paddle version from git tag -``` -在dev分支下这个情况是正常的，在release分支下通过export PADDLE_VERSION=对应版本号 来解决。 +### 安装后无法使用 +##### Q: GPU安装成功，无法import -### Q：安装PaddlePaddle过程中，出现`paddlepaddle\*.whl is not a supported wheel on this platform`？ -+ 问题解答 -`paddlepaddle\*.whl is not a supported wheel on this platform`表示你当前使用的PaddlePaddle不支持你当前使用的系统平台，即没有找到和当前系统匹配的paddlepaddle安装包。最新的paddlepaddle python安装包支持Linux x86_64和MacOS 10.12操作系统，并安装了python 2.7和pip 9.0.1。 -请先尝试安装最新的pip，方法如下： -```bash -pip install --upgrade pip -``` -如果还不行，可以执行 `python -c "import pip; print(pip.pep425tags.get_supported())"` 获取当前系统支持的python包的后缀， -并对比是否和正在安装的后缀一致。 -如果系统支持的是 `linux_x86_64` 而安装包是 `manylinux1_x86_64` ，需要升级pip版本到最新； -如果系统支持 `manylinux1_x86_64` 而安装包（本地）是 `linux_x86_64` ，可以重命名这个whl包为 `manylinux1_x86_64` 再安装。 - - -## MacOS安装PaddlePaddle - -### Q：PaddlePaddle官方文档中，关于MacOS下安装PaddlePaddle只提及了MacOS中使用Docker环境安装PaddlePaddle的内容，没有Mac本机安装的内容？ -+ 问题解答 -基于Docker容器编译PaddlePaddle与本机上直接编译PaddlePaddle，所使用的编译执行命令是不一样的，但是官网仅仅给出了基于Docker容器编译PaddlePaddle所执行的命令。 - 1.基于Docker容器编译PaddlePaddle，需要执行： - ```bash - # 1. 获取源码 - - git clone https://github.com/PaddlePaddle/Paddle.git - - cd Paddle - - # 2. 可选步骤：源码中构建用于编译PaddlePaddle的Docker镜像 - - docker build -t paddle:dev . - - # 3. 执行下面的命令编译CPU-Only的二进制 - - docker run -it -v $PWD:/paddle -e "WITH_GPU=OFF" -e "WITH_TESTING=OFF" paddlepaddle/paddle_manylinux_devel:cuda8.0_cudnn5 bash -x /paddle/paddle/scripts/paddle_build.sh build - - # 4. 或者也可以使用为上述可选步骤构建的镜像（必须先执行第2步） - - docker run -it -v $PWD:/paddle -e "WITH_GPU=OFF" -e "WITH_TESTING=OFF" paddle:dev - ``` ++ 问题描述 - 2.直接在本机上编译PaddlePaddle，需要执行： - ```bash - # 1. 使用virtualenvwrapper创建python虚环境并将工作空间切换到虚环境 +使用 `sudo nvidia-docker run --name Paddle -it -v $PWD:/work hub.baidubce.com/paddlepaddle/paddle:latest-gpu-cuda8.0-cudnn7 /bin/bash`，安装成功后，出现如下问题 - mkvirtualenv paddle-venv - - workon paddle-venv - - # 2. 获取源码 - - git clone https://github.com/PaddlePaddle/Paddle.git - - cd Paddle - - # 3. 执行下面的命令编译CPU-Only的二进制 - - mkdir build && cd build - - cmake .. -DWITH_GPU=OFF -DWITH_TESTING=OFF - - make -j$(nproc) - ``` -更详细的内容，请参考[官方文档](http://paddlepaddle.org/documentation/docs/zh/1.4/beginners_guide/install/install_MacOS.html) +``` +import paddle.fluid +*** Aborted at 1539682149 (unix time) try "date -d @1539682149" if you are using GNU date *** +PC: @ 0x0 (unknown) +*** SIGILL (@0x7f6ac6ea9436) received by PID 16 (TID 0x7f6b07bc7700) from PID 18446744072751846454; stack trace: *** +``` -### Q：以源码方式在MacOS上安装时，出现`Configuring incomplete, errors occured!`？ -+ 报错截图 -![](https://user-images.githubusercontent.com/17102274/42515239-e24be824-848d-11e8-9f3d-3baf156dcea8.png) -![](https://user-images.githubusercontent.com/17102274/42515246-e6f7c2d0-848d-11e8-853a-7d7401e4650f.png) + 问题解答 - 安装PaddlePaddle编译时需要的各种依赖则可，如下： - - ```bash - pip install wheel - brew install protobuf@3.1 - pip install protobuf==3.1.0 - ``` - - 如果执行pip install protobuf==3.1.0时报错，输出下图内容： - ![](https://user-images.githubusercontent.com/17102274/42515286-fb7a7b76-848d-11e8-931a-a7f61bd6374b.png) - - 从图中可以获得报错的关键为`Cannot uninstall 'six'`，那么解决方法就是先安装好`six`，再尝试安装`protobuf 3.1.0`如下： - - ```bash - easy_install -U six - pip install protobuf==3.1.0 - ``` +请先确定一下机器是否支持AVX2指令集，如果不支持，请按照相应的不支持AVX2指令集的PaddlePaddle，可以解决该问题。 -### Q：MacOS 10.12下编译PaddlePaddle出现`/bin/sh: wget: command not found`，如何解决？ -![](https://user-images.githubusercontent.com/17102274/42515304-0bd7012e-848e-11e8-966f-946361ac7a56.png) +##### Q: 曾经运行成功，现在运行失败 -+ 问题解答 -报错的原因从报错输出的信息中可以发现，即没有有找到wget命令，安装wget则可，安装命令如下： -```bash -brew install wget -``` ++ 问题描述 -### Q：官网中只介绍了Mac下使用Docker安装编译PaddlePaddle的方式，因为我对Docker不怎么熟悉，想直接安装到本地的Mac系统中，MacOS版本为10.13，是符合要求的，但尝试了多次后，已经出现`No rule to make target`错误？ -+ 报错截图 -![](https://user-images.githubusercontent.com/17102274/42515324-1bd9c020-848e-11e8-8934-d7da5fc1f090.png) +使用 `pip install paddlepaddle-gpu==0.14.0.post87`命令在公司内部开发GPU机器上安装PaddlePaddle，按照官网安装：pip install paddlepaddle-gpu==0.14.0.post87，执行 import paddle.fluid as fluid 失败。奇怪的是，同样的环境下，上周运行成功，这周确运行失败，求解答？ + 问题解答 -该问题是有CMake引擎的，修改CMake编译命令，打开WITH_FLUID_ONLY编译选项，修改后编译命令如下： - ```bash - cmake .. -DWITH_FLUID_ONLY=ON -DWITH_GPU=OFF -DWITH_TESTING=OFF - ``` -### Q：MacOS本机直接通过源码编译的方式安装PaddlePaddle出现`[paddle/fluid/platform/CMakeFiles/profiler_py_proto.dir/all] Error 2`？ -+ 报错截图 -![](https://user-images.githubusercontent.com/17102274/42515350-28c055ce-848e-11e8-9b90-c294b375d8a4.png) -+ 问题解答 - 使用cmake版本为3.4则可 +这通常是GPU显存不足导致的，请检查一下机器的显存，确保显存足够后再尝试import paddle.fluid +##### Q: 安装成功后，示例运行失败 ++ 问题描述 -### Q：MacOS本地编译PaddlePaddle github上develop分支的代码出现，出现No such file or directory错误？ -+ 报错截图 -![](https://user-images.githubusercontent.com/17102274/42515402-453cc0d4-848e-11e8-9a03-a579ea8e4d2d.png) +安装的是cuda9.0和cudnn7.0，默认安装的是0.14.0.post87，训练一个手写数据那个例子的时候报错？ + 问题解答 -因为此时develop分支上Generating build/.timestamp这一步涉及的代码还在进行修改，所以并不能保证稳定，建议切换回稳定分支进行编译安装。 - 可以通过执行如下命令将分支切换到0.14.0进行编译: - ```bash - cd Paddle - git checkout -b release/1.1 - cd build && rm -rf * - cmake .. -DWITH_FLUID_ONLY=ON -DWITH_GPU=OFF -DWITH_TESTING=OFF - make -j4 - ``` - 编译成功后的结果如图： - ![](https://user-images.githubusercontent.com/17102274/42515418-4fb71e56-848e-11e8-81c6-da2a5553a27a.png) +该问题通常是GPU显存不足造成的，请在显存充足的GPU服务器上再次尝试则可。可以检查一下机器的显存使用情况。 +方法如下： -### Q：paddle源码编译（osx）报各种module找不到的问题 -从源码编译，最后`cmake ..`时 -`Could NOT find PY_google.protobuf (missing: PY_GOOGLE.PROTOBUF) -CMake Error at cmake/FindPythonModule.cmake:27 (message): -python module google.protobuf is not found` -若通过-D设置路径后，又会有其他的如`Could not find PY_wheel`等其他找不到的情况 -+ 问题解答 -![](https://cloud.githubusercontent.com/assets/728699/19915727/51f7cb68-a0ef-11e6-86cc-febf82a07602.png) -如上，当cmake找到python解释器和python库时，如果安装了许多pythons，它总会找到不同版本的Python。在这种情况下，您应该明确选择应该使用哪个python。 -通过cmake显式设置python包。只要确保python libs和python解释器是相同的python可以解决所有这些问题。当这个python包有一些原生扩展时，例如numpy，显式set python包可能会失败。 +```bash +test@test:~$ nvidia-smi +Tue Jul 24 08:24:22 2018 ++-----------------------------------------------------------------------------+ +| NVIDIA-SMI 384.130 Driver Version: 384.130 | +|-------------------------------+----------------------+----------------------+ +| GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC | +| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. | +|===============================+======================+======================| +| 0 GeForce GTX 960 Off | 00000000:01:00.0 On | N/A | +| 22% 52C P2 100W / 120W | 1757MiB / 1994MiB | 98% Default | ++-------------------------------+----------------------+----------------------+ -### Q：在MacOS下，本地直接编译安装PaddlePaddle遇到`collect2: ld terminated with signal 9 [Killed] ` ？ -+ 问题解答 -该问题是由磁盘空间不足造成的，你的硬盘要有30G+的空余空间，请尝试清理出足够的磁盘空间，重新安装。 ++-----------------------------------------------------------------------------+ +| Processes: GPU Memory | +| GPU PID Type Process name Usage | +|=============================================================================| +| 0 1071 G /usr/lib/xorg/Xorg 314MiB | +| 0 1622 G compiz 149MiB | +| 0 2201 G fcitx-qimpanel 7MiB | +| 0 15304 G ...-token=58D78B2D4A63DAE7ED838021B2136723 74MiB | +| 0 15598 C python 1197MiB | ++-----------------------------------------------------------------------------+ +``` +## 卸载问题 -### Q：因为需要安装numpy等包，但在Mac自带的Python上无法安装，权限错误导致难以将PaddlePaddle正常安装到Mac本地？ -+ 问题解答 -Mac上对自带的Python和包有严格的权限保护，最好不要在自带的Python上安装。建议用virtualenv建立一个新的Python环境来操作。 +##### Q: 报错`Cannot uninstall 'six'.` -virtualenv的基本原理是将机器上的Python运行所需的运行环境完整地拷贝一份。我们可以在一台机器上制造多份拷贝，并在这多个拷贝之间自由切换，这样就相当于在一台机器上拥有了多个相互隔离、互不干扰的Python环境。 ++ 问题描述 -下面使用virtualenv为Paddle生成一个专用的Python环境。 - 安装virtualenv，virtualenv本身也是Python的一个包，可以用pip进行安装： - ``` - sudo -H pip install virtualenv - ``` - - 由于virtualenv需要安装给系统自带的Python，因此需要使用sudo权限。接着使用安装好的virtualenv创建一个新的Python运行环境： - ``` - virtualenv --no-site-packages paddle - ``` - - --no-site-packages 参数表示不拷贝已有的任何第三方包，创造一个完全干净的新Python环境。后面的paddle是我们为这个新创建的环境取的名字。执行完这一步后，当前目录下应该会出现一个名为paddle（或者你取的其他名字）的目录。这个目录里保存了运行一个Python环境所需要的各种文件。 - - 启动运行环境： - ``` - source paddle/bin/activate - ``` - - 执行后会发现命令提示符前面增加了(paddle)字样，说明已经成功启动了名为‘paddle’的Python环境。执行which python，可以发现使用的已经是刚刚创建的paddle目录下的Python。 - 在这个环境中，我们可以自由地进行PaddlePaddle的安装、使用和开发工作，无需担心对系统自带Python的影响。 - 如果我们经常使用Paddle这个环境，我们每次打开终端后都需要执行一下source paddle/bin/activate来启动环境，比较繁琐。为了简便，可以修改终端的配置文件，来让终端每次启动后自动启动特定的Python环境。 - 执行: - - ``` - vi ~/.bash_profile - ``` - - 打开终端配置文件，并在文件的最后添加一行： - ``` - source paddle/bin/activate - ``` - 这样，每次打开终端时就会自动启动名为‘paddle’的Python环境了。 +此问题可能与系统中已有Python有关，请使用`pip install paddlepaddle --ignore-installed six`（CPU）或`pip install paddlepaddle --ignore-installed six`（GPU）解决 diff --git a/doc/fluid/faq/train_cn.md b/doc/fluid/faq/train_cn.md index b6220ffe38c681c2ec4e49cb033e2adb9b7e63e0..315ae6454a7d2593a1f14406def9ff69a8cb67fe 100644 --- a/doc/fluid/faq/train_cn.md +++ b/doc/fluid/faq/train_cn.md @@ -1,43 +1,149 @@ # 网络搭建及训练 -### Q：在RNN模型中如何遍历序列数据里每一个时间步？ + + +## 模型介绍 + +##### Q: sigmoid中num_classes意义？ + ++ 问题描述 + +sigmoid二分类，`sigmoid_cross_entropy_with_logits`，其中num_classes的意义是什么？ + + 问题解答 -对于LodTensor数据，分步处理每一个时间步数据的需求，大部分情况可以使用`DynamicRNN`，[参考示例](https://github.com/PaddlePaddle/Paddle/blob/develop/python/paddle/fluid/tests/book/test_machine_translation.py#L69) ，其中`rnn.step_input`即是每一个时间步的数据，`rnn.memory`是需要更新的rnn的hidden state，另外还有个`rnn.static_input`是rnn外部的数据在DynamicRNN内的表示（如encoder的output），可以利用这三种数据完成所需操作。 -rank_table记录了每个sequence的长度，DynamicRNN中调用了lod_tensor_to_array在产生array时按照rank_table做了特殊处理（sequence从长到短排序后从前到后进行slice），每个时间步数据的batch size可能会缩小（短的sequence结束时），这是Fluid DynamicRNN的一些特殊之处。 -对于非LoDTensor数据，可以使用StaticRNN，用法与上面类似，参考[语言模型示例]( https://github.com/PaddlePaddle/models/blob/develop/fluid/PaddleNLP/language_model/lstm/lm_model.py#L261)。 -### Q：batch norm 里面的两个参数：moving_mean_name、moving_variance_name应该是两个var，但是他们却没有受到 `with fluid.unique_name.guard()` 的影响，导致名字重复？ +`sigmoid_cross_entropy_with_logits`里面的num_classes是指有多个分类标签，而且这些标签之间相互独立，这样对每个分类都会有一个预测概率。举个例子，假如我们要做一个视频动作分类，有如下几个标签（吃饭，聊天，走路，打球），那么num_classes = 4。一个视频可以同时有多个ground truth标签是1，比如这里可能是(1, 1, 0, 0)，也就是一边吃饭一边聊天的场景。而一个可能的预测概率是(0.8, 0.9, 0.1, 0.3)，那么计算损失函数的时候，要对每个分类标签分别计算`sigmoid cross entropy`。 + +##### Q：proto信息解释文档？ + ++ 问题描述 + +PaddlePaddle的proto信息相关的解释文档？ + + 问题解答 -用户指定的name的优先级高于unique_name生成器，所以名字不会被改变。 -### Q：怎么配置让两个fc层共享参数？ +proto信息可以打印出来，然后参考Github [framework.prot](https://github.com/PaddlePaddle/Paddle/blob/develop/paddle/fluid/framework/framework.proto)文件进行解释。 + + +## 模型调用 + +##### Q: 如何不训练某层的权重？ + + 问题解答 -只要指定param_attr相同名字即可，是`param_attr = fluid.ParamAttr(name='fc_share')`，然后把param_attr传到fc里去。 +ParamAttr里配置`learning_rate=0`。 + +##### Q: 根据输出结束模型运行？ + ++ 问题描述 + +PaddlePaddle可以像tf一样根据输出，只执行模型的一部分么？ -### Q：调用`save_inference_model`后，`load_inference_model`加载预测模型的时候用py_reader读取，`feeded_var_names`为空也无法通过feed输入了。py_reader此刻应该如何声明？ + 问题解答 -目前`load_inference_model`加载进行的模型还不支持py_reader输入。 -### Q：根据models里面的[ctr例子](https://github.com/PaddlePaddle/models/blob/develop/fluid/PaddleRec/ctr/infer.py)改写了一个脚本，主要在train的同时增加test过程，方便选择模型轮次，整体训练测试过程跑通，不过无法获取accuracy？ +目前的executor会执行整个program。建议做法是，在定义program的时候提前clone出一个子program，如当前`inference_program = fluid.default_main_program().clone(for_test=True)`的做法。 + +##### Q: 遍历每一个时间布？ + ++ 问题描述 + +在RNN模型中如何遍历序列数据里每一个时间步？ + ++ 问题解答 + +对于LodTensor数据，分步处理每一个时间步数据的需求，大部分情况可以使用`DynamicRNN`，[参考示例](https://github.com/PaddlePaddle/Paddle/blob/develop/python/paddle/fluid/tests/book/test_machine_translation.py#L69) ，其中`rnn.step_input`即是每一个时间步的数据，`rnn.memory`是需要更新的rnn的hidden state，另外还有个`rnn.static_input`是rnn外部的数据在DynamicRNN内的表示（如encoder的output），可以利用这三种数据完成所需操作。 + +rank_table记录了每个sequence的长度，DynamicRNN中调用了lod_tensor_to_array在产生array时按照rank_table做了特殊处理（sequence从长到短排序后从前到后进行slice），每个时间步数据的batch size可能会缩小（短的sequence结束时），这是Fluid DynamicRNN的一些特殊之处。 +对于非LoDTensor数据，可以使用StaticRNN，用法与上面类似，参考[语言模型示例]( https://github.com/PaddlePaddle/models/blob/develop/PaddleNLP/unarchived/language_model/lstm/lm_model.py#L261)。 + +##### Q: NumPy读取出fc层W矩阵？ + ++ 问题描述 + +PaddlePaddle中训练好的fc层参数，有没有直接用numpy 读取出fc层的W矩阵的示例代码呢？ + ++ 问题解答 + +weight名字在构建网络的时候可以通过param_attr指定，然后用`fluid.global_scope().find_var("weight_name").get_tensor()`。 + +##### Q: `stop_gradient=True`影响范围？ + ++ 问题描述 + +请问fluid里面如果某一层使用`stop_gradient=True`，那么是不是这一层之前的层都会自动 `stop_gradient=True`? + ++ 问题解答 + +是的，梯度不回传了。 + +##### Q: 如何获取accuracy？ + ++ 问题描述 + +根据models里面的[ctr例子](https://github.com/PaddlePaddle/models/blob/develop/PaddleRec/ctr/infer.py)改写了一个脚本，主要在train的同时增加test过程，方便选择模型轮次，整体训练测试过程跑通，不过无法获取accuracy？ + + 问题解答 + AUC中带有LOD 信息，需要设置`return_numpy=False `来获得返回值。 -### Q：CTR模型保存模型时报错 +##### Q: 图片小数量大数据集处理方法 + ++ 问题描述 + +对于图片小但数量很大的数据集有什么好的处理方法？ + ++ 问题解答 + +`multiprocess_reader`可以解决该问题。参考[Github示例](https://github.com/PaddlePaddle/Paddle/issues/16592)。 + +##### Q: Libnccl.so报错如何解决？ + ++ 报错信息 + ``` -Traceback (most recent call last): - File "train.py", line 610, in - train_test() - File "train.py", line 553, in train_test - fluid.io.save_inference_model(model_dir, data_name_list, [loss, auc_var], pe) - File "/home/kangjianfeng/paddlepaddle/paddle_release_home/python/lib/python2.7/site-packages/paddle/fluid/io.py", line 681, in save_inference_model - main_program = main_program._prune(targets=target_vars) - File "/home/kangjianfeng/paddlepaddle/paddle_release_home/python/lib/python2.7/site-packages/paddle/fluid/framework.py", line 1741, in _prune - "The target variable must have an " -ValueError: The target variable must have an associated operator that generates it. +Failed to find dynamic library: libnccl.so ( libnccl.so: cannot open shared object file: No such file or directory ） ``` -+ 代码文件：[network_conf.py](https://github.com/PaddlePaddle/models/blob/develop/fluid/PaddleRec/ctr/network_conf.py)只修改了最后一行： ++ 问题解答 + +按照以下步骤做检查： + +1、先确定是否安装libnccl.so + +2、确定环境变量是否配置正确 + +``` +export LD_LIBRARY_PATH=`pwd`/nccl_2.1.4-1+cuda8.0_x86_64/lib:$LD_LIBRARY_PATH +``` + +3、确定是否要配置软链 + +``` +cd /usr/lib/x86_64-linux-gnu +ln -s libnccl.so.2 libnccl.so +``` + + +## 模型保存 + +##### Q: 保存模型API选择 + ++ 问题描述 + +请说明一下如下两个接口的适用场景，现在保存模型都不知用哪个：`save_inference_model`、`save_params`？ + ++ 问题解答 + +`save_inference_model`主要是用于预测的，该API除了会保存预测时所需的模型参数，还会保存预测使用的模型结构。而`save_params`会保存一个program中的所有参数，但是不保存该program对应的模型结构。参考[模型保存与加载](http://paddlepaddle.org/documentation/docs/zh/1.4/api_guides/low_level/model_save_reader.html) + +##### Q: 保存模型报错 + ++ 问题描述 + +CTR模型保存模型时报错 + ++ 代码文件：[network_conf.py](https://github.com/PaddlePaddle/models/blob/develop/PaddleRec/ctr/network_conf.py)只修改了最后一行： + ``` accuracy = fluid.layers.accuracy(input=predict, label=words[-1]) auc_var, batch_auc_var, auc_states = \ @@ -46,115 +152,122 @@ return accuracy, avg_cost, auc_var, batch_auc_var, py_reader ``` + 问题解答 -保存模型时需指定program 才能正确保存。请使用` executor = Executor(place)`, 你的train_program, 以及给` layers.data `指定的名称作为` save_inference_model` 的输入。 -### Q：holder_ should not be null Tensor not initialized yet when Tensor::type() is called -+ 错误信息 -``` -C++ Callstacks: -holder should not be null -Tensor not initialized yet when Tensor::type() is called. at [/paddle/paddle/fluid/framework/tensor.h:145] -PaddlePaddle Call Stacks: -``` +保存模型时需指定program 才能正确保存。请使用`executor = Executor(place)`, 你的train_program, 以及给`layers.data`指定的名称作为`save_inference_model` 的输入。 + + +## 参数相关 + +##### Q: 手动输入参数并改变？ + ++ 问题描述 + +PaddlePaddle的全连接层，可不可以手动输入参数比如weights和bias并禁止优化器比如optimizer.SGD在模型训练的时候改变它？ + + 问题解答 -错误提示是某个tensor为空。建议运行时加上环境变量GLOG_vmodule=operator=4 , GLOG_logtostderr=1看看运行到哪个op，哪个tensor为空。 +可以通过ParamAttr设置参数的属性，`fluid.ParamAttr( initializer=fluid.initializer.Normal(0.0, 0.02), learning_rate=2.0)`，其中learning_rate设置为0，就不会修改。手动输入参数也可以实现，但是会比较麻烦。 + +##### Q: `fluid.unique_name.guard()`影响范围 + ++ 问题描述 + +batch norm 里面的两个参数：moving_mean_name、moving_variance_name应该是两个var，但是他们却没有受到 `with fluid.unique_name.guard()` 的影响，导致名字重复？ -### Q：使用py_reader读取数据的时候，怎么给读取的变量指定名字呢？ + 问题解答 -参考[create_py_reader_by_data](http://paddlepaddle.org/documentation/docs/zh/1.3/api_cn/layers_cn.html#create-py-reader-by-data) +用户指定的name的优先级高于unique_name生成器，所以名字不会被改变。 + +##### Q: 2fc层共享参数？ + ++ 问题描述 + +怎么配置让两个fc层共享参数？ -### Q：PaddlePaddle是否支持两维以上的变长tensor，如shape[-1, -1, 128]？ + 问题解答 -配置网络的时候可以将shape写成[-1,任意正数,128]，然后输入的时候shape可以为[任意正数,任意正数,128]。维度只是个占位，运行网络的时候的实际维度是从输入数据推导出来的。两个"任意整数" 在输入和配置的时候可以不相等。配置网络的时候第一维度必须为-1。 +只要指定param_attr相同名字即可，是`param_attr = fluid.ParamAttr(name='fc_share')`，然后把param_attr传到fc里去。 + + +## LoD-Tensor数据结构相关 + +##### Q: 拓展tensor纬度 + ++ 问题描述 + +PaddlePaddle有拓展tensor维度的op吗？ -### Q：请说明一下如下两个接口的适用场景，现在保存模型都不知用哪个：`save_inference_model`、`save_params`？ + 问题解答 -`save_inference_model`主要是用于预测的，该API除了会保存预测时所需的模型参数，还会保存预测使用的模型结构。而`save_params`会保存一个program中的所有参数，但是不保存该program对应的模型结构。参考[模型保存与加载](http://paddlepaddle.org/documentation/docs/zh/1.4/api_guides/low_level/model_save_reader.html) -### Q：PaddlePaddle的proto信息相关的解释文档？ +请参[unsqueeze op](http://paddlepaddle.org/documentation/docs/zh/1.3/api/layers.html#unsqueeze)，例如[1,2]拓展为[1，2，1] + +##### Q: 多维变长tensor? + ++ 问题描述 + +PaddlePaddle是否支持两维以上的变长tensor，如shape[-1, -1, 128]？ + + 问题解答 -proto信息可以打印出来，然后参考Github [framework.prot](https://github.com/PaddlePaddle/Paddle/blob/develop/paddle/fluid/framework/framework.proto)文件进行解释。 -### Q：C++ 如何把std::vector转换成 lodtensor的方法? +配置网络的时候可以将shape写成[-1,任意正数,128]，然后输入的时候shape可以为[任意正数,任意正数,128]。维度只是个占位，运行网络的时候的实际维度是从输入数据推导出来的。两个"任意整数" 在输入和配置的时候可以不相等。配置网络的时候第一维度必须为-1。 + +##### Q: vector -> LodTensor + ++ 问题描述 + +C++ 如何把std::vector转换成LodTensor的方法? + + 问题解答 + 如下示例 -```cpp +```cpp std::vector ids{1918, 117, 55, 97, 1352, 4272, 1656, 903}; - framework::LoDTensor words; - auto size = static_cast(ids.size()); - framework::LoD lod{{0, ids.size()}}; - DDim dims{size, 1}; - words.Resize(dims); - words.set_lod(lod); - auto *pdata = words.mutable_data(); - size_t n = words.numel() * sizeof(int64_t); - memcpy(pdata, ids.data(), n); +``` + +##### Q: 报错holder should not be null + ++ 错误信息 +``` +C++ Callstacks: +holder should not be null +Tensor not initialized yet when Tensor::type() is called. at [/paddle/paddle/fluid/framework/tensor.h:145] +PaddlePaddle Call Stacks: ``` -### Q：PaddlePaddle可以像tf一样根据输出，只执行模型的一部分么？ + 问题解答 -目前的executor会执行整个program。建议做法是，在定义program的时候提前clone出一个子program，如当前`inference_program = fluid.default_main_program().clone(for_test=True)`的做法。 -### Q：PaddlePaddle的全连接层，可不可以手动输入参数比如weights和bias并禁止优化器比如optimizer.SGD在模型训练的时候改变它？ -+ 问题解答 -可以通过ParamAttr设置参数的属性，`fluid.ParamAttr( initializer=fluid.initializer.Normal(0.0, 0.02), learning_rate=2.0)`，其中learning_rate设置为0，就不会修改。手动输入参数也可以实现，但是会比较麻烦。 +错误提示是某个tensor为空。建议运行时加上环境变量GLOG_vmodule=operator=4 , GLOG_logtostderr=1看看运行到哪个op，哪个tensor为空。 -### Q：PaddlePaddle中训练好的fc层参数，有没有直接用numpy 读取出fc层的W矩阵的示例代码呢？ -+ 问题解答 -weight名字在构建网络的时候可以通过param_attr指定，然后用`fluid.global_scope().find_var("weight_name").get_tensor()`。 -### Q：请问fluid 里面如果某一层使用`stop_gradient=True`，那么是不是这一层之前的层都会自动 `stop_gradient=True`? -+ 问题解答 -是的，梯度不回传了。 +## pyreader -### Q：如何不训练某层的权重？ -+ 问题解答 -ParamAttr里配置`learning_rate=0`。 +##### Q: 加载模型时pyreader使用 -### Q：PaddlePaddle有拓展tensor维度的op吗？ -+ 问题解答 -请参[unsqueeze op](http://paddlepaddle.org/documentation/docs/zh/1.3/api/layers.html#unsqueeze)，例如[1,2]拓展为[1，2，1] ++ 问题描述 -### Q：sigmoid二分类，`sigmoid_cross_entropy_with_logits`，其中num_classes的意义？ -+ 问题解答 -`sigmoid_cross_entropy_with_logits`里面的num_classes是指有多个分类标签，而且这些标签之间相互独立，这样对每个分类都会有一个预测概率。举个例子，假如我们要做一个视频动作分类，有如下几个标签（吃饭，聊天，走路，打球），那么num_classes = 4。一个视频可以同时有多个ground truth标签是1，比如这里可能是(1, 1, 0, 0)，也就是一边吃饭一边聊天的场景。而一个可能的预测概率是(0.8, 0.9, 0.1, 0.3)，那么计算损失函数的时候，要对每个分类标签分别计算`sigmoid cross entropy`。 +调用`save_inference_model`后，`load_inference_model`加载预测模型的时候用py_reader读取，`feeded_var_names`为空也无法通过feed输入了。py_reader此刻应该如何声明？ -### Q：对于图片小但数量很大的数据集有什么好的处理方法？ + 问题解答 -`multiprocess_reader`可以解决该问题。参考[Github示例](https://github.com/PaddlePaddle/Paddle/issues/16592)。 -### Q：fluid1.3, cpu训练如何使用多线程? -+ 问题解答 -使用`ParallelExecutor`的话默认是多线程所有核数的，设置CPU_NUM可以指定线程数，另外可以试下在创建`ParallelExecutor`时传入设置了num_threads 的exec_strategy。 +目前`load_inference_model`加载进行的模型还不支持py_reader输入。 + +##### Q: 变量取名 + ++ 问题描述 + +使用py_reader读取数据的时候，怎么给读取的变量指定名字呢？ -### Q：Libnccl.so报错如何解决？ -+ 报错信息 -``` -Failed to find dynamic library: libnccl.so ( libnccl.so: cannot open shared object file: No such file or directory ） -``` + 问题解答 -按照以下步骤做检查： -1、先确定是否安装libnccl.so -2、确定环境变量是否配置正确 -``` -export LD_LIBRARY_PATH=`pwd`/nccl_2.1.4-1+cuda8.0_x86_64/lib:$LD_LIBRARY_PATH -``` -3、确定是否要配置软链 -``` -cd /usr/lib/x86_64-linux-gnu -ln -s libnccl.so.2 libnccl.so -``` + +参考[create_py_reader_by_data](http://paddlepaddle.org/documentation/docs/zh/1.3/api_cn/layers_cn.html#create-py-reader-by-data)