paddle训练速度慢,主要是数据传输慢,怎么解决?
Created by: yuyy0823
PaddlePaddle 0.14 GPU版本 单机2个GPU跑二分类,特征7k维,batch_size=1024,网络结构是一个2层的CNN,参数维数比较低。 使用profiler分析发现耗时应该主要是数据从cpu到gpu拷贝比较慢,以下分别是按照cputime和gputime逆序排列的结果。看起来paddle内部的操作耗时都不多,主要是io耗时高,请问该如何优化这一部分? method gputime cputime memcpyHtoD 1.824 19204.238 memcpyHtoD 3.808 12522.656 memcpyHtoD 1.728 10132.713 memcpyHtoD 1.408 9395.499 memcpyHtoD 1.440 7006.348 memcpyHtoD 1.632 6175.062 memcpyHtoD 5.824 5356.806 memcpyHtoD 1.440 4094.026
memcpyDtoH 6.464 2733.988 memcpyDtoH 6.176 2711.298 memcpyDtoH 8.480 2578.788 memcpyDtoH 17.088 2418.215 memcpyDtoH 4.128 2269.545 memcpyDtoH 3.264 2194.679 memcpyHtoD 10.848 2169.339 memcpyHtoD 3.168 2131.716 memcpyDtoH 1.856 2019.804 memcpyDtoH 4.000 1983.331 memcpyHtoD 121.824 1846.201
尝试使用paddle.reader.xmap_readers,但感觉并没有用