Skip to content

  • 体验新版
    • 正在加载...
  • 登录
  • PaddlePaddle
  • Paddle
  • Issue
  • #22320

P
Paddle
  • 项目概览

PaddlePaddle / Paddle
大约 2 年 前同步成功

通知 2325
Star 20933
Fork 5424
  • 代码
    • 文件
    • 提交
    • 分支
    • Tags
    • 贡献者
    • 分支图
    • Diff
  • Issue 1423
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 543
  • Wiki 0
    • Wiki
  • 分析
    • 仓库
    • DevOps
  • 项目成员
  • Pages
P
Paddle
  • 项目概览
    • 项目概览
    • 详情
    • 发布
  • 仓库
    • 仓库
    • 文件
    • 提交
    • 分支
    • 标签
    • 贡献者
    • 分支图
    • 比较
  • Issue 1,423
    • Issue 1,423
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 543
    • 合并请求 543
  • Pages
  • 分析
    • 分析
    • 仓库分析
    • DevOps
  • Wiki 0
    • Wiki
  • 成员
    • 成员
  • 收起侧边栏
  • 动态
  • 分支图
  • 创建新Issue
  • 提交
  • Issue看板
已关闭
开放中
Opened 1月 16, 2020 by saxon_zh@saxon_zhGuest

fluid.io.DataLoader.from_generator在reset时hang住

Created by: littletomatodonkey

环境:k8s集群环境,paddle1.6.1 reader是自己整理的reader,用from_generator组了batch,在迭代完成之后(不是按照epoch去迭代,是按照minibatch数量去迭代,因此迭代结束时,当前epoch中的数据可能没有请求完),reader中的线程都是daemon的,所以怀疑是fluid reader一直处于join的状态没有退出,pystack打印出的日志信息如下:

Dumping Threads....                                                                                                                                        
                                                                                                                                                           
                                                                                                                                                           
  File "/opt/_internal/cpython-2.7.11-ucs4/lib/python2.7/threading.py", line 774, in __bootstrap                                                           
    self.__bootstrap_inner()                                                                                                                               
  File "/opt/_internal/cpython-2.7.11-ucs4/lib/python2.7/threading.py", line 801, in __bootstrap_inner                                                     
    self.run()                                                                                                                                             
  File "/opt/_internal/cpython-2.7.11-ucs4/lib/python2.7/threading.py", line 754, in run                                                                   
    self.__target(*self.__args, **self.__kwargs)                                                                                                           
  File "./aiflowlib/dep/visreader/pipeline/decorator.py", line 98, in _fetcher                                                                             
    if isinstance(inq.get(), ReaderEndSignal):                                                                                                             
  File "/opt/_internal/cpython-2.7.11-ucs4/lib/python2.7/Queue.py", line 168, in get                                                                       
    self.not_empty.wait()                                                                                                                                  
  File "/opt/_internal/cpython-2.7.11-ucs4/lib/python2.7/threading.py", line 340, in wait                                                                  
    waiter.acquire()                                                                                                                                       
                                                                                                                                                           
---------------                                                                                                                                            
                                                                                                                                                           
  File "/opt/_internal/cpython-2.7.11-ucs4/lib/python2.7/threading.py", line 774, in __bootstrap                                                           
    self.__bootstrap_inner()                                                                                                                               
  File "/opt/_internal/cpython-2.7.11-ucs4/lib/python2.7/threading.py", line 801, in __bootstrap_inner                                                     
    self.run()                                                                                                                                             
  File "/opt/_internal/cpython-2.7.11-ucs4/lib/python2.7/threading.py", line 754, in run                                                                   
    self.__target(*self.__args, **self.__kwargs)                                                                                                           
  File "/opt/_internal/cpython-2.7.11-ucs4/lib/python2.7/site-packages/paddle/fluid/reader.py", line 479, in __thread_main__                               
    if not self._queue.push(array):                                                                                                                        
                                                                                                                                                           
---------------                                                                                                                                            
                                                                                                                                                           
  File "train_aiflow.py", line 76, in <module>                                                                                                             
    trainmain()                                                                                                                                            
  File "train_aiflow.py", line 73, in trainmain                                                                                                            
    train.main()                                                                                                                                           
  File "./train.py", line 307, in main                                                                                                                     
    trainmain(FLAGS)                                                                                                                                       
  File "./train.py", line 299, in trainmain                                                                                                                
    train_loader.reset()                                                                                                                                   
  File "/opt/_internal/cpython-2.7.11-ucs4/lib/python2.7/site-packages/paddle/fluid/reader.py", line 452, in reset                                         
    self._reset()
File "/opt/_internal/cpython-2.7.11-ucs4/lib/python2.7/site-packages/paddle/fluid/reader.py", line 498, in _reset                                        
    thread.join()                                                                                                                                          
  File "/opt/_internal/cpython-2.7.11-ucs4/lib/python2.7/threading.py", line 940, in join                                                                  
    self.__block.wait()                                                                                                                                    
  File "/opt/_internal/cpython-2.7.11-ucs4/lib/python2.7/threading.py", line 340, in wait                                                                  
    waiter.acquire()                                                                                                                                       
  File "<string>", line 1, in <module>                                                                                                                     
  File "<string>", line 1, in <module>
指派人
分配到
无
里程碑
无
分配里程碑
工时统计
无
截止日期
无
标识: paddlepaddle/Paddle#22320
渝ICP备2023009037号

京公网安备11010502055752号

网络110报警服务 Powered by GitLab CE v13.7
开源知识
Git 入门 Pro Git 电子书 在线学 Git
Markdown 基础入门 IT 技术知识开源图谱
帮助
使用手册 反馈建议 博客
《GitCode 隐私声明》 《GitCode 服务条款》 关于GitCode
Powered by GitLab CE v13.7