fluid.layers.roi_perspective_transform Segmentation fault (core dumped)
Created by: zhangxiaoqiang7
paddle 版本:1.5.0
运行环境:python 2.7 cuda 9.0 cudnn 7.3 k40 单卡
问题:
使用以下代码提取roi特征,出core
!
image
使用gdb python查看core文件信息如下:
注释掉该op,使用py_func检查输入正常,shape分别为:self.f:[1L, 128L, 128L, 96L], polys:[6L, 8L], 类型为floa32,polys 信息如下: