Skip to content

P
Paddle

机器未来 / Paddle
与 Fork 源项目一致

Fork自 PaddlePaddle / Paddle

通知 1
Star 1
Fork 0
P
Paddle
未验证 提交 49e2a4d8 编写于 作者: Z zhiboniu 提交者： GitHub
浏览文件
操作

refix index resize in multiclassnms3 (#45095)

上级 5bf3dec9
隐藏空白更改
内联 并排
Showing with 1 addition and 1 deletion
paddle/phi/infermeta/ternary.cc
浏览文件 @ 49e2a4d8
...@@ -814,7 +814,7 @@ void MultiClassNMSInferMeta(const MetaTensor& bboxes, ...@@ -814,7 +814,7 @@ void MultiClassNMSInferMeta(const MetaTensor& bboxes,
out->set_dims(phi::make_ddim({-1, box_dims[2] + 2})); out->set_dims(phi::make_ddim({-1, box_dims[2] + 2}));
out->set_dtype(bboxes.dtype()); out->set_dtype(bboxes.dtype());
index->set_dims(phi::make_ddim({-1, box_dims[2] + 2})); index->set_dims(phi::make_ddim({-1, 1}));
index->set_dtype(DataType::INT32); index->set_dtype(DataType::INT32);
nms_rois_num->set_dims(phi::make_ddim({-1})); nms_rois_num->set_dims(phi::make_ddim({-1}));
nms_rois_num->set_dtype(DataType::INT32); nms_rois_num->set_dtype(DataType::INT32);
......
Markdown is supported
0% 或 .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑！
想要评论请 注册 或