Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
s920243400
PaddleDetection
提交
c8e4a3d7
P
PaddleDetection
项目概览
s920243400
/
PaddleDetection
与 Fork 源项目一致
Fork自
PaddlePaddle / PaddleDetection
通知
2
Star
0
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleDetection
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
c8e4a3d7
编写于
3月 29, 2021
作者:
C
cnn
提交者:
GitHub
3月 29, 2021
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix tensorrt bug of ssd, update doc of tensorrt, test=documet_fix (#2410)
上级
f5aba69c
变更
2
隐藏空白更改
内联
并排
Showing
2 changed file
with
16 addition
and
1 deletion
+16
-1
deploy/TENSOR_RT.md
deploy/TENSOR_RT.md
+15
-0
ppdet/engine/export_utils.py
ppdet/engine/export_utils.py
+1
-1
未找到文件。
deploy/TENSOR_RT.md
浏览文件 @
c8e4a3d7
...
...
@@ -42,6 +42,13 @@ TensorRT版本<=5时,使用TensorRT预测时,只支持固定尺寸输入。
同时需要将图像预处理后的尺寸与设置车模型输入尺寸保持一致,需要设置
`infer_cfg.yml`
配置文件中
`Resize OP`
的
`target_size`
参数和
`keep_ratio`
参数。
注意:由于TesnorRT不支持在batch维度进行slice操作,Faster RCNN 和 Mask RCNN使用固定尺寸输入预测会报错,这两个模型请使用动态尺寸输入。
以
`YOLOv3`
为例,使用动态尺寸输入预测:
```
python python/infer.py --model_dir=../inference_model/yolov3_darknet53_270e_coco/ --image_file=../demo/000000014439_640x640.jpg --use_gpu=True --run_mode=trt_fp32 --run_benchmark=True
```
### 3.3 TensorRT动态尺寸预测
TensorRT版本>=6时,使用TensorRT预测时,可以支持动态尺寸输入。
...
...
@@ -59,6 +66,11 @@ Paddle预测库关于动态尺寸输入请查看[Paddle CPP预测](https://www.p
**注意:`TensorRT`中动态尺寸设置是4维的,这里只设置输入图像的尺寸。**
以
`Faster RCNN`
为例,使用动态尺寸输入预测:
```
python python/infer.py --model_dir=../inference_model/faster_rcnn_r50_fpn_1x_coco/ --image_file=../demo/000000014439.jpg --use_gpu=True --run_mode=trt_fp16 --run_benchmark=True --use_dynamic_shape=True --trt_max_shape=1280 --trt_min_shape=800 --trt_opt_shape=960
```
## 4、常见问题QA
**Q:**
提示没有
`tensorrt_op`
</br>
**A:**
请检查是否使用带有TensorRT的Paddle Python包或预测库。
...
...
@@ -76,3 +88,6 @@ Paddle预测库关于动态尺寸输入请查看[Paddle CPP预测](https://www.p
**Q:**
如何打开日志
</br>
**A:**
预测库默认是打开日志的,只要注释掉
`config.disable_glog_info()`
就可以打开日志
**Q:**
开启TensorRT,预测时提示Slice on batch axis is not supported in TensorRT
</br>
**A:**
请尝试使用动态尺寸输入
ppdet/engine/export_utils.py
浏览文件 @
c8e4a3d7
...
...
@@ -28,7 +28,7 @@ logger = setup_logger('ppdet.engine')
# Global dictionary
TRT_MIN_SUBGRAPH
=
{
'YOLO'
:
3
,
'SSD'
:
4
0
,
'SSD'
:
6
0
,
'RCNN'
:
40
,
'RetinaNet'
:
40
,
'EfficientDet'
:
40
,
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录