未验证 提交 a51817d7 编写于 作者: C csy0225 提交者: GitHub

fix tensorrt dla int8 problem (#42826)

上级 e339d3c1
...@@ -90,7 +90,9 @@ void TensorRTEngine::FreezeNetwork() { ...@@ -90,7 +90,9 @@ void TensorRTEngine::FreezeNetwork() {
bool enable_int8 = (precision_ == AnalysisConfig::Precision::kInt8); bool enable_int8 = (precision_ == AnalysisConfig::Precision::kInt8);
if (enable_int8) { if (enable_int8) {
infer_builder_config_->setFlag(nvinfer1::BuilderFlag::kFP16); if (!use_dla_) {
infer_builder_config_->setFlag(nvinfer1::BuilderFlag::kFP16);
}
infer_builder_config_->setFlag(nvinfer1::BuilderFlag::kINT8); infer_builder_config_->setFlag(nvinfer1::BuilderFlag::kINT8);
if (calibrator_) { if (calibrator_) {
......
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册