Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
机器未来
Paddle
提交
d8edf487
P
Paddle
项目概览
机器未来
/
Paddle
与 Fork 源项目一致
Fork自
PaddlePaddle / Paddle
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
1
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
1
Issue
1
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
d8edf487
编写于
9月 22, 2022
作者:
Z
zhoutianzi666
提交者:
GitHub
9月 22, 2022
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
[Paddle-TRT]fix bug in fill_constant_batch_size_like op (#46334)
* fix beta bug in fill_constant_batch_size_like
上级
2963e6a0
变更
2
隐藏空白更改
内联
并排
Showing
2 changed file
with
8 addition
and
2 deletion
+8
-2
paddle/fluid/inference/tensorrt/convert/fill_constant_batch_size_like_op.cc
...ence/tensorrt/convert/fill_constant_batch_size_like_op.cc
+5
-1
python/paddle/fluid/tests/unittests/ir/inference/test_trt_convert_rnn.py
...luid/tests/unittests/ir/inference/test_trt_convert_rnn.py
+3
-1
未找到文件。
paddle/fluid/inference/tensorrt/convert/fill_constant_batch_size_like_op.cc
浏览文件 @
d8edf487
...
...
@@ -44,6 +44,10 @@ class FillConstantBatchSizeLikeOpConverter : public OpConverter {
PADDLE_GET_CONST
(
std
::
string
,
op_desc
.
GetAttr
(
"str_value"
));
std
::
vector
<
int32_t
>
shape
=
PADDLE_GET_CONST
(
std
::
vector
<
int32_t
>
,
op_desc
.
GetAttr
(
"shape"
));
if
(
str_value
==
""
)
{
float
value
=
PADDLE_GET_CONST
(
float
,
op_desc
.
GetAttr
(
"value"
));
str_value
=
std
::
to_string
(
value
);
}
float
value
=
std
::
stof
(
str_value
);
auto
*
input_shape_tensor
=
Shape
(
input
);
...
...
@@ -65,7 +69,7 @@ class FillConstantBatchSizeLikeOpConverter : public OpConverter {
auto
layer
=
TRT_ENGINE_ADD_LAYER
(
engine_
,
Fill
,
nvinfer1
::
Dims
{},
nvinfer1
::
FillOperation
::
kLINSPACE
);
std
::
vector
<
float
>
value_vec
(
1
,
value
);
std
::
vector
<
float
>
beta_vec
(
3
,
0.
);
std
::
vector
<
float
>
beta_vec
(
shape
.
size
()
,
0.
);
layer
->
setAlpha
(
value
);
layer
->
setBeta
(
0.
f
);
layer
->
setInput
(
0
,
*
out_shape_tensor
);
...
...
python/paddle/fluid/tests/unittests/ir/inference/test_trt_convert_rnn.py
浏览文件 @
d8edf487
...
...
@@ -87,7 +87,9 @@ class TrtConvertSliceTest(TrtLayerAutoScanTest):
"input_dim_idx"
:
0
,
"str_value"
:
"0.0"
,
""
,
"value"
:
0.0
,
"shape"
:
[
K
*
num_layers
,
-
1
,
hidden_size
],
"output_dim_idx"
:
1
,
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录