Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
机器未来
Paddle
提交
954ebda1
P
Paddle
项目概览
机器未来
/
Paddle
与 Fork 源项目一致
Fork自
PaddlePaddle / Paddle
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
1
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
1
Issue
1
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
954ebda1
编写于
8月 25, 2020
作者:
Z
zlsh80826
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
skip_layernorm is not related to B, S axis
上级
2e72a0e3
变更
1
显示空白变更内容
内联
并排
Showing
1 changed file
with
2 addition
and
14 deletion
+2
-14
paddle/fluid/inference/tensorrt/convert/skip_layernorm.cc
paddle/fluid/inference/tensorrt/convert/skip_layernorm.cc
+2
-14
未找到文件。
paddle/fluid/inference/tensorrt/convert/skip_layernorm.cc
浏览文件 @
954ebda1
...
@@ -78,23 +78,11 @@ class SkipLayerNormOpConverter : public OpConverter {
...
@@ -78,23 +78,11 @@ class SkipLayerNormOpConverter : public OpConverter {
auto
pluginObj
=
auto
pluginObj
=
creator
->
createPlugin
(
"CustomSkipLayerNormPluginDynamic"
,
pluginPtr
);
creator
->
createPlugin
(
"CustomSkipLayerNormPluginDynamic"
,
pluginPtr
);
nvinfer1
::
Permutation
permutation
{
1
,
0
,
2
,
3
,
4
};
auto
trans_layer0
=
TRT_ENGINE_ADD_LAYER
(
engine_
,
Shuffle
,
*
inputs
[
0
]);
auto
trans_layer1
=
TRT_ENGINE_ADD_LAYER
(
engine_
,
Shuffle
,
*
inputs
[
1
]);
trans_layer0
->
setFirstTranspose
(
permutation
);
trans_layer1
->
setFirstTranspose
(
permutation
);
std
::
vector
<
nvinfer1
::
ITensor
*>
trans_tensors
;
trans_tensors
.
emplace_back
(
trans_layer0
->
getOutput
(
0
));
trans_tensors
.
emplace_back
(
trans_layer1
->
getOutput
(
0
));
auto
plugin_layer
=
engine_
->
network
()
->
addPluginV2
(
auto
plugin_layer
=
engine_
->
network
()
->
addPluginV2
(
trans_tensors
.
data
(),
trans_tensor
s
.
size
(),
*
pluginObj
);
inputs
.
data
(),
input
s
.
size
(),
*
pluginObj
);
assert
(
plugin_layer
!=
nullptr
);
assert
(
plugin_layer
!=
nullptr
);
auto
trans_layer
=
layer
=
plugin_layer
;
TRT_ENGINE_ADD_LAYER
(
engine_
,
Shuffle
,
*
plugin_layer
->
getOutput
(
0
));
assert
(
trans_layer
!=
nullptr
);
trans_layer
->
setFirstTranspose
(
permutation
);
layer
=
trans_layer
;
#else
#else
float
eps
=
BOOST_GET_CONST
(
float
,
op_desc
.
GetAttr
(
"epsilon"
));
float
eps
=
BOOST_GET_CONST
(
float
,
op_desc
.
GetAttr
(
"epsilon"
));
bool
ban_fp16
=
engine_
->
disable_trt_plugin_fp16
();
bool
ban_fp16
=
engine_
->
disable_trt_plugin_fp16
();
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录