Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
BaiXuePrincess
Paddle
提交
974f8f32
P
Paddle
项目概览
BaiXuePrincess
/
Paddle
与 Fork 源项目一致
Fork自
PaddlePaddle / Paddle
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
974f8f32
编写于
11月 01, 2022
作者:
F
feng_shuai
提交者:
GitHub
11月 01, 2022
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix:add no support for cuda_arch<700 (#47509)
上级
bfc45e34
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
7 addition
and
6 deletion
+7
-6
paddle/fluid/operators/math/bert_encoder_functor.cu
paddle/fluid/operators/math/bert_encoder_functor.cu
+7
-6
未找到文件。
paddle/fluid/operators/math/bert_encoder_functor.cu
浏览文件 @
974f8f32
...
@@ -836,7 +836,13 @@ inline void MatMulWithHeadQK(const phi::GPUContext &context,
...
@@ -836,7 +836,13 @@ inline void MatMulWithHeadQK(const phi::GPUContext &context,
FINAL_MASK
);
FINAL_MASK
);
}
else
{
}
else
{
if
(
bias_is_mask
)
{
if
(
bias_is_mask
)
{
#ifndef __HIPCC__
#if defined(__HIPCC__) || (defined(__CUDA_ARCH__) && __CUDA_ARCH__ < 700)
PADDLE_ENFORCE_EQ
(
bias_is_mask
,
false
,
platform
::
errors
::
InvalidArgument
(
"QK_bias is mask can't be supported on rocm or "
"cuda_arch<700"
));
#else
constexpr
int
ITEMS_PER_THREAD
=
1
;
constexpr
int
ITEMS_PER_THREAD
=
1
;
bool
is_half2
=
true
;
bool
is_half2
=
true
;
...
@@ -853,11 +859,6 @@ inline void MatMulWithHeadQK(const phi::GPUContext &context,
...
@@ -853,11 +859,6 @@ inline void MatMulWithHeadQK(const phi::GPUContext &context,
batch_size
,
batch_size
,
head_num
,
head_num
,
seq_len
);
seq_len
);
#else
PADDLE_ENFORCE_EQ
(
bias_is_mask
,
false
,
platform
::
errors
::
InvalidArgument
(
"rocm can't support that QK_bias is mask"
));
#endif
#endif
}
else
{
}
else
{
SoftmaxKernelWithEltadd2
<
__half2
><<<
grid
,
block
,
0
,
stream
>>>
(
SoftmaxKernelWithEltadd2
<
__half2
><<<
grid
,
block
,
0
,
stream
>>>
(
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录