Skip to content

P
Paddle

BaiXuePrincess / Paddle
与 Fork 源项目一致

Fork自 PaddlePaddle / Paddle

通知 1
Star 1
Fork 0
P
Paddle
未验证 提交 65708141 编写于 作者: X XiaoguangHu 提交者： GitHub
浏览文件
操作

fix bug of batch_norm_grad kernel with fp16 (#42460) 

* fix bug of batch_norm_grad kernel with fp16

* format code
上级 2f99869d
显示空白变更内容
内联 并排
Showing with 6 addition and 9 deletion
paddle/phi/kernels/gpu/batch_norm_grad_kernel.cu
浏览文件 @ 65708141
...@@ -988,10 +988,9 @@ PD_REGISTER_KERNEL(batch_norm_grad, ...@@ -988,10 +988,9 @@ PD_REGISTER_KERNEL(batch_norm_grad,
double, double,
phi::dtype::float16) { phi::dtype::float16) {
if (kernel_key.dtype() == phi::DataType::FLOAT16) { if (kernel_key.dtype() == phi::DataType::FLOAT16) {
kernel->OutputAt(1).SetDataType(phi::DataType::FLOAT32); kernel->OutputAt(0).SetDataType(phi::DataType::FLOAT32); // x_grad
kernel->OutputAt(2).SetDataType(phi::DataType::FLOAT32); kernel->OutputAt(1).SetDataType(phi::DataType::FLOAT32); // scale_grad
kernel->OutputAt(3).SetDataType(phi::DataType::FLOAT32); kernel->OutputAt(2).SetDataType(phi::DataType::FLOAT32); // bias_grad
kernel->OutputAt(4).SetDataType(phi::DataType::FLOAT32);
} }
} }
...@@ -1003,10 +1002,9 @@ PD_REGISTER_KERNEL(batch_norm_grad_raw, ...@@ -1003,10 +1002,9 @@ PD_REGISTER_KERNEL(batch_norm_grad_raw,
double, double,
phi::dtype::float16) { phi::dtype::float16) {
if (kernel_key.dtype() == phi::DataType::FLOAT16) { if (kernel_key.dtype() == phi::DataType::FLOAT16) {
kernel->OutputAt(1).SetDataType(phi::DataType::FLOAT32); kernel->OutputAt(0).SetDataType(phi::DataType::FLOAT32); // x_grad
kernel->OutputAt(2).SetDataType(phi::DataType::FLOAT32); kernel->OutputAt(1).SetDataType(phi::DataType::FLOAT32); // scale_grad
kernel->OutputAt(3).SetDataType(phi::DataType::FLOAT32); kernel->OutputAt(2).SetDataType(phi::DataType::FLOAT32); // bias_grad
kernel->OutputAt(4).SetDataType(phi::DataType::FLOAT32);
} }
} }
...@@ -1019,7 +1017,6 @@ PD_REGISTER_KERNEL(batch_norm_grad_grad, ...@@ -1019,7 +1017,6 @@ PD_REGISTER_KERNEL(batch_norm_grad_grad,
phi::BatchNormDoubleGradKernel, phi::BatchNormDoubleGradKernel,
float, float,
double) {} double) {}
#else #else
PD_REGISTER_KERNEL(batch_norm_grad_grad, PD_REGISTER_KERNEL(batch_norm_grad_grad,
GPU, GPU,
......
Markdown is supported
0% 或 .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑！
想要评论请 注册 或