Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
BaiXuePrincess
Paddle
提交
5c1bafbb
P
Paddle
项目概览
BaiXuePrincess
/
Paddle
与 Fork 源项目一致
Fork自
PaddlePaddle / Paddle
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
5c1bafbb
编写于
9月 13, 2020
作者:
Z
Zhang Ting
提交者:
GitHub
9月 13, 2020
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
use eval to improve performance, test=develop (#25459)
上级
5c4eed66
变更
1
显示空白变更内容
内联
并排
Showing
1 changed file
with
18 addition
and
6 deletion
+18
-6
paddle/fluid/operators/dist_op.h
paddle/fluid/operators/dist_op.h
+18
-6
未找到文件。
paddle/fluid/operators/dist_op.h
浏览文件 @
5c1bafbb
...
@@ -176,15 +176,27 @@ static void DistGradFunction(const framework::ExecutionContext& context) {
...
@@ -176,15 +176,27 @@ static void DistGradFunction(const framework::ExecutionContext& context) {
}
else
if
(
p
==
INFINITY
||
p
==
-
INFINITY
)
{
}
else
if
(
p
==
INFINITY
||
p
==
-
INFINITY
)
{
// p=inf or -inf, Lp-norm = |z_i|, the j-th element of dz tends to 0 if
// p=inf or -inf, Lp-norm = |z_i|, the j-th element of dz tends to 0 if
// j!=i, or equals to sign(z_i) * dout if j=i.
// j!=i, or equals to sign(z_i) * dout if j=i.
grad_t
.
device
(
place
)
=
if
(
platform
::
is_cpu_place
(
context
.
GetPlace
()))
{
(
x_minux_y_abs
==
out_t
.
broadcast
(
out_bcast_dims
)).
template
cast
<
T
>()
*
grad_t
.
device
(
place
)
=
(
x_minux_y_abs
==
out_t
.
broadcast
(
out_bcast_dims
))
.
template
cast
<
T
>()
*
sign
.
eval
()
*
out_grad_t
.
broadcast
(
out_bcast_dims
);
}
else
{
grad_t
.
device
(
place
)
=
(
x_minux_y_abs
==
out_t
.
broadcast
(
out_bcast_dims
))
.
template
cast
<
T
>()
*
sign
*
out_grad_t
.
broadcast
(
out_bcast_dims
);
sign
*
out_grad_t
.
broadcast
(
out_bcast_dims
);
}
}
else
{
}
else
{
// dz = pow(abs(x-y)/out, p-1) * sign(x-y) * dout
// dz = pow(abs(x-y)/out, p-1) * sign(x-y) * dout
if
(
platform
::
is_cpu_place
(
context
.
GetPlace
()))
{
grad_t
.
device
(
place
)
=
(
x_minux_y_abs
/
out_t
.
broadcast
(
out_bcast_dims
)).
pow
(
p
-
1
)
*
sign
.
eval
()
*
out_grad_t
.
broadcast
(
out_bcast_dims
);
}
else
{
grad_t
.
device
(
place
)
=
grad_t
.
device
(
place
)
=
(
x_minux_y_abs
/
out_t
.
broadcast
(
out_bcast_dims
)).
pow
(
p
-
1
)
*
sign
*
(
x_minux_y_abs
/
out_t
.
broadcast
(
out_bcast_dims
)).
pow
(
p
-
1
)
*
sign
*
out_grad_t
.
broadcast
(
out_bcast_dims
);
out_grad_t
.
broadcast
(
out_bcast_dims
);
}
}
}
Eigen
::
DSizes
<
int
,
Rank
*
2
>
x_reshape_dims
;
Eigen
::
DSizes
<
int
,
Rank
*
2
>
x_reshape_dims
;
Eigen
::
DSizes
<
int
,
Rank
*
2
>
y_reshape_dims
;
Eigen
::
DSizes
<
int
,
Rank
*
2
>
y_reshape_dims
;
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录