Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
Crayon鑫
Paddle
提交
3dc29b39
P
Paddle
项目概览
Crayon鑫
/
Paddle
与 Fork 源项目一致
Fork自
PaddlePaddle / Paddle
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
1
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
1
Issue
1
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
3dc29b39
编写于
12月 13, 2018
作者:
Q
Qiao Longfei
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
change sparse_update to adam_update
上级
fc6ec6bd
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
3 addition
and
3 deletion
+3
-3
paddle/fluid/operators/optimizers/adam_op.h
paddle/fluid/operators/optimizers/adam_op.h
+3
-3
未找到文件。
paddle/fluid/operators/optimizers/adam_op.h
浏览文件 @
3dc29b39
...
@@ -202,7 +202,7 @@ struct SparseAdamFunctor {
...
@@ -202,7 +202,7 @@ struct SparseAdamFunctor {
row_count_
(
row_count
),
row_count_
(
row_count
),
sparse_mode_
(
sparse_mode
)
{}
sparse_mode_
(
sparse_mode
)
{}
inline
HOSTDEVICE
void
sparse
_update
(
size_t
i
,
T
g
)
const
{
inline
HOSTDEVICE
void
adam
_update
(
size_t
i
,
T
g
)
const
{
// The following code is the same as dense
// The following code is the same as dense
T
mom1
=
moment1_
[
i
];
T
mom1
=
moment1_
[
i
];
T
mom2
=
moment2_
[
i
];
T
mom2
=
moment2_
[
i
];
...
@@ -228,7 +228,7 @@ struct SparseAdamFunctor {
...
@@ -228,7 +228,7 @@ struct SparseAdamFunctor {
auto
row_idx
=
auto
row_idx
=
math
::
BinarySearch
<
int64_t
>
(
rows_
,
row_count_
,
i
/
row_numel_
);
math
::
BinarySearch
<
int64_t
>
(
rows_
,
row_count_
,
i
/
row_numel_
);
T
g
=
row_idx
>=
0
?
grad_
[
row_idx
*
row_numel_
+
i
%
row_numel_
]
:
0
;
T
g
=
row_idx
>=
0
?
grad_
[
row_idx
*
row_numel_
+
i
%
row_numel_
]
:
0
;
sparse
_update
(
i
,
g
);
adam
_update
(
i
,
g
);
}
}
};
};
...
@@ -364,7 +364,7 @@ class AdamOpKernel : public framework::OpKernel<T> {
...
@@ -364,7 +364,7 @@ class AdamOpKernel : public framework::OpKernel<T> {
for
(
size_t
offset
=
0
;
offset
<
row_numel
;
++
offset
)
{
for
(
size_t
offset
=
0
;
offset
<
row_numel
;
++
offset
)
{
size_t
i
=
rows
[
row_index
]
*
row_numel
+
offset
;
size_t
i
=
rows
[
row_index
]
*
row_numel
+
offset
;
T
g
=
grad_data
[
row_index
*
row_numel
+
offset
];
T
g
=
grad_data
[
row_index
*
row_numel
+
offset
];
functor
.
sparse
_update
(
i
,
g
);
functor
.
adam
_update
(
i
,
g
);
}
}
}
}
}
else
{
}
else
{
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录