Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
csdn_franckjun
Paddle
提交
84a0d6d8
P
Paddle
项目概览
csdn_franckjun
/
Paddle
与 Fork 源项目一致
Fork自
PaddlePaddle / Paddle
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
1
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
1
Issue
1
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
提交
84a0d6d8
编写于
7月 18, 2017
作者:
E
emailweixu
提交者:
GitHub
7月 18, 2017
浏览文件
操作
浏览文件
下载
差异文件
Merge pull request #2572 from skylian/error_clipping
Enable error clipping for fc layer
上级
a818afcc
5e87e27c
变更
2
隐藏空白更改
内联
并排
Showing
2 changed file
with
13 addition
and
6 deletion
+13
-6
paddle/gserver/layers/Layer.cpp
paddle/gserver/layers/Layer.cpp
+4
-5
python/paddle/trainer/config_parser.py
python/paddle/trainer/config_parser.py
+9
-1
未找到文件。
paddle/gserver/layers/Layer.cpp
浏览文件 @
84a0d6d8
...
...
@@ -359,12 +359,11 @@ void Layer::backwardActivation() {
/* Do error clipping */
if
(
config_
.
error_clipping_threshold
()
>
0.0
f
)
{
if
(
FLAGS_log_error_clipping
)
{
CpuVector
outGradVec
(
0
,
nullptr
);
outGradVec
.
subVecFrom
(
output_
.
grad
->
getData
(),
0
,
output_
.
grad
->
getElementCnt
());
real
maxAbsGrad
=
outGradVec
.
getAbsMax
();
VectorPtr
outGradVec
=
Vector
::
create
(
output_
.
grad
->
getData
(),
output_
.
grad
->
getElementCnt
(),
useGpu_
);
real
maxAbsGrad
=
outGradVec
->
getAbsMax
();
if
(
maxAbsGrad
>
config_
.
error_clipping_threshold
())
{
real
avgAbsGrad
=
outGradVec
.
getAbsSum
()
/
outGradVec
.
getSize
();
real
avgAbsGrad
=
outGradVec
->
getAbsSum
()
/
outGradVec
->
getSize
();
LOG
(
INFO
)
<<
" layer="
<<
config_
.
name
()
<<
" need clipping,"
<<
" max error="
<<
maxAbsGrad
<<
" avg error="
<<
avgAbsGrad
;
}
...
...
python/paddle/trainer/config_parser.py
浏览文件 @
84a0d6d8
...
...
@@ -1575,7 +1575,13 @@ class MultiClassCrossEntropySelfNormCostLayer(LayerBase):
@
config_layer
(
'fc'
)
class
FCLayer
(
LayerBase
):
def
__init__
(
self
,
name
,
size
,
inputs
,
bias
=
True
,
**
xargs
):
def
__init__
(
self
,
name
,
size
,
inputs
,
bias
=
True
,
error_clipping_threshold
=
None
,
**
xargs
):
super
(
FCLayer
,
self
).
__init__
(
name
,
'fc'
,
size
,
inputs
=
inputs
,
**
xargs
)
for
input_index
in
xrange
(
len
(
self
.
inputs
)):
input_layer
=
self
.
get_input_layer
(
input_index
)
...
...
@@ -1592,6 +1598,8 @@ class FCLayer(LayerBase):
self
.
create_input_parameter
(
input_index
,
psize
,
dims
,
sparse
,
format
)
self
.
create_bias_parameter
(
bias
,
self
.
config
.
size
)
if
error_clipping_threshold
is
not
None
:
self
.
config
.
error_clipping_threshold
=
error_clipping_threshold
@
config_layer
(
'selective_fc'
)
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录