Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
机器未来
Paddle
提交
d380ad06
P
Paddle
项目概览
机器未来
/
Paddle
与 Fork 源项目一致
Fork自
PaddlePaddle / Paddle
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
1
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
1
Issue
1
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
d380ad06
编写于
1月 24, 2018
作者:
H
helinwang
提交者:
GitHub
1月 24, 2018
浏览文件
操作
浏览文件
下载
差异文件
Merge pull request #7837 from helinwang/transpiler_fix
Transpiler: fix pserver crash due to split var name check.
上级
08b736c6
39b0fdc3
变更
1
显示空白变更内容
内联
并排
Showing
1 changed file
with
9 addition
and
5 deletion
+9
-5
python/paddle/v2/fluid/distribute_transpiler.py
python/paddle/v2/fluid/distribute_transpiler.py
+9
-5
未找到文件。
python/paddle/v2/fluid/distribute_transpiler.py
浏览文件 @
d380ad06
...
@@ -33,6 +33,10 @@ class VarBlock:
...
@@ -33,6 +33,10 @@ class VarBlock:
return
"%s:%d:%d"
%
(
self
.
varname
,
self
.
offset
,
self
.
size
)
return
"%s:%d:%d"
%
(
self
.
varname
,
self
.
offset
,
self
.
size
)
def
same_or_split_var
(
p_name
,
var_name
):
return
p_name
==
var_name
or
p_name
.
startswith
(
var_name
+
".block"
)
def
split_dense_variable
(
var_list
,
def
split_dense_variable
(
var_list
,
pserver_count
,
pserver_count
,
min_block_size
=
1024
,
min_block_size
=
1024
,
...
@@ -303,8 +307,8 @@ class DistributeTranspiler:
...
@@ -303,8 +307,8 @@ class DistributeTranspiler:
return
True
return
True
else
:
else
:
for
n
in
param_names
:
for
n
in
param_names
:
if
n
.
startswith
(
op
.
inputs
[
"Param"
].
name
+
".block"
)
and
\
if
same_or_split_var
(
n
,
op
.
inputs
[
n
!=
op
.
inputs
[
"Param"
].
name
:
"Param"
].
name
)
and
n
!=
op
.
inputs
[
"Param"
].
name
:
return
True
return
True
return
False
return
False
else
:
else
:
...
@@ -335,7 +339,7 @@ class DistributeTranspiler:
...
@@ -335,7 +339,7 @@ class DistributeTranspiler:
if
key
==
"Grad"
:
if
key
==
"Grad"
:
grad_block
=
None
grad_block
=
None
for
g
in
self
.
param_grad_ep_mapping
[
endpoint
][
"grads"
]:
for
g
in
self
.
param_grad_ep_mapping
[
endpoint
][
"grads"
]:
if
g
.
name
.
startswith
(
var
.
name
):
if
same_or_split_var
(
g
.
name
,
var
.
name
):
grad_block
=
g
grad_block
=
g
break
break
if
not
grad_block
:
if
not
grad_block
:
...
@@ -365,7 +369,7 @@ class DistributeTranspiler:
...
@@ -365,7 +369,7 @@ class DistributeTranspiler:
# param is already created on global program
# param is already created on global program
param_block
=
None
param_block
=
None
for
p
in
self
.
param_grad_ep_mapping
[
endpoint
][
"params"
]:
for
p
in
self
.
param_grad_ep_mapping
[
endpoint
][
"params"
]:
if
p
.
name
.
startswith
(
var
.
name
):
if
same_or_split_var
(
p
.
name
,
var
.
name
):
param_block
=
p
param_block
=
p
break
break
if
not
param_block
:
if
not
param_block
:
...
@@ -502,7 +506,7 @@ class DistributeTranspiler:
...
@@ -502,7 +506,7 @@ class DistributeTranspiler:
def
_get_splited_name_and_shape
(
varname
):
def
_get_splited_name_and_shape
(
varname
):
for
idx
,
splited_param
in
enumerate
(
params
):
for
idx
,
splited_param
in
enumerate
(
params
):
pname
=
splited_param
.
name
pname
=
splited_param
.
name
if
pname
.
startswith
(
varname
)
and
varname
!=
pname
:
if
same_or_split_var
(
pname
,
varname
)
and
varname
!=
pname
:
return
pname
,
splited_param
.
shape
return
pname
,
splited_param
.
shape
return
""
,
[]
return
""
,
[]
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录