Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
wk1234123
Paddle
提交
c7beac14
P
Paddle
项目概览
wk1234123
/
Paddle
与 Fork 源项目一致
Fork自
PaddlePaddle / Paddle
通知
4
Star
0
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
提交
c7beac14
编写于
3月 19, 2018
作者:
Y
Yu Yang
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Add dummy var
上级
5fa535b7
变更
2
隐藏空白更改
内联
并排
Showing
2 changed file
with
19 addition
and
18 deletion
+19
-18
paddle/fluid/framework/parallel_executor.cc
paddle/fluid/framework/parallel_executor.cc
+17
-15
paddle/fluid/framework/parallel_executor.h
paddle/fluid/framework/parallel_executor.h
+2
-3
未找到文件。
paddle/fluid/framework/parallel_executor.cc
浏览文件 @
c7beac14
...
...
@@ -53,6 +53,10 @@ struct VarHandle : public VarHandleBase {
platform
::
Place
place_
;
};
struct
DummyVarHandle
:
public
VarHandleBase
{
std
::
string
DebugString
()
const
override
{
return
"dummy"
;
}
};
struct
DependencyVarHandle
:
public
VarHandleBase
{
std
::
string
DebugString
()
const
override
{
return
"Dependency Variable"
;
}
};
...
...
@@ -643,6 +647,7 @@ void ParallelExecutor::Run(const std::vector<std::string> &fetch_tensors,
member_
->
exception_
.
reset
();
std
::
unordered_map
<
VarHandleBase
*
,
GuardedBool
>
pending_vars
;
std
::
unordered_map
<
OpHandle
*
,
size_t
>
pending_ops
;
std
::
vector
<
DummyVarHandle
>
dummy_vars
;
for
(
auto
&
place_pair
:
member_
->
vars_
)
{
for
(
auto
&
name_pair
:
place_pair
.
second
)
{
...
...
@@ -696,17 +701,21 @@ void ParallelExecutor::Run(const std::vector<std::string> &fetch_tensors,
var
->
pending_ops_
.
emplace
(
op
);
op
->
inputs_
.
emplace_back
(
var
);
}
dummy_vars
.
emplace_back
();
auto
*
var
=
&
dummy_vars
.
back
();
op
->
outputs_
.
emplace_back
(
var
);
var
->
generated_op_
=
op
;
pending_vars
[
var
]
=
false
;
pending_ops
.
insert
({
op
,
op
->
inputs_
.
size
()});
}
std
::
vector
<
std
::
future
<
void
>>
op_threads
;
op_threads
.
reserve
(
pending_ops
.
size
()
+
to_run
.
size
());
for
(
auto
*
op
:
to_run
)
{
op_threads
.
emplace_back
(
RunOp
(
pending_vars
,
op
)
);
RunOp
(
pending_vars
,
op
);
}
while
(
!
pending_
op
s
.
empty
())
{
while
(
!
pending_
var
s
.
empty
())
{
VarHandleBase
*
ready_var
=
nullptr
;
for
(
auto
&
pair
:
pending_vars
)
{
if
(
pair
.
second
)
{
...
...
@@ -715,12 +724,9 @@ void ParallelExecutor::Run(const std::vector<std::string> &fetch_tensors,
}
if
(
ready_var
==
nullptr
)
{
// FIXME use conditional var instead of busy wait.
if
(
member_
->
exception_
)
{
throw
*
member_
->
exception_
;
}
VLOG
(
3
)
<<
pending_vars
.
size
();
continue
;
}
pending_vars
.
erase
(
ready_var
);
...
...
@@ -734,20 +740,16 @@ void ParallelExecutor::Run(const std::vector<std::string> &fetch_tensors,
}
for
(
auto
*
op
:
to_run
)
{
pending_ops
.
erase
(
op
);
op_threads
.
emplace_back
(
RunOp
(
pending_vars
,
op
)
);
RunOp
(
pending_vars
,
op
);
}
}
for
(
auto
&
t
:
op_threads
)
{
t
.
get
();
// Join all workers
}
fetch_ops
.
clear
();
*
member_
->
global_scope_
->
Var
(
fetched_var_name
)
->
GetMutable
<
LoDTensorArray
>
()
=
fetched_data
->
tensors_
;
}
std
::
future
<
void
>
ParallelExecutor
::
RunOp
(
void
ParallelExecutor
::
RunOp
(
std
::
unordered_map
<
VarHandleBase
*
,
GuardedBool
>
&
pending_vars
,
OpHandle
*
op
)
const
{
std
::
vector
<
GuardedBool
*>
*
ready_buffer
=
new
std
::
vector
<
GuardedBool
*>
();
...
...
@@ -768,7 +770,7 @@ std::future<void> ParallelExecutor::RunOp(
LOG
(
FATAL
)
<<
"Unknown exception catched"
;
}
};
return
member_
->
pool_
.
enqueue
(
op_run
);
member_
->
pool_
.
enqueue
(
op_run
);
}
}
// namespace framework
}
// namespace paddle
paddle/fluid/framework/parallel_executor.h
浏览文件 @
c7beac14
...
...
@@ -81,9 +81,8 @@ class ParallelExecutor {
void
BuildNCCLCommunicator
()
const
;
std
::
future
<
void
>
RunOp
(
std
::
unordered_map
<
VarHandleBase
*
,
GuardedBool
>&
pending_vars
,
OpHandle
*
op
)
const
;
void
RunOp
(
std
::
unordered_map
<
VarHandleBase
*
,
GuardedBool
>&
pending_vars
,
OpHandle
*
op
)
const
;
void
PolishGraphToSupportDataHarzaeds
()
const
;
};
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录