Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
MegEngine 天元
MegEngine
提交
1c6bcb9c
MegEngine
项目概览
MegEngine 天元
/
MegEngine
1 年多 前同步成功
通知
403
Star
4705
Fork
582
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
DevOps
流水线
流水线任务
计划
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
MegEngine
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
DevOps
DevOps
流水线
流水线任务
计划
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
流水线任务
提交
Issue看板
提交
1c6bcb9c
编写于
1月 11, 2023
作者:
M
Megvii Engine Team
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix(ci): close the collective comm test
GitOrigin-RevId: de74c8eac133d4bc9923c671d86e8606746e7400
上级
2855c4e5
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
15 addition
and
0 deletion
+15
-0
src/opr-mm/test/collective_comm.cpp
src/opr-mm/test/collective_comm.cpp
+15
-0
未找到文件。
src/opr-mm/test/collective_comm.cpp
浏览文件 @
1c6bcb9c
...
...
@@ -27,6 +27,19 @@ SymbolVarArray make_reduce_scatter_sum_output(const SymbolVarArray& inputs) {
return
opr
::
Split
::
make
(
rdc
,
opr
::
Split
::
Options
::
make_average
(
0
,
inputs
.
size
()));
}
// Here is a deadlock problem in these tests, which is caused by cuda/nccl:
// 1. MemcpyAsync waits for the nccl kernel to finish executing to free command queue
// slots; 2. nccl kernel waits for peer nccl kernel to launch; 3. the peer nccl kernel
// needs to call host register before launching; 4. host register waits for a lock; 5.
// the lock is held by MemcpyAsync, deadlock happened. But in current distributed traing
// scenario, the collective communication occurs in multiple processes rather than a
// process. This problem will not happened. After discussion, we decide to close these
// tests now. As for the test of distributed training, we use the python test to do this
// work.
// TODO: reopen the collective communication
#if 0
TEST(TestOprCollectiveComm, AllReduce) {
REQUIRE_GPU(2);
...
...
@@ -1779,3 +1792,5 @@ TEST(TestOprCollectiveComm, AllToAllWithGradThisNodeOnly) {
MGB_ASSERT_TENSOR_EQ(host_expect_grad0, host_grad0);
MGB_ASSERT_TENSOR_EQ(host_expect_grad1, host_grad1);
}
#endif
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录