Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
PaddleClas
提交
3f8f9814
P
PaddleClas
项目概览
PaddlePaddle
/
PaddleClas
1 年多 前同步成功
通知
115
Star
4999
Fork
1114
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
19
列表
看板
标记
里程碑
合并请求
6
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleClas
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
19
Issue
19
列表
看板
标记
里程碑
合并请求
6
合并请求
6
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
3f8f9814
编写于
4月 21, 2022
作者:
G
gaotingquan
提交者:
Tingquan Gao
9月 01, 2022
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix: support specify DALI threads num
上级
6cd62518
变更
2
显示空白变更内容
内联
并排
Showing
2 changed file
with
11 addition
and
2 deletion
+11
-2
ppcls/data/__init__.py
ppcls/data/__init__.py
+6
-1
ppcls/data/dataloader/dali.py
ppcls/data/dataloader/dali.py
+5
-1
未找到文件。
ppcls/data/__init__.py
浏览文件 @
3f8f9814
...
...
@@ -72,7 +72,12 @@ def build_dataloader(config, mode, device, use_dali=False, seed=None):
# build dataset
if
use_dali
:
from
ppcls.data.dataloader.dali
import
dali_dataloader
return
dali_dataloader
(
config
,
mode
,
paddle
.
device
.
get_device
(),
seed
)
return
dali_dataloader
(
config
,
mode
,
paddle
.
device
.
get_device
(),
num_threads
=
config
[
mode
][
'loader'
][
"num_workers"
],
seed
=
seed
)
class_num
=
config
.
get
(
"class_num"
,
None
)
config_dataset
=
config
[
mode
][
'dataset'
]
...
...
ppcls/data/dataloader/dali.py
浏览文件 @
3f8f9814
...
...
@@ -143,7 +143,7 @@ class HybridValPipe(Pipeline):
return
self
.
epoch_size
(
"Reader"
)
def
dali_dataloader
(
config
,
mode
,
device
,
seed
=
None
):
def
dali_dataloader
(
config
,
mode
,
device
,
num_threads
=
4
,
seed
=
None
):
assert
"gpu"
in
device
,
"gpu training is required for DALI"
device_id
=
int
(
device
.
split
(
':'
)[
1
])
config_dataloader
=
config
[
mode
]
...
...
@@ -248,6 +248,7 @@ def dali_dataloader(config, mode, device, seed=None):
device_id
,
shard_id
,
num_shards
,
num_threads
=
num_threads
,
seed
=
seed
+
shard_id
,
pad_output
=
pad_output
,
output_dtype
=
output_dtype
)
...
...
@@ -270,6 +271,7 @@ def dali_dataloader(config, mode, device, seed=None):
device_id
=
device_id
,
shard_id
=
0
,
num_shards
=
1
,
num_threads
=
num_threads
,
seed
=
seed
,
pad_output
=
pad_output
,
output_dtype
=
output_dtype
)
...
...
@@ -298,6 +300,7 @@ def dali_dataloader(config, mode, device, seed=None):
device_id
=
device_id
,
shard_id
=
shard_id
,
num_shards
=
num_shards
,
num_threads
=
num_threads
,
pad_output
=
pad_output
,
output_dtype
=
output_dtype
)
else
:
...
...
@@ -311,6 +314,7 @@ def dali_dataloader(config, mode, device, seed=None):
mean
,
std
,
device_id
=
device_id
,
num_threads
=
num_threads
,
pad_output
=
pad_output
,
output_dtype
=
output_dtype
)
pipe
.
build
()
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录