Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
机器未来
Paddle
提交
8bd6b749
P
Paddle
项目概览
机器未来
/
Paddle
与 Fork 源项目一致
Fork自
PaddlePaddle / Paddle
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
1
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
1
Issue
1
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
8bd6b749
编写于
4月 20, 2017
作者:
Y
yi.wu
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
update reader design
上级
cb6cc5a9
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
9 addition
and
0 deletion
+9
-0
doc/design/cluster_train/data_dispatch.md
doc/design/cluster_train/data_dispatch.md
+9
-0
未找到文件。
doc/design/cluster_train/data_dispatch.md
浏览文件 @
8bd6b749
...
...
@@ -54,6 +54,7 @@ L' inflation accélérée , mesurée dans la zone euro , est due principale
```
python
reader
=
paddle
.
dist
.
reader
(
"dataset-name"
)
trainer
.
train
(
reader
,
...)
batch_reader
=
paddle
.
batch
(
paddle
.
dataset
.
mnist
.
train
(),
128
)
trainer
.
train
(
batch_reader
,
...)
```
...
...
@@ -69,6 +70,14 @@ def paddle.train(batch_reader):
这里面batch是含有128个data instance的mini-batch。每一个data instance会是一个tuple,tuple元素的顺序与
`.list`
文件文件中每一列的顺序是一致的。每一个data instance会是(raw_image_file_binary_data, label)。其中raw_image_file_binary_data是对应图像文件的没有解码的原始二进制数据,用户需要自己解码。label是文本类型(比如:“1“,”2“),这里用户需要的其实是整形,用户需要自己转换成整形。
### 实现reader
reader的实现需要考虑本地训练程序实现之后,可以不修改程序直接提交集群进行分布式训练。要达到这样的目标,需要实现下面的功能:
paddle会实现内置的默认reader和对公开数据集的reader(如MNIST,BOW等)。这些内置的reader都会被一个
`paddle.reader`
修饰器修饰。这个修饰器会读取环境变量
`PADDLE_TRAIN_LOCAL`
,如果是True,则返回只有一个文件的task queue生成器,这个文件就是reader传入的文件。如果是False,则为分布式训练模式(在集群中训练的任务,都会从这个环境变量获得False值),开始读取task queue,获取分布式存储系统中的文件名数据,并返回这个task queue。不同的reader的实现,都要遵守固定的方式:从task queue生成器中逐个获取文件名,完成对不同训练数据的解析。
同样用户在实现自己的reader时,也需要使用此修饰器来修饰reader函数。
## TODO
### 支持将数据合并成内部的文件格式(key-value),方便sharding与顺序读取
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录