Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
s920243400
PaddleDetection
提交
b2ccc477
P
PaddleDetection
项目概览
s920243400
/
PaddleDetection
与 Fork 源项目一致
Fork自
PaddlePaddle / PaddleDetection
通知
2
Star
0
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleDetection
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
b2ccc477
编写于
5月 14, 2017
作者:
G
gongweibao
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix by comments
上级
bd69fa31
变更
5
隐藏空白更改
内联
并排
Showing
5 changed file
with
119 addition
and
40 deletion
+119
-40
doc/design/file_manager/README.md
doc/design/file_manager/README.md
+33
-11
doc/design/file_manager/RESTAPI.md
doc/design/file_manager/RESTAPI.md
+0
-23
doc/design/file_manager/pfs/pfs.md
doc/design/file_manager/pfs/pfs.md
+86
-6
doc/design/file_manager/src/filemanager.graffle
doc/design/file_manager/src/filemanager.graffle
+0
-0
doc/design/file_manager/src/filemanager.png
doc/design/file_manager/src/filemanager.png
+0
-0
未找到文件。
doc/design/file_manager/README.md
浏览文件 @
b2ccc477
...
...
@@ -8,13 +8,10 @@
-
支持大文件的断点上传、下载
## 名词解释
-
PFS:是Paddlepaddle cloud File System的简称,是对用户文件存储空间的抽象,与之相对的是
Local File S
ystem。目前我们用CephFS来搭建。
-
PFS:是Paddlepaddle cloud File System的简称,是对用户文件存储空间的抽象,与之相对的是
local files
ystem。目前我们用CephFS来搭建。
-
[
CephFS
](
http://docs.ceph.com/docs/master/cephfs/
)
:一个POSIX兼容的文件系统。
-
Chunk:逻辑划上文件分块的单位。
-
[
Ingress
](
https://kubernetes.io/docs/concepts/services-networking/ingress/
)
:提供七层协议的反向代理、基于粘性会话的负载均衡。
-
CA:certificate authority
<sup>
[
tls
](
#tls
)
</sup>
-
CRT:CA signed certificate
<sup>
[
tls
](
#tls
)
</sup>
-
Key:用户私钥
<sup>
[
tls
](
#tls
)
</sup>
## 模块
...
...
@@ -22,24 +19,49 @@
<image
src=
./src/filemanager.png
width=
900
>
### PFSClient
-
功能: 详细的内容看
[
Here
](
./pfs/pfs.md
)
-
功能: 详细的内容看
-
提供用户管理文件的命令
-
用Go
lang
写,可以跨平台执行
-
用Go写,可以跨平台执行
-
双向验证
PFSClient需要和Ingress之间做双向验证
<sup>
[
tls
](
#tls
)
</sup>
,所以用户需要首先在
`cloud.paddlepaddle.org`
上注册一下,申请用户空间,并且把系统生成的Key、CRT、CA下载到本地,然后才能使用PFSClient。
PFSClient需要和Ingress之间做双向验证
<sup>
[
tls
](
#tls
)
</sup>
,所以用户需要首先在
`cloud.paddlepaddle.org`
上注册一下,申请用户空间,并且把系统生成的CA(certificate authority)、Key、CRT(CA signed certificate)下载到本地,然后才能使用PFSClient。
-
命令格式
```
paddle [options] pfs <subcommand> [parameters]
options:
```
### Ingress
-
功能:
提供七层协议的反向代理、基于粘性会话的负载均衡功能。
-
透传用户身份的办法
Ingress需要把PFSClient的身份
头
传给FileServer,配置的方法参考
[
Here
](
http://www.integralist.co.uk/posts/clientcertauth.html#3
)
Ingress需要把PFSClient的身份
信息
传给FileServer,配置的方法参考
[
Here
](
http://www.integralist.co.uk/posts/clientcertauth.html#3
)
###
File
Server
FileServer是一个用GoRPC写的HTTPServer,提供
[
RESTful API
](
./RESTAPI.md
)
接口,接收处理PFSClient端的文件管理请求,并且把结果返回PFSClient端。
###
PFS
Server
PFSServer提供RESTful API
接口,接收处理PFSClient端的文件管理请求,并且把结果返回PFSClient端。
```
RESTful API
- /api/v1/files
- `GET /api/v1/files`: Get attributes of files or directories.
- `POST /api/v1/files`: Create files or directories.
- `DELETE /api/v1/files`: Delete files or directories.
- /api/v1/storage/files
- `GET /api/v1/storage/files`: Download files or directories to local.
- `POST /api/v1/storage/files`: Upload files or directories to server.
- /api/v1/storage/file/chunks
- `GET /api/v1/storage/file/chunks`: Get chunks's attributes in a file.
- `POST /api/v1/storage/file/chunks`: Upload chunks to a file.
```
## 文件传输优化
### 分块文件传输
...
...
@@ -57,7 +79,7 @@ type Chunk struct {
```
### 生成sparse文件
当destination文件不存在或者大小和source文件不一致时,可以用
[
Fallocate
](
https://
golang
.org/pkg/syscall/#Fallocate
)
生成sparse文件,然后就可以并发写入多个Chunk。
当destination文件不存在或者大小和source文件不一致时,可以用
[
Fallocate
](
https://
Go
.org/pkg/syscall/#Fallocate
)
生成sparse文件,然后就可以并发写入多个Chunk。
### 覆盖不一致的部分
文件传输的的关键在于需要PFSClient端对比source和destination的文件Chunks的checksum是否保持一致,不一致的由PFSClient下载或者传输Chunk完成。这样已经传输成功的部分就不用重新传输了。
...
...
doc/design/file_manager/RESTAPI.md
已删除
100644 → 0
浏览文件 @
bd69fa31
# REST API Interface
-
file
```
GET /file: Get attribue of files
POST /file: Create a file
DELETE /file: Delete a File
```
-
chunk
```
GET /file/chunk: Get a chunk info
POST /file/chunk: Update a chunk
```
-
dir
```
GET /dir: List all files in a directory
POST /dir: Create a directory
DELETE /dir: Delete a directory
```
doc/design/file_manager/pfs/pfs.md
浏览文件 @
b2ccc477
...
...
@@ -34,9 +34,89 @@ A `pfspath` begin with `/pfs`, eg: `/pfs/$DATACENTER/home/$USER/folder`.
Commonly, if there are two path arguments, the first is the source, and the second is the destination.
## Subcommonds
-
[
rm
](
rm.md
)
-
[
mv
](
mv.md
)
-
[
cp
](
cp.md
)
-
[
ls
](
ls.md
)
-
[
mkdir
](
mkdir.md
)
-
[
sync
](
sync.md
)
-
rm - remove files or directories
```
Synopsis:
rm [-r] [-v] <PFSPath> ...
Options:
-r
remove directories and their contents recursively
-v
Cause rm to be verbose, showing files after they are removed.
Examples:
paddle pfs rm /pfs/$DATACENTER/home/$USER/file
paddle pfs rm -r /pfs/$DATACENTER/home/$USER/folder
```
-
mv - move (rename) files
```
Synopsis:
mv [-f | -n] [-v] <LocalPath> <PFSPath>
mv [-f | -n] [-v] <LocalPath> ... <PFSPath>
mv [-f | -n] [-v] <PFSPath> <LocalPath>
mv [-f | -n] [-v] <PFSPath> ... <LocalPath>
mv [-f | -n] [-v] <PFSPath> <PFSPath>
mv [-f | -n] [-v] <PFSPath> ... <PFSPath>
Options:
-f
Do not prompt for confirmation before overwriting the destination path. (The -f option overrides previous -n options.)
-n
Do not overwrite an existing file. (The -n option overrides previous -f options.)
-v
Cause mv to be verbose, showing files after they are moved.
Examples:
paddle pfs mv ./text1.txt /pfs/$DATACENTER/home/$USER/text1.txt
```
-
cp - copy files or directories
```
Synopsis:
cp [-r] [-f | -n] [-v] [--preserve--links] <LocalPath> <PFSPath>
cp [-r] [-f | -n] [-v] [--preserve--links] <LocalPath> ... <PFSPath>
cp [-r] [-f | -n] [-v] [--preserve--links] <PFSPath> <LocalPath>
cp [-r] [-f | -n] [-v] [--preserve--links] <PFSPath> ... <LocalPath>
cp [-r] [-f | -n] [-v] [--preserve--links] <PFSPath> <PFSPath>
cp [-r] [-f | -n] [-v] [--preserve--links] <PFSPath> ... <PFSPath>
Options:
-r
Copy directories recursively
-f
Do not prompt for confirmation before overwriting the destination path. (The -f option overrides previous -n options.)
-n
Do not overwrite an existing file. (The -n option overrides previous -f options.)
-v
Cause cp to be verbose, showing files after they are copied.
--preserve--links
Reserve links when copy links
```
-
ls- list files
```
Synopsis:
ls [-r] <PFSPath> ...
Options:
-r
List directory(ies) recursively
Examples:
paddle pfs ls /pfs/$DATACENTER/home/$USER/file
paddle pfs ls /pfs/$DATACENTER/home/$USER/folder
```
-
mkdir - mkdir directory(ies)
Create intermediate directory(ies) as required.
```
Synopsis:
mkdir <PFSPath> ...
Examples:
paddle pfs mkdir /pfs/$DATACENTER/home/$USER/folder
```
doc/design/file_manager/src/filemanager.graffle
浏览文件 @
b2ccc477
无法预览此类型文件
doc/design/file_manager/src/filemanager.png
查看替换文件 @
bd69fa31
浏览文件 @
b2ccc477
61.2 KB
|
W:
|
H:
141.7 KB
|
W:
|
H:
2-up
Swipe
Onion skin
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录