layout_datasets.md 2.7 KB
Newer Older
littletomatodonkey's avatar
littletomatodonkey 已提交
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17
## 版面分析数据集

这里整理了常用版面分析数据集,持续更新中,欢迎各位小伙伴贡献数据集~
- [publaynet数据集](#publaynet)
- [CDLA数据集](#CDLA)
- [TableBank数据集](#TableBank)

版面分析数据集多为目标检测数据集,除了开源数据,用户还可使用合成工具自行合成,如[labelme](https://github.com/wkentaro/labelme)等。


<a name="publaynet"></a>

#### 1、publaynet数据集
- **数据来源**:https://github.com/ibm-aur-nlp/PubLayNet
- **数据简介**:publaynet数据集的训练集合中包含35万张图像,验证集合中包含1.1万张图像。总共包含5个类别,分别是: `text, title, list, table, figure`。部分图像以及标注框可视化如下所示。

<div align="center">
littletomatodonkey's avatar
littletomatodonkey 已提交
18 19
    <img src="../../datasets/publaynet_demo/gt_PMC3724501_00006.jpg" width="500">
    <img src="../../datasets/publaynet_demo/gt_PMC5086060_00002.jpg" width="500">
littletomatodonkey's avatar
littletomatodonkey 已提交
20 21 22 23 24 25 26 27 28 29
</div>

- **下载地址**:https://developer.ibm.com/exchanges/data/all/publaynet/
- **说明**:使用该数据集时,需要遵守[CDLA-Permissive](https://cdla.io/permissive-1-0/)协议。


<a name="CDLA"></a>

#### 2、CDLA数据集
- **数据来源**:https://github.com/buptlihang/CDLA
littletomatodonkey's avatar
littletomatodonkey 已提交
30
- **数据简介**:CDLA据集的训练集合中包含5000张图像,验证集合中包含1000张图像。总共包含10个类别,分别是: `Text, Title, Figure, Figure caption, Table, Table caption, Header, Footer, Reference, Equation`。部分图像以及标注框可视化如下所示。
littletomatodonkey's avatar
littletomatodonkey 已提交
31 32

<div align="center">
littletomatodonkey's avatar
littletomatodonkey 已提交
33 34
    <img src="../../datasets/CDLA_demo/val_0633.jpg" width="500">
    <img src="../../datasets/CDLA_demo/val_0941.jpg" width="500">
littletomatodonkey's avatar
littletomatodonkey 已提交
35 36 37 38 39 40 41 42 43 44 45 46 47
</div>

- **下载地址**:https://github.com/buptlihang/CDLA
- **说明**:基于[PaddleDetection](https://github.com/PaddlePaddle/PaddleDetection/tree/develop)套件,在该数据集上训练目标检测模型时,在转换label时,需要将`label.txt`中的`__ignore__``_background_`去除。


<a name="TableBank"></a>

#### 3、TableBank数据集
- **数据来源**:https://doc-analysis.github.io/tablebank-page/index.html
- **数据简介**:TableBank数据集包含Latex(训练集187199张,验证集7265张,测试集5719张)与Word(训练集73383张,验证集2735张,测试集2281张)两种类别的文档。仅包含`Table` 1个类别。部分图像以及标注框可视化如下所示。

<div align="center">
littletomatodonkey's avatar
littletomatodonkey 已提交
48 49
    <img src="../../datasets/tablebank_demo/004.png" height="700">
    <img src="../../datasets/tablebank_demo/005.png" height="700">
littletomatodonkey's avatar
littletomatodonkey 已提交
50 51 52 53
</div>

- **下载地址**:https://doc-analysis.github.io/tablebank-page/index.html
- **说明**:使用该数据集时,需要遵守[Apache-2.0](https://github.com/doc-analysis/TableBank/blob/master/LICENSE)协议。