README.md 8.7 KB
Newer Older
Z
Zeyu Chen 已提交
1 2
# PaddleHub

W
wuzewu 已提交
3 4
[![Build Status](https://travis-ci.org/PaddlePaddle/PaddleHub.svg?branch=develop)](https://travis-ci.org/PaddlePaddle/PaddleHub)
[![License](https://img.shields.io/badge/license-Apache%202-blue.svg)](LICENSE)
Z
Zeyu Chen 已提交
5
[![Version](https://img.shields.io/github/release/PaddlePaddle/PaddleHub.svg)](https://github.com/PaddlePaddle/PaddleHub/releases)
W
wuzewu 已提交
6

W
wuzewu 已提交
7
PaddleHub是基于PaddlePaddle生态下的预训练模型管理和迁移学习工具,可以结合预训练模型更便捷地开展迁移学习工作。通过PaddleHub,您可以:
Z
Zeyu Chen 已提交
8

Z
Zeyu Chen 已提交
9
* 便捷地获取PaddlePaddle生态下的所有预训练模型,涵盖了图像分类、目标检测、词法分析、语义模型、情感分析、语言模型、视频分类、图像生成八类主流模型。
Z
Zeyu Chen 已提交
10
  * 更多详情可查看官网:https://www.paddlepaddle.org.cn/hub
Z
Zeyu Chen 已提交
11
* 通过PaddleHub Fine-tune API,结合少量代码即可完成**大规模预训练模型**的迁移学习,具体Demo可参考以下链接:
S
Steffy-zxf 已提交
12 13 14 15 16
  * [文本分类](https://github.com/PaddlePaddle/PaddleHub/tree/release/v1.1.0/demo/text-classification)
  * [序列标注](https://github.com/PaddlePaddle/PaddleHub/tree/release/v1.1.0/demo/sequence-labeling)
  * [多标签分类](https://github.com/PaddlePaddle/PaddleHub/tree/release/v1.1.0/demo/multi-label-classification)
  * [图像分类](https://github.com/PaddlePaddle/PaddleHub/tree/release/v1.1.0/demo/image-classification)
  * [检索式问答任务](https://github.com/PaddlePaddle/PaddleHub/tree/release/v1.1.0/demo/qa_classification)
Z
Zeyu Chen 已提交
17
* PaddleHub引入『**模型即软件**』的设计理念,支持通过Python API或者命令行工具,一键完成预训练模型地预测,更方便的应用PaddlePaddle模型库。
W
wuzewu 已提交
18
  * [PaddleHub命令行工具介绍](https://github.com/PaddlePaddle/PaddleHub/wiki/PaddleHub%E5%91%BD%E4%BB%A4%E8%A1%8C%E5%B7%A5%E5%85%B7)
Z
Zeyu Chen 已提交
19

Z
Zeyu Chen 已提交
20 21 22 23 24 25 26 27 28 29 30

## 目录

* [安装](https://github.com/paddlepaddle/paddlehub#%E5%AE%89%E8%A3%85)
* [快速体验](https://github.com/paddlepaddle/paddlehub#%E5%BF%AB%E9%80%9F%E4%BD%93%E9%AA%8C)
* [教程](https://github.com/paddlepaddle/paddlehub#%E6%95%99%E7%A8%8B)
* [FAQ](https://github.com/paddlepaddle/paddlehub#faq)
* [用户交流群](https://github.com/paddlepaddle/paddlehub#%E7%94%A8%E6%88%B7%E4%BA%A4%E6%B5%81%E7%BE%A4)
* [更新历史](https://github.com/paddlepaddle/paddlehub#%E6%9B%B4%E6%96%B0%E5%8E%86%E5%8F%B2)


Z
Zeyu Chen 已提交
31
## 安装
Z
Zeyu Chen 已提交
32 33

### 环境依赖
W
wuzewu 已提交
34
* Python==2.7 or Python>=3.5
Z
Zeyu Chen 已提交
35
* PaddlePaddle>=1.4.0
Z
Zeyu Chen 已提交
36

W
wuzewu 已提交
37 38
除上述依赖外,PaddleHub的预训练模型和预置数据集需要连接服务端进行下载,请确保机器可以正常访问网络

S
Steffy-zxf 已提交
39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74
pip安装方式如下:

```shell
$ pip install paddlehub
```

## 快速体验
安装成功后,执行下面的命令,可以快速体验PaddleHub无需代码、一键预测的命令行功能:

`示例一`

使用[词法分析](http://www.paddlepaddle.org.cn/hub?filter=category&value=LexicalAnalysis)模型LAC进行分词
```shell
$ hub run lac --input_text "今天是个好日子"
[{'word': ['今天', '是', '个', '好日子'], 'tag': ['TIME', 'v', 'q', 'n']}]
```

`示例二`

使用[情感分析](http://www.paddlepaddle.org.cn/hub?filter=category&value=SentimentAnalysis)模型Senta对句子进行情感预测
```shell
$ hub run senta_bilstm --input_text "今天是个好日子"
[{'text': '今天是个好日子', 'sentiment_label': 2, 'sentiment_key': 'positive', 'positive_probs': 0.6065, 'negative_probs': 0.3935}]
```

`示例三`

使用[目标检测](http://www.paddlepaddle.org.cn/hub?filter=category&value=ObjectDetection)模型 SSD/YOLO v3/Faster RCNN 对图片进行目标检测
```shell
$ wget --no-check-certificate https://paddlehub.bj.bcebos.com/resources/test_object_detection.jpg
$ hub run ssd_mobilenet_v1_pascal --input_path test_object_detection.jpg
$ hub run yolov3_coco2017 --input_path test_object_detection.jpg
$ hub run faster_rcnn_coco2017 --input_path test_object_detection.jpg
```
![SSD检测结果](https://raw.githubusercontent.com/PaddlePaddle/PaddleHub/release/v1.0.0/docs/imgs/object_detection_result.png)

S
Steffy-zxf 已提交
75
除了上述三类模型外,PaddleHub还发布了语言模型、语义模型、图像分类、生成模型、视频分类等业界主流模型,更多PaddleHub已经发布的模型,请前往 https://www.paddlepaddle.org.cn/hub 查看
S
Steffy-zxf 已提交
76

S
Steffy-zxf 已提交
77
同时,我们在AI Studio和AIBook上提供了IPython NoteBook形式的demo,您可以直接在平台上在线体验,链接如下:
S
Steffy-zxf 已提交
78 79
* ERNIE文本分类:
  * [AI Studio](https://aistudio.baidu.com/aistudio/projectDetail/79380)
Z
Zeyu Chen 已提交
80
  * [AI Book](https://console.bce.baidu.com/bml/?_=1562072915183#/bml/aibook/ernie_txt_cls)
S
Steffy-zxf 已提交
81 82
* ERNIE序列标注:
  * [AI Studio](https://aistudio.baidu.com/aistudio/projectDetail/79377)
Z
Zeyu Chen 已提交
83
  * [AI Book](https://console.bce.baidu.com/bml/?_=1562072915183#/bml/aibook/ernie_seq_label)
S
Steffy-zxf 已提交
84 85
* ELMo文本分类:
  * [AI Studio](https://aistudio.baidu.com/aistudio/projectDetail/79400)
Z
Zeyu Chen 已提交
86
  * [AI Book](https://console.bce.baidu.com/bml/#/bml/aibook/elmo_txt_cls)
S
Steffy-zxf 已提交
87 88
* senta情感分类:
  * [AI Studio](https://aistudio.baidu.com/aistudio/projectDetail/79398)
Z
Zeyu Chen 已提交
89
  * [AI Book](https://console.bce.baidu.com/bml/#/bml/aibook/senta_bilstm)
S
Steffy-zxf 已提交
90 91
* 图像分类:
  * [AI Studio](https://aistudio.baidu.com/aistudio/projectDetail/79378)
Z
Zeyu Chen 已提交
92
  * [AI Book](https://console.bce.baidu.com/bml/#/bml/aibook/img_cls)
S
Steffy-zxf 已提交
93

S
Steffy-zxf 已提交
94 95
## 教程

S
Steffy-zxf 已提交
96
PaddleHub Fine-tune API 详情参考[wiki教程](https://github.com/PaddlePaddle/PaddleHub/wiki/PaddleHub-Finetune-API)
S
Steffy-zxf 已提交
97

S
Steffy-zxf 已提交
98
PaddleHub如何完成迁移学习,详情参考[wiki教程](https://github.com/PaddlePaddle/PaddleHub/wiki/PaddleHub%E4%B8%8E%E8%BF%81%E7%A7%BB%E5%AD%A6%E4%B9%A0)
S
Steffy-zxf 已提交
99

S
Steffy-zxf 已提交
100
PaddleHub如何自定义迁移任务,详情参考[wiki教程](https://github.com/PaddlePaddle/PaddleHub/wiki/PaddleHub:-%E8%87%AA%E5%AE%9A%E4%B9%89Task)
S
Steffy-zxf 已提交
101

S
Steffy-zxf 已提交
102
## FAQ
S
Steffy-zxf 已提交
103

S
Steffy-zxf 已提交
104
**Q:** 利用PaddleHub ernie/bert进行Finetune时,运行出错并提示`paddle.fluid.core_avx.EnforceNotMet: Input ShapeTensor cannot be found in Op reshape2`等信息
S
Steffy-zxf 已提交
105

S
Steffy-zxf 已提交
106
**A:** 因为ernie/bert module的创建时和此时运行环境中PaddlePaddle版本不对应。可以将PaddlePaddle和PaddleHub升级至最新版本,同时将ernie卸载。
S
Steffy-zxf 已提交
107
```shell
S
Steffy-zxf 已提交
108
# 若是CPU环境,则 pip install --upgrade paddlepaddle
S
Steffy-zxf 已提交
109 110 111 112 113
$ pip install --upgrade paddlepaddle-gpu
$ pip install --upgrade paddlehub
$ hub uninstall ernie
```

S
Steffy-zxf 已提交
114
**Q:** 使用PaddleHub时,无法下载预置数据集、Module的等现象
S
Steffy-zxf 已提交
115

S
Steffy-zxf 已提交
116
**A:** PaddleHub中的预训练模型和预置数据集都需要通过服务端进行下载,因此PaddleHub默认用户访问外网权限。
S
Steffy-zxf 已提交
117 118 119 120 121 122 123 124 125 126 127
可以通过以下命令确认是否可以访问外网。

```python
import requests

res = requests.get('http://paddlepaddle.org.cn/paddlehub/search', {'word': 'ernie', 'type': 'Module'})
print(res)

# the common result is like this:
# <Response [200]>
```
S
Steffy-zxf 已提交
128
**Note:** PaddleHub 1.1.1版本已支持离线运行Module
S
Steffy-zxf 已提交
129

S
Steffy-zxf 已提交
130
**Q:** 利用PaddleHub Finetune如何适配自定义数据集
S
Steffy-zxf 已提交
131

S
Steffy-zxf 已提交
132
**A:** 参考[PaddleHub适配自定义数据集完成Finetune](https://github.com/PaddlePaddle/PaddleHub/wiki/PaddleHub%E9%80%82%E9%85%8D%E8%87%AA%E5%AE%9A%E4%B9%89%E6%95%B0%E6%8D%AE%E5%AE%8C%E6%88%90FineTune)
S
Steffy-zxf 已提交
133 134


S
Steffy-zxf 已提交
135
**更多问题**
S
Steffy-zxf 已提交
136 137 138 139

当安装或者使用遇到问题时,可以通过[FAQ](https://github.com/PaddlePaddle/PaddleHub/wiki/PaddleHub-FAQ)查找解决方案。
如果在FAQ中没有找到解决方案,欢迎您将问题和bug报告以[Github Issues](https://github.com/PaddlePaddle/PaddleHub/issues)的形式提交给我们,我们会第一时间进行跟进

S
Steffy-zxf 已提交
140
## 用户交流群
W
wuzewu 已提交
141

S
Steffy-zxf 已提交
142 143
* 飞桨PaddlePaddle 交流群:432676488(QQ群)
* 飞桨 ERNIE交流群:760439550(QQ群)
W
wuzewu 已提交
144

W
wuzewu 已提交
145

S
Steffy-zxf 已提交
146 147 148 149
## 更新历史

### PaddleHub v1.1.1

S
Steffy-zxf 已提交
150
* PaddleHub支持离线运行
S
Steffy-zxf 已提交
151 152 153 154 155 156 157 158 159 160 161 162
* 修复python2安装PaddleHub失败问题

### PaddleHub v1.1.0

* PaddleHub 新增 ERNIE 2.0 
  
### PaddleHub v1.0.1

* 安装模型时自动选择与paddlepaddle版本适配的模型

### PaddleHub v1.0.0

S
Steffy-zxf 已提交
163
* 全新发布[PaddleHub官网](https://www.paddlepaddle.org.cn/hub),易用性全面提升
S
Steffy-zxf 已提交
164 165 166 167 168 169 170 171 172 173 174 175 176
* 新增29个预训练模型,覆盖文本、图像、视频三大领域;目前官方提供40个预训练模型
* Fine-tune API升级,灵活性与性能全面提升
  
### PaddleHub v0.5.0

正式发布PaddleHub预训练模型管理工具,旨在帮助用户更高效的管理模型并开展迁移学习的工作。

* 预训练模型管理: 通过hub命令行可完成PaddlePaddle生态的预训练模型下载、搜索、版本管理等功能。

* 命令行一键使用: 无需代码,通过命令行即可直接使用预训练模型进行预测,快速调研训练模型效果。
                目前版本支持以下模型:词法分析LAC;情感分析Senta;目标检测SSD;图像分类ResNet, MobileNet, NASNet等。

* 迁移学习: 提供了基于预训练模型的Finetune API,用户通过少量代码即可完成迁移学习,包括BERT/ERNIE文本分类、序列标注、图像分类迁移等。
S
Steffy-zxf 已提交
177