README.md 5.8 KB
Newer Older
W
wuzewu 已提交
1
```shell
K
KP 已提交
2
$ hub install ernie==2.0.1
W
wuzewu 已提交
3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20
```
## 在线体验
<a class="ant-btn large" href="https://aistudio.baidu.com/aistudio/projectDetail/79380" target="_blank">AI Studio 快速体验</a>


<p align="center">
<img src="https://bj.bcebos.com/paddlehub/paddlehub-img/ernie_network_1.png" hspace='10'/> <br />
</p>


<p align="center">
<img src="https://bj.bcebos.com/paddlehub/paddlehub-img/ernie_network_2.png" hspace='10'/> <br />
</p>


更多详情请参考[ERNIE论文](https://arxiv.org/abs/1904.09223)

## API
21

W
wuzewu 已提交
22
```python
23 24 25
def __init__(
    task=None,
    load_checkpoint=None,
K
KP 已提交
26 27
    label_map=None,
    num_classes=2,
L
linjieccc 已提交
28
    suffix=False,
K
KP 已提交
29 30
    **kwargs,
)
W
wuzewu 已提交
31 32
```

33
创建Module对象(动态图组网版本)。
W
wuzewu 已提交
34

35
**参数**
W
wuzewu 已提交
36

K
KP 已提交
37
* `task`: 任务名称,可为`seq-cls`(文本分类任务,原来的`sequence_classification`在未来会被弃用)或`token-cls`(序列标注任务)。
38 39
* `load_checkpoint`:使用PaddleHub Fine-tune api训练保存的模型参数文件路径。
* `label_map`:预测时的类别映射表。
K
KP 已提交
40
* `num_classes`:分类任务的类别数,如果指定了`label_map`,此参数可不传,默认2分类。
L
linjieccc 已提交
41
* `suffix`: 序列标注任务的标签格式,如果设定为`True`,标签以'-B', '-I', '-E' 或者 '-S'为结尾,此参数默认为`False`
K
KP 已提交
42
* `**kwargs`:用户额外指定的关键字字典类型的参数。
W
wuzewu 已提交
43 44

```python
45 46 47 48
def predict(
    data,
    max_seq_len=128,
    batch_size=1,
K
KP 已提交
49 50
    use_gpu=False
)
W
wuzewu 已提交
51 52 53 54
```

**参数**

55
* `data`: 待预测数据,格式为\[\[sample\_a\_text\_a, sample\_a\_text\_b\], \[sample\_b\_text\_a, sample\_b\_text\_b\],…,\],其中每个元素都是一个样例,每个样例可以包含text\_a与text\_b。每个样例文本数量(1个或者2个)需和训练时保持一致。
56 57 58
* `max_seq_len`:模型处理文本的最大长度
* `batch_size`:模型批处理大小
* `use_gpu`:是否使用gpu,默认为False。对于GPU用户,建议开启use_gpu。
W
wuzewu 已提交
59 60 61

**返回**

62 63 64 65
* `results`:list类型,不同任务类型的返回结果如下
  * 文本分类:列表里包含每个句子的预测标签,格式为\[label\_1, label\_2, …,\]
  * 序列标注:列表里包含每个句子每个token的预测标签,格式为\[\[token\_1, token\_2, …,\], \[token\_1, token\_2, …,\], …,\]

W
wuzewu 已提交
66
```python
67
def get_embedding(
K
KP 已提交
68
    data,
69 70
    use_gpu=False
)
W
wuzewu 已提交
71 72
```

73
用于获取输入文本的句子粒度特征与字粒度特征
W
wuzewu 已提交
74 75 76

**参数**

K
KP 已提交
77
* `data`:输入文本列表,格式为\[\[sample\_a\_text\_a, sample\_a\_text\_b\], \[sample\_b\_text\_a, sample\_b\_text\_b\],…,\],其中每个元素都是一个样例,每个样例可以包含text\_a与text\_b。
78
* `use_gpu`:是否使用gpu,默认为False。对于GPU用户,建议开启use_gpu。
W
wuzewu 已提交
79 80 81

**返回**

82 83
* `results`:list类型,格式为\[\[sample\_a\_pooled\_feature, sample\_a\_seq\_feature\], \[sample\_b\_pooled\_feature, sample\_b\_seq\_feature\],…,\],其中每个元素都是对应样例的特征输出,每个样例都有句子粒度特征pooled\_feature与字粒度特征seq\_feature。

W
wuzewu 已提交
84 85 86 87 88 89

**代码示例**

```python
import paddlehub as hub

90
data = [
K
KP 已提交
91 92 93
    ['这个宾馆比较陈旧了,特价的房间也很一般。总体来说一般'],
    ['怀着十分激动的心情放映,可是看着看着发现,在放映完毕后,出现一集米老鼠的动画片'],
    ['作为老的四星酒店,房间依然很整洁,相当不错。机场接机服务很好,可以在车上办理入住手续,节省时间。'],
94 95 96 97 98
]
label_map = {0: 'negative', 1: 'positive'}

model = hub.Module(
    name='ernie',
K
KP 已提交
99 100
    version='2.0.1',
    task='seq-cls',
101 102 103 104 105 106 107
    load_checkpoint='/path/to/parameters',
    label_map=label_map)
results = model.predict(data, max_seq_len=50, batch_size=1, use_gpu=False)
for idx, text in enumerate(data):
    print('Data: {} \t Lable: {}'.format(text, results[idx]))
```

K
KP 已提交
108 109 110
详情可参考PaddleHub示例:
- [文本分类](https://github.com/PaddlePaddle/PaddleHub/tree/release/v2.0.0-beta/demo/text_classification)
- [序列标注](https://github.com/PaddlePaddle/PaddleHub/tree/release/v2.0.0-beta/demo/sequence_labeling)
W
wuzewu 已提交
111

112
## 服务部署
W
wuzewu 已提交
113

114
PaddleHub Serving可以部署一个在线获取预训练词向量。
W
wuzewu 已提交
115

116
### Step1: 启动PaddleHub Serving
W
wuzewu 已提交
117

118
运行启动命令:
W
wuzewu 已提交
119

120 121
```shell
$ hub serving start -m ernie
W
wuzewu 已提交
122 123
```

124 125 126 127 128
这样就完成了一个获取预训练词向量服务化API的部署,默认端口号为8866。

**NOTE:** 如使用GPU预测,则需要在启动服务之前,请设置CUDA_VISIBLE_DEVICES环境变量,否则不用设置。

### Step2: 发送预测请求
W
wuzewu 已提交
129

130 131 132 133 134 135
配置好服务端,以下数行代码即可实现发送预测请求,获取预测结果

```python
import requests
import json

K
KP 已提交
136 137 138 139 140 141
# 指定用于获取embedding的文本[[text_1], [text_2], ... ]}
text = [["今天是个好日子"], ["天气预报说今天要下雨"]]
# 以key的方式指定text传入预测方法的时的参数,此例中为"data"
# 对应本地部署,则为module.get_embedding(data=text)
data = {"data": text}
# 发送post请求,content-type类型应指定json方式,url中的ip地址需改为对应机器的ip
142 143 144 145 146 147 148
url = "http://10.12.121.132:8866/predict/ernie"
# 指定post请求的headers为application/json方式
headers = {"Content-Type": "application/json"}

r = requests.post(url=url, headers=headers, data=json.dumps(data))
print(r.json())
```
W
wuzewu 已提交
149 150 151 152 153 154 155

##   查看代码

https://github.com/PaddlePaddle/ERNIE

## 依赖

156
paddlepaddle >= 2.0.0
W
wuzewu 已提交
157

158
paddlehub >= 2.0.0
W
wuzewu 已提交
159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180

## 更新历史

* 1.0.0

  初始发布

* 1.0.1

  修复该PaddleHub Module在paddlepaddle1.4.0版本、CPU环境下运行错误的问题

* 1.0.2

  修复该PaddleHub Module在paddlepaddle1.5.0版本下兼容问题

* 1.1.0

  ERNIE预训练时max_seq_len设置为512

* 1.2.0

  支持get_embedding与get_params_layer
181 182 183 184

* 2.0.0

  全面升级动态图版本,接口有所变化
K
KP 已提交
185 186 187 188

* 2.0.1

  任务名称调整,增加序列标注任务`token-cls`
189 190 191

* 2.0.2

W
wuzewu 已提交
192
  增加文本匹配任务`text-matching`