paddlehub使用ernie2.0-en,修改网络结构后微调时自动重启
Created by: yaweisun
-
版本、环境信息 1)PaddleHub和PaddlePaddle版本:请提供您的PaddleHub和PaddlePaddle版本号,例如PaddleHub1.6.0,PaddlePaddle1.7.1 2)系统环境:AiStudio的GPU环境
-
复现信息: 做序列标注任务,feed_list如下:
feed_list = [
inputs["input_ids"].name, inputs["position_ids"].name,
inputs["segment_ids"].name, inputs["input_mask"].name,
"freq_ids"
]
Dataset和Reader都做了相应修改, 网络的结构的修改如下:
class SciIETask(SequenceLabelTask):
def _build_net(self):
freq_ids = fluid.data(
name='freq_ids', shape=[-1, self.max_seq_len], dtype='int64'
)
freq_embedding = fluid.embedding(input=freq_ids, size=[11, 5])
feature_concat = fluid.layers.concat([self.feature, freq_embedding], axis=-1)
......
然后用feature_concat代替self.feature传入下层网络。
- 出现的问题:
运行
seq_label_task.finetune()
后自动重启。