Created by: bipedalBit

bert-as-service是一个很方便的BERT句向量编码服务的封装。 我在尝试用ERNIE做相同的事时，发现目前paddle模型的图优化工具还没有覆盖NLP模型。 自测4个CPU的条件下，bert-as-service编码句子的速度是ERNIE的3倍左右，我猜这个差距是因为没有做图优化。