ernie(dynamic)使用示例xnli语料fine_tune后,调用预测服务InferenceClient,返回结果问题
Created by: lerry-lee
使用xnli微调后 先启动了微调保存的inference_model,在linux上调用示例中的预测服务
from propeller.service.client import InferenceClient
from ernie.tokenizing_ernie import ErnieTokenizer
client = InferenceClient('tcp://localhost:8881')
tokenizer = ErnieTokenizer.from_pretrained('ernie-1.0')
ids, sids = tokenizer.encode('hello world')
ids = np.expand_dims(ids, 0)
sids = np.expand_dims(sids, 0)
result = client(ids, sids)
返回结果为
[array([[-0.0460582 , 0.28323928, -0.00521138]], dtype=float32)]
这个numpy array代表了什么含义呢? 如果我把输入改为(看了方法参数encode(text,pair))
ids, sids = tokenizer.encode('你好世界','你好中国')
结果为
[array([[-0.08907083, -0.28950262, -0.01538226]], dtype=float32)]
如果是三个类别的概率,但加和并不为1,所以返回的array的含义是什么呢?