C-API预测库

当我们训练完一个神经网络模型之后,下一步就是用模型来做预测。预测就是准备输入数据,经过模型处理之后,得到预测结果的过程。

相比于模型训练,预测有如下特点:

  1. 预测不需要训练过程中反向传播和参数更新的部分。
  2. 预测不需要标签(label)。
  3. 预测很多时候需要和用户系统整合在一起。

因为上述特点,模型预测SDK需要单独设计,并具备以下特点:

  1. 预测SDK不包含反向传播和参数更新部分,以减小SDK的体积。
  2. 预测SDK需要提供一个简洁的用户接口,方便使用。
  3. 因为输入数据可能有多种结构,对输入数据的格式做清晰简洁的封装。
  4. 为了和用户系统兼容,SDK的接口需要是满足C标准的接口。

PaddlePaddle提供了C-API,用于解决上述问题。关于C-API的使用,我们提供了如下指南: