{ "cells": [ { "cell_type": "markdown", "metadata": { "collapsed": false }, "source": [ "\n", "# 1. 预测部署简介与总览\n", "\n", "\n", "本章主要介绍PP-OCRv2系统的高性能推理方法、服务化部署方法以及端侧部署方法。通过本章的学习,您可以学习到:\n", "\n", "* 根据不同的场景挑选合适的预测部署方法\n", "* PP-OCRv2系列模型在不同场景下的推理方法\n", "* Paddle Inference、Paddle Serving、Paddle Lite的推理部署开发方法\n", "\n", "## 1.1 简介\n", "\n", "在前面几个章节中,我们通过模型训练的方法,得到了训练好的模型,在使用它去预测的时候,我们首先需要定义好模型,然后加载训练好的模型,再将预处理之后的数据送进网络中进行预测、后处理,得到最终的结果。使用这种方法去进行预测,调试方便,但是预测效率比较低下。\n", "\n", "针对上面的问题,对于训练得到的模型,一般有下面2种离线预测的方式。\n", "\n", "1. 基于训练引擎推理,也就是和训练使用同一套引擎,它调试方便,便于我们迅速定位问题,验证正确性。多为Python语言。\n", "2. 基于预测引擎推理,将训练得到的模型进行转换,去掉与推理无关的部分,使用这种方法可以加速预测。多为Python语言或C++。\n", "\n", "二者具体的区别如下所示。\n", "\n", "