Skip to content

P
Paddle

Crayon鑫 / Paddle
与 Fork 源项目一致

Fork自 PaddlePaddle / Paddle

通知 1
Star 1
Fork 0
P
Paddle
“d8cc21da53e1113aaee3b43ea77d136bbbd204bb”上不存在“paddle/fluid/inference/analysis/pass.cc”
未验证 提交 794a413c 编写于 作者: S Shan Yi 提交者： GitHub
浏览文件
操作

Merge pull request #13070 from shanyi15/01_doc 

fix typo and image in fit_a_line
上级 4efd5b7e 70a3ade6
隐藏空白更改
内联 并排
Showing with 288 addition and 329 deletion
doc/fluid/new_docs/beginners_guide/quick_start/fit_a_line/README.cn.md
浏览文件 @ 794a413c
```eval_rst # 线性回归
.. _quick_start_fit_a_line: 让我们从经典的线性回归（Linear Regression \[[1](#参考文献)\]）模型开始这份教程。在这一章里，你将使用真实的数据集建立起一个房价预测模型，并且了解到机器学习中的若干重要概念。
```
# 线性回归 本教程源代码目录在[book/fit_a_line](https://github.com/PaddlePaddle/book/tree/develop/01.fit_a_line)， 初次使用请参考PaddlePaddle[安装教程](https://github.com/PaddlePaddle/book/blob/develop/README.cn.md#运行这本书)，更多内容请参考本教程的[视频课堂](http://bit.baidu.com/course/detail/id/137.html)。
让我们从经典的线性回归（Linear Regression \[[1](#参考文献)\]）模型开始这份教程。在这一章里，你将使用真实的数据集建立起一个房价预测模型，并且了解到机器学习中的若干重要概念。
## 背景介绍
本教程源代码目录在[book/fit_a_line](https://github.com/PaddlePaddle/book/tree/develop/01.fit_a_line)， 初次使用请参考PaddlePaddle[安装教程](https://github.com/PaddlePaddle/book/blob/develop/README.cn.md#运行这本书)。 给定一个大小为$n$的数据集 ${\{y_{i}, x_{i1}, ..., x_{id}\}}_{i=1}^{n}$，其中$x_{i1}, \ldots, x_{id}$是第$i$个样本$d$个属性上的取值，$y_i$是该样本待预测的目标。线性回归模型假设目标$y_i$可以被属性间的线性组合描述，即
## 背景介绍 $$y_i = \omega_1x_{i1} + \omega_2x_{i2} + \ldots + \omega_dx_{id} + b, i=1,\ldots,n$$
给定一个大小为$n$的数据集 ${\{y_{i}, x_{i1}, ..., x_{id}\}}_{i=1}^{n}$，其中$x_{i1}, \ldots, x_{id}$是第$i$个样本$d$个属性上的取值，$y_i$是该样本待预测的目标。线性回归模型假设目标$y_i$可以被属性间的线性组合描述，即
例如，在我们将要建模的房价预测问题里，$x_{ij}$是描述房子$i$的各种属性（比如房间的个数、周围学校和医院的个数、交通状况等），而 $y_i$是房屋的价格。
$$y_i = \omega_1x_{i1} + \omega_2x_{i2} + \ldots + \omega_dx_{id} + b, i=1,\ldots,n$$
初看起来，这个假设实在过于简单了，变量间的真实关系很难是线性的。但由于线性回归模型有形式简单和易于建模分析的优点，它在实际问题中得到了大量的应用。很多经典的统计学习、机器学习书籍\[[2,3,4](#参考文献)\]也选择对线性模型独立成章重点讲解。
例如，在我们将要建模的房价预测问题里，$x_{ij}$是描述房子$i$的各种属性（比如房间的个数、周围学校和医院的个数、交通状况等），而 $y_i$是房屋的价格。
## 效果展示
初看起来，这个假设实在过于简单了，变量间的真实关系很难是线性的。但由于线性回归模型有形式简单和易于建模分析的优点，它在实际问题中得到了大量的应用。很多经典的统计学习、机器学习书籍\[[2,3,4](#参考文献)\]也选择对线性模型独立成章重点讲解。 我们使用从[UCI Housing Data Set](https://archive.ics.uci.edu/ml/datasets/Housing)获得的波士顿房价数据集进行模型的训练和预测。下面的散点图展示了使用模型对部分房屋价格进行的预测。其中，每个点的横坐标表示同一类房屋真实价格的中位数，纵坐标表示线性回归模型根据特征预测的结果，当二者值完全相等的时候就会落在虚线上。所以模型预测得越准确，则点离虚线越近。
<p align="center">
## 效果展示 <img src = "image/predictions.png" width=400><br/>
我们使用从[UCI Housing Data Set](https://archive.ics.uci.edu/ml/datasets/Housing)获得的波士顿房价数据集进行模型的训练和预测。下面的散点图展示了使用模型对部分房屋价格进行的预测。其中，每个点的横坐标表示同一类房屋真实价格的中位数，纵坐标表示线性回归模型根据特征预测的结果，当二者值完全相等的时候就会落在虚线上。所以模型预测得越准确，则点离虚线越近。 图1. 预测值 V.S. 真实值
</p>
![BostonHousePricePredictions](./image/predictions.png)
<p align="center">图1. 预测值 V.S. 真实值</p> ## 模型概览
## 模型概览 ### 模型定义
### 模型定义 在波士顿房价数据集中，和房屋相关的值共有14个：前13个用来描述房屋相关的各种信息，即模型中的 $x_i$；最后一个值为我们要预测的该类房屋价格的中位数，即模型中的 $y_i$。因此，我们的模型就可以表示成：
在波士顿房价数据集中，和房屋相关的值共有14个：前13个用来描述房屋相关的各种信息，即模型中的 $x_i$；最后一个值为我们要预测的该类房屋价格的中位数，即模型中的 $y_i$。因此，我们的模型就可以表示成： $$\hat{Y} = \omega_1X_{1} + \omega_2X_{2} + \ldots + \omega_{13}X_{13} + b$$
$$\hat{Y} = \omega_1X_{1} + \omega_2X_{2} + \ldots + \omega_{13}X_{13} + b$$ $\hat{Y}$ 表示模型的预测结果，用来和真实值$Y$区分。模型要学习的参数即：$\omega_1, \ldots, \omega_{13}, b$。
$\hat{Y}$ 表示模型的预测结果，用来和真实值$Y$区分。模型要学习的参数即：$\omega_1, \ldots, \omega_{13}, b$。 建立模型后，我们需要给模型一个优化目标，使得学到的参数能够让预测值$\hat{Y}$尽可能地接近真实值$Y$。这里我们引入损失函数（[Loss Function](https://en.wikipedia.org/wiki/Loss_function)，或Cost Function）这个概念。 输入任意一个数据样本的目标值$y_{i}$和模型给出的预测值$\hat{y_{i}}$，损失函数输出一个非负的实值。这个实值通常用来反映模型误差的大小。
建立模型后，我们需要给模型一个优化目标，使得学到的参数能够让预测值$\hat{Y}$尽可能地接近真实值$Y$。这里我们引入损失函数（[Loss Function](https://en.wikipedia.org/wiki/Loss_function)，或Cost Function）这个概念。 输入任意一个数据样本的目标值$y_{i}$和模型给出的预测值$\hat{y_{i}}$，损失函数输出一个非负的实值。这个实值通常用来反映模型误差的大小。 对于线性回归模型来讲，最常见的损失函数就是均方误差（Mean Squared Error， [MSE](https://en.wikipedia.org/wiki/Mean_squared_error)）了，它的形式是：
对于线性回归模型来讲，最常见的损失函数就是均方误差（Mean Squared Error， [MSE](https://en.wikipedia.org/wiki/Mean_squared_error)）了，它的形式是： $$MSE=\frac{1}{n}\sum_{i=1}^{n}{(\hat{Y_i}-Y_i)}^2$$
$$MSE=\frac{1}{n}\sum_{i=1}^{n}{(\hat{Y_i}-Y_i)}^2$$ 即对于一个大小为$n$的测试集，$MSE$是$n$个数据预测结果误差平方的均值。
即对于一个大小为$n$的测试集，$MSE$是$n$个数据预测结果误差平方的均值。 ### 训练过程
### 训练过程 定义好模型结构之后，我们要通过以下几个步骤进行模型训练
定义好模型结构之后，我们要通过以下几个步骤进行模型训练 1. 初始化参数，其中包括权重$\omega_i$和偏置$b$，对其进行初始化（如0均值，1方差）。
1. 初始化参数，其中包括权重$\omega_i$和偏置$b$，对其进行初始化（如0均值，1方差）。
2. 网络正向传播计算网络输出和损失函数。 2. 网络正向传播计算网络输出和损失函数。
3. 根据损失函数进行反向误差传播 （[backpropagation](https://en.wikipedia.org/wiki/Backpropagation)），将网络误差从输出层依次向前传递, 并更新网络中的参数。
4. 重复2~3步骤，直至网络训练误差达到规定的程度或训练轮次达到设定值。 3. 根据损失函数进行反向误差传播 （[backpropagation](https://en.wikipedia.org/wiki/Backpropagation)），将网络误差从输出层依次向前传递, 并更新网络中的参数。
## 数据集 4. 重复2~3步骤，直至网络训练误差达到规定的程度或训练轮次达到设定值。
### 数据集介绍 ## 数据集
这份数据集共506行，每行包含了波士顿郊区的一类房屋的相关信息及该类房屋价格的中位数。其各维属性的意义如下：
### 数据集介绍
<p align="center"> 这份数据集共506行，每行包含了波士顿郊区的一类房屋的相关信息及该类房屋价格的中位数。其各维属性的意义如下：
<table>
<thead> | 属性名 | 解释 | 类型 |
<tr> | ------| ------ | ------ |
<th>属性名</th> | CRIM | 该镇的人均犯罪率 | 连续值 |
<th>解释</th> | ZN | 占地面积超过25,000平方呎的住宅用地比例 | 连续值 |
<th>类型</th> | INDUS | 非零售商业用地比例 | 连续值 |
</tr> | CHAS | 是否邻近 Charles River | 离散值，1=邻近；0=不邻近 |
</thead> | NOX | 一氧化氮浓度 | 连续值 |
<tbody> | RM | 每栋房屋的平均客房数 | 连续值 |
<tr> | AGE | 1940年之前建成的自用单位比例 | 连续值 |
<td>CRIM</td> | DIS | 到波士顿5个就业中心的加权距离 | 连续值 |
<td>该镇的人均犯罪率</td> | RAD | 到径向公路的可达性指数 | 连续值 |
<td>连续值</td> | TAX | 全值财产税率 | 连续值 |
</tr> | PTRATIO | 学生与教师的比例 | 连续值 |
<tr> | B | 1000(BK - 0.63)^2，其中BK为黑人占比 | 连续值 |
<td>ZN</td> | LSTAT | 低收入人群占比 | 连续值 |
<td>占地面积超过25,000平方呎的住宅用地比例</td> | MEDV | 同类房屋价格的中位数 | 连续值 |
<td>连续值</td>
</tr> ### 数据预处理
<tr> #### 连续值与离散值
<td>INDUS</td> 观察一下数据，我们的第一个发现是：所有的13维属性中，有12维的连续值和1维的离散值（CHAS）。离散值虽然也常使用类似0、1、2这样的数字表示，但是其含义与连续值是不同的，因为这里的差值没有实际意义。例如，我们用0、1、2来分别表示红色、绿色和蓝色的话，我们并不能因此说“蓝色和红色”比“绿色和红色”的距离更远。所以通常对一个有$d$个可能取值的离散属性，我们会将它们转为$d$个取值为0或1的二值属性或者将每个可能取值映射为一个多维向量。不过就这里而言，因为CHAS本身就是一个二值属性，就省去了这个麻烦。
<td>非零售商业用地比例</td>
<td>连续值</td> #### 属性的归一化
</tr> 另外一个稍加观察即可发现的事实是，各维属性的取值范围差别很大（如图2所示）。例如，属性B的取值范围是[0.32, 396.90]，而属性NOX的取值范围是[0.3850, 0.8170]。这里就要用到一个常见的操作-归一化（normalization）了。归一化的目标是把各位属性的取值范围放缩到差不多的区间，例如[-0.5,0.5]。这里我们使用一种很常见的操作方法：减掉均值，然后除以原取值范围。
<tr>
<td>CHAS</td> 做归一化（或 [Feature scaling](https://en.wikipedia.org/wiki/Feature_scaling)）至少有以下3个理由：
<td>是否邻近 Charles River</td> - 过大或过小的数值范围会导致计算时的浮点上溢或下溢。
<td>离散值，1=邻近；0=不邻近</td> - 不同的数值范围会导致不同属性对模型的重要性不同（至少在训练的初始阶段如此），而这个隐含的假设常常是不合理的。这会对优化的过程造成困难，使训练时间大大的加长。
</tr> - 很多的机器学习技巧/模型（例如L1，L2正则项，向量空间模型-Vector Space Model）都基于这样的假设：所有的属性取值都差不多是以0为均值且取值范围相近的。
<tr>
<td>NOX</td> <p align="center">
<td>一氧化氮浓度</td> <img src = "image/ranges.png" width=550><br/>
<td>连续值</td> 图2. 各维属性的取值范围
</tr> </p>
<tr>
<td>RM</td> #### 整理训练集与测试集
<td>每栋房屋的平均客房数</td> 我们将数据集分割为两份：一份用于调整模型的参数，即进行模型的训练，模型在这份数据集上的误差被称为**训练误差**；另外一份被用来测试，模型在这份数据集上的误差被称为**测试误差**。我们训练模型的目的是为了通过从训练数据中找到规律来预测未知的新数据，所以测试误差是更能反映模型表现的指标。分割数据的比例要考虑到两个因素：更多的训练数据会降低参数估计的方差，从而得到更可信的模型；而更多的测试数据会降低测试误差的方差，从而得到更可信的测试误差。我们这个例子中设置的分割比例为$8:2$
<td>连续值</td>
</tr>
<tr> 在更复杂的模型训练过程中，我们往往还会多使用一种数据集：验证集。因为复杂的模型中常常还有一些超参数（[Hyperparameter](https://en.wikipedia.org/wiki/Hyperparameter_optimization)）需要调节，所以我们会尝试多种超参数的组合来分别训练多个模型，然后对比它们在验证集上的表现选择相对最好的一组超参数，最后才使用这组参数下训练的模型在测试集上评估测试误差。由于本章训练的模型比较简单，我们暂且忽略掉这个过程。
<td>AGE</td>
<td>1940年之前建成的自用单位比例</td> ## 训练
<td>连续值</td>
</tr> `fit_a_line/trainer.py`演示了训练的整体过程。
<tr>
<td>DIS</td> ### 配置数据提供器(Datafeeder)
<td>到波士顿5个就业中心的加权距离</td> 首先我们引入必要的库：
<td>连续值</td> ```python
</tr> import paddle
<tr> import paddle.fluid as fluid
<td>RAD</td> import numpy
<td>到径向公路的可达性指数</td> from __future__ import print_function
<td>连续值</td> ```
</tr>
<tr> 我们通过uci_housing模块引入了数据集合[UCI Housing Data Set](https://archive.ics.uci.edu/ml/datasets/Housing)
<td>TAX</td>
<td>全值财产税率</td> 其中，在uci_housing模块中封装了：
<td>连续值</td>
</tr> 1. 数据下载的过程。下载数据保存在~/.cache/paddle/dataset/uci_housing/housing.data。
<tr> 2. [数据预处理](#数据预处理)的过程。
<td>PTRATIO</td>
<td>学生与教师的比例</td> 接下来我们定义了用于训练和测试的数据提供器。提供器每次读入一个大小为`BATCH_SIZE`的数据批次。如果用户希望加一些随机性，她可以同时定义一个批次大小和一个缓存大小。这样的话，每次数据提供器会从缓存中随机读取批次大小那么多的数据。
<td>连续值</td>
</tr> ```python
<tr> BATCH_SIZE = 20
<td>B</td>
<td>1000(BK - 0.63)^2，其中BK为黑人占比</td> train_reader = paddle.batch(
<td>连续值</td> paddle.reader.shuffle(
</tr> paddle.dataset.uci_housing.train(), buf_size=500),
<tr> batch_size=BATCH_SIZE)
<td>LSTAT</td>
<td>低收入人群占比</td> test_reader = paddle.batch(
<td>连续值</td> paddle.reader.shuffle(
</tr> paddle.dataset.uci_housing.test(), buf_size=500),
<tr> batch_size=BATCH_SIZE)
<td>MEDV</td> ```
<td>同类房屋价格的中位数</td>
<td>连续值</td> ### 配置训练程序
</tr> 训练程序的目的是定义一个训练模型的网络结构。对于线性回归来讲，它就是一个从输入到输出的简单的全连接层。更加复杂的结果，比如卷积神经网络，递归神经网络等会在随后的章节中介绍。训练程序必须返回`平均损失`作为第一个返回值，因为它会被后面反向传播算法所用到。
</tbody>
</table> ```python
</p> def train_program():
y = fluid.layers.data(name='y', shape=[1], dtype='float32')
### 数据预处理
#### 连续值与离散值 # feature vector of length 13
观察一下数据，我们的第一个发现是：所有的13维属性中，有12维的连续值和1维的离散值（CHAS）。离散值虽然也常使用类似0、1、2这样的数字表示，但是其含义与连续值是不同的，因为这里的差值没有实际意义。例如，我们用0、1、2来分别表示红色、绿色和蓝色的话，我们并不能因此说“蓝色和红色”比“绿色和红色”的距离更远。所以通常对一个有$d$个可能取值的离散属性，我们会将它们转为$d$个取值为0或1的二值属性或者将每个可能取值映射为一个多维向量。不过就这里而言，因为CHAS本身就是一个二值属性，就省去了这个麻烦。 x = fluid.layers.data(name='x', shape=[13], dtype='float32')
y_predict = fluid.layers.fc(input=x, size=1, act=None)
#### 属性的归一化
另外一个稍加观察即可发现的事实是，各维属性的取值范围差别很大（如图2所示）。例如，属性B的取值范围是[0.32, 396.90]，而属性NOX的取值范围是[0.3850, 0.8170]。这里就要用到一个常见的操作-归一化（normalization）了。归一化的目标是把各位属性的取值范围放缩到差不多的区间，例如[-0.5,0.5]。这里我们使用一种很常见的操作方法：减掉均值，然后除以原取值范围。 loss = fluid.layers.square_error_cost(input=y_predict, label=y)
avg_loss = fluid.layers.mean(loss)
做归一化（或 [Feature scaling](https://en.wikipedia.org/wiki/Feature_scaling)）至少有以下3个理由：
- 过大或过小的数值范围会导致计算时的浮点上溢或下溢。 return avg_loss
- 不同的数值范围会导致不同属性对模型的重要性不同（至少在训练的初始阶段如此），而这个隐含的假设常常是不合理的。这会对优化的过程造成困难，使训练时间大大的加长。 ```
- 很多的机器学习技巧/模型（例如L1，L2正则项，向量空间模型-Vector Space Model）都基于这样的假设：所有的属性取值都差不多是以0为均值且取值范围相近的。
### Optimizer Function 配置
![featureScale](./image/ranges.png)
<p align="center">图2. 各维属性的取值范围</p> 在下面的 `SGD optimizer`，`learning_rate` 是训练的速度，与网络的训练收敛速度有关系。
#### 整理训练集与测试集 ```python
我们将数据集分割为两份：一份用于调整模型的参数，即进行模型的训练，模型在这份数据集上的误差被称为**训练误差**；另外一份被用来测试，模型在这份数据集上的误差被称为**测试误差**。我们训练模型的目的是为了通过从训练数据中找到规律来预测未知的新数据，所以测试误差是更能反映模型表现的指标。分割数据的比例要考虑到两个因素：更多的训练数据会降低参数估计的方差，从而得到更可信的模型；而更多的测试数据会降低测试误差的方差，从而得到更可信的测试误差。我们这个例子中设置的分割比例为$8:2$ def optimizer_program():
return fluid.optimizer.SGD(learning_rate=0.001)
```
在更复杂的模型训练过程中，我们往往还会多使用一种数据集：验证集。因为复杂的模型中常常还有一些超参数（[Hyperparameter](https://en.wikipedia.org/wiki/Hyperparameter_optimization)）需要调节，所以我们会尝试多种超参数的组合来分别训练多个模型，然后对比它们在验证集上的表现选择相对最好的一组超参数，最后才使用这组参数下训练的模型在测试集上评估测试误差。由于本章训练的模型比较简单，我们暂且忽略掉这个过程。
### 定义运算场所
## 训练 我们可以定义运算是发生在CPU还是GPU
`fit_a_line/trainer.py`演示了训练的整体过程。 ```python
use_cuda = False
### 配置数据提供器(Datafeeder) place = fluid.CUDAPlace(0) if use_cuda else fluid.CPUPlace()
首先我们引入必要的库： ```
```python
import paddle ### 创建训练器
import paddle.fluid as fluid 训练器会读入一个训练程序和一些必要的其他参数：
import numpy
``` ```python
trainer = fluid.Trainer(
我们通过uci_housing模块引入了数据集合[UCI Housing Data Set](https://archive.ics.uci.edu/ml/datasets/Housing) train_func=train_program,
place=place,
其中，在uci_housing模块中封装了： optimizer_func=optimizer_program)
```
1. 数据下载的过程。下载数据保存在~/.cache/paddle/dataset/uci_housing/housing.data。
2. [数据预处理](#数据预处理)的过程。 ### 开始提供数据
PaddlePaddle提供了读取数据者发生器机制来读取训练数据。读取数据者会一次提供多列数据，因此我们需要一个Python的list来定义读取顺序。
接下来我们定义了用于训练和测试的数据提供器。提供器每次读入一个大小为`BATCH_SIZE`的数据批次。如果用户希望加一些随机性，她可以同时定义一个批次大小和一个缓存大小。这样的话，每次数据提供器会从缓存中随机读取批次大小那么多的数据。
```python
```python feed_order=['x', 'y']
BATCH_SIZE = 20 ```
train_reader = paddle.batch( 除此之外，可以定义一个事件相应器来处理类似`打印训练进程`的事件：
paddle.reader.shuffle(
paddle.dataset.uci_housing.train(), buf_size=500), ```python
batch_size=BATCH_SIZE) # Specify the directory to save the parameters
params_dirname = "fit_a_line.inference.model"
test_reader = paddle.batch(
paddle.reader.shuffle( # Plot data
paddle.dataset.uci_housing.test(), buf_size=500), from paddle.v2.plot import Ploter
batch_size=BATCH_SIZE) train_title = "Train cost"
``` test_title = "Test cost"
plot_cost = Ploter(train_title, test_title)
### 配置训练程序
训练程序的目的是定义一个训练模型的网络结构。对于线性回归来讲，它就是一个从输入到输出的简单的全连接层。更加复杂的结果，比如卷积神经网络，递归神经网络等会在随后的章节中介绍。训练程序必须返回`平均损失`作为第一个返回值，因为它会被后面反向传播算法所用到。 step = 0
```python # event_handler prints training and testing info
def train_program(): def event_handler_plot(event):
y = fluid.layers.data(name='y', shape=[1], dtype='float32') global step
if isinstance(event, fluid.EndStepEvent):
# feature vector of length 13 if event.step % 10 == 0: # record the test cost every 10 seconds
x = fluid.layers.data(name='x', shape=[13], dtype='float32') test_metrics = trainer.test(
y_predict = fluid.layers.fc(input=x, size=1, act=None) reader=test_reader, feed_order=feed_order)
loss = fluid.layers.square_error_cost(input=y_predict, label=y) plot_cost.append(test_title, step, test_metrics[0])
avg_loss = fluid.layers.mean(loss) plot_cost.plot()
return avg_loss if test_metrics[0] < 10.0:
``` # If the accuracy is good enough, we can stop the training.
print('loss is less than 10.0, stop')
### 定义运算场所 trainer.stop()
我们可以定义运算是发生在CPU还是GPU
# We can save the trained parameters for the inferences later
```python if params_dirname is not None:
use_cuda = False trainer.save_params(params_dirname)
place = fluid.CUDAPlace(0) if use_cuda else fluid.CPUPlace()
``` step += 1
```
### 创建训练器
训练器会读入一个训练程序和一些必要的其他参数： ### 开始训练
我们现在可以通过调用`trainer.train()`来开始训练
```python
trainer = fluid.Trainer( ```python
train_func=train_program, %matplotlib inline
place=place,
optimizer_func=fluid.optimizer.SGD(learning_rate=0.001)) # The training could take up to a few minutes.
``` trainer.train(
reader=train_reader,
### 开始提供数据 num_epochs=100,
PaddlePaddle提供了读取数据者发生器机制来读取训练数据。读取数据者会一次提供多列数据，因此我们需要一个Python的list来定义读取顺序。 event_handler=event_handler_plot,
feed_order=feed_order)
```python ```
feed_order=['x', 'y'] <p align="center">
``` <img src = "image/train_and_test.png" width=400><br/>
图3. 训练结果
除此之外，可以定义一个事件相应器来处理类似`打印训练进程`的事件： </p>
```python ## 预测
# Specify the directory path to save the parameters 提供一个`inference_program`和一个`params_dirname`来初始化预测器。`params_dirname`用来存储我们的参数。
params_dirname = "fit_a_line.inference.model"
### 设定预测程序
# Plot data 类似于`trainer.train`，预测器需要一个预测程序来做预测。我们可以稍加修改我们的训练程序来把预测值包含进来。
from paddle.v2.plot import Ploter
train_title = "Train cost"
test_title = "Test cost" ```python
plot_cost = Ploter(train_title, test_title) def inference_program():
x = fluid.layers.data(name='x', shape=[13], dtype='float32')
step = 0 y_predict = fluid.layers.fc(input=x, size=1, act=None)
return y_predict
# event_handler to print training and testing info ```
def event_handler_plot(event):
global step ### 预测
if isinstance(event, fluid.EndStepEvent): 预测器会从`params_dirname`中读取已经训练好的模型，来对从未遇见过的数据进行预测。
if event.step % 10 == 0: # every 10 batches, record a test cost
test_metrics = trainer.test( ```python
reader=test_reader, feed_order=feed_order) inferencer = fluid.Inferencer(
infer_func=inference_program, param_path=params_dirname, place=place)
plot_cost.append(test_title, step, test_metrics[0])
plot_cost.plot() batch_size = 10
test_reader = paddle.batch(paddle.dataset.uci_housing.test(),batch_size=batch_size)
if test_metrics[0] < 10.0: test_data = test_reader().next()
# If the accuracy is good enough, we can stop the training. test_feat = numpy.array([data[0] for data in test_data]).astype("float32")
print('loss is less than 10.0, stop') test_label = numpy.array([data[1] for data in test_data]).astype("float32")
trainer.stop()
results = inferencer.infer({'x': test_feat})
# We can save the trained parameters for the inferences later
if params_dirname is not None: print("infer results: (House Price)")
trainer.save_params(params_dirname) for k in range(0, batch_size-1):
print("%d. %f" % (k, results[0][k]))
step += 1
``` print("\nground truth:")
for k in range(0, batch_size-1):
### 开始训练 print("%d. %f" % (k, test_label[k]))
我们现在可以通过调用`trainer.train()`来开始训练 ```
```python ## 总结
%matplotlib inline 在这章里，我们借助波士顿房价这一数据集，介绍了线性回归模型的基本概念，以及如何使用PaddlePaddle实现训练和测试的过程。很多的模型和技巧都是从简单的线性回归模型演化而来，因此弄清楚线性模型的原理和局限非常重要。
# The training could take up to a few minutes.
trainer.train( ## 参考文献
reader=train_reader, 1. https://en.wikipedia.org/wiki/Linear_regression
num_epochs=100, 2. Friedman J, Hastie T, Tibshirani R. The elements of statistical learning[M]. Springer, Berlin: Springer series in statistics, 2001.
event_handler=event_handler_plot, 3. Murphy K P. Machine learning: a probabilistic perspective[M]. MIT press, 2012.
feed_order=feed_order) 4. Bishop C M. Pattern recognition[J]. Machine Learning, 2006, 128.
```
<br/>
![trainTestCost](./image/train_and_test.png) <a rel="license" href="http://creativecommons.org/licenses/by-sa/4.0/"><img alt="知识共享许可协议" style="border-width:0" src="https://i.creativecommons.org/l/by-sa/4.0/88x31.png" /></a><br /><span xmlns:dct="http://purl.org/dc/terms/" href="http://purl.org/dc/dcmitype/Text" property="dct:title" rel="dct:type">本教程</span> 由 <a xmlns:cc="http://creativecommons.org/ns#" href="http://book.paddlepaddle.org" property="cc:attributionName" rel="cc:attributionURL">PaddlePaddle</a> 创作，采用 <a rel="license" href="http://creativecommons.org/licenses/by-sa/4.0/">知识共享 署名-相同方式共享 4.0 国际 许可协议</a>进行许可。
## 预测
提供一个`inference_program`和一个`params_dirname`来初始化预测器。`params_dirname`用来存储我们的参数。
### 设定预测程序
类似于`trainer.train`，预测器需要一个预测程序来做预测。我们可以稍加修改我们的训练程序来把预测值包含进来。
```python
def inference_program():
x = fluid.layers.data(name='x', shape=[13], dtype='float32')
y_predict = fluid.layers.fc(input=x, size=1, act=None)
return y_predict
```
### 预测
预测器会从`params_dirname`中读取已经训练好的模型，来对从未遇见过的数据进行预测。
```python
inferencer = fluid.Inferencer(
infer_func=inference_program, param_path=params_dirname, place=place)
batch_size = 10
tensor_x = numpy.random.uniform(0, 10, [batch_size, 13]).astype("float32")
results = inferencer.infer({'x': tensor_x})
print("infer results: ", results[0])
```
## 总结
在这章里，我们借助波士顿房价这一数据集，介绍了线性回归模型的基本概念，以及如何使用PaddlePaddle实现训练和测试的过程。很多的模型和技巧都是从简单的线性回归模型演化而来，因此弄清楚线性模型的原理和局限非常重要。
## 参考文献
1. https://en.wikipedia.org/wiki/Linear_regression
2. Friedman J, Hastie T, Tibshirani R. The elements of statistical learning[M]. Springer, Berlin: Springer series in statistics, 2001.
3. Murphy K P. Machine learning: a probabilistic perspective[M]. MIT press, 2012.
4. Bishop C M. Pattern recognition[J]. Machine Learning, 2006, 128.
<br/>
<a rel="license" href="http://creativecommons.org/licenses/by-sa/4.0/"><img alt="知识共享许可协议" style="border-width:0" src="https://i.creativecommons.org/l/by-sa/4.0/88x31.png" /></a><br /><span xmlns:dct="http://purl.org/dc/terms/" href="http://purl.org/dc/dcmitype/Text" property="dct:title" rel="dct:type">本教程</span> 由 <a xmlns:cc="http://creativecommons.org/ns#" href="http://book.paddlepaddle.org" property="cc:attributionName" rel="cc:attributionURL">PaddlePaddle</a> 创作，采用 <a rel="license" href="http://creativecommons.org/licenses/by-sa/4.0/">知识共享 署名-相同方式共享 4.0 国际 许可协议</a>进行许可。
Markdown is supported
0% 或 .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑！
想要评论请 注册 或