Update

a6c30c00 · Yi Wang · 67540b6e · a6c30c00 · a6c30c00 · a6c30c00
4 changed file
--- a/.pre-commit-config.yaml
+++ b/.pre-commit-config.yaml
@@ -10,14 +10,20 @@
    -   id: check-symlinks
    -   id: detect-private-key
    -   id: end-of-file-fixer
+        files: \.md$
    -   id: trailing-whitespace
+        files: \.md$
 -   repo: git://github.com/Lucas-C/pre-commit-hooks
    sha: v1.0.1
    hooks:
    -   id: forbid-crlf
+        files: \.md$
    -   id: remove-crlf
+        files: \.md$
    -   id: forbid-tabs
+        files: \.md$
    -   id: remove-tabs
+        files: \.md$
 - repo: local
  hooks:
    -  id: convert-markdown-into-html

--- a/fit_a_line/index.html
+++ b/fit_a_line/index.html
@@ -57,8 +57,8 @@ $$y_i = \omega_1x_{i1} + \omega_2x_{i2} + \ldots + \omega_dx_{id} + b,  i=1,\ldo
 ## 效果展示
 我们使用从[UCI Housing Data Set](https://archive.ics.uci.edu/ml/datasets/Housing)获得的波士顿房价数据集进行模型的训练和预测。下面的散点图展示了使用模型对部分房屋价格进行的预测。其中，每个点的横坐标表示同一类房屋真实价格的中位数，纵坐标表示线性回归模型根据特征预测的结果，当二者值完全相等的时候就会落在虚线上。所以模型预测得越准确，则点离虚线越近。
 <p align="center">
-    <img src = "image/predictions.png" width=400><br/>
-    图1. 预测值 V.S. 真实值
+	<img src = "image/predictions.png" width=400><br/>
+	图1. 预测值 V.S. 真实值
 </p>

 ## 模型概览
@@ -138,8 +138,8 @@ import paddle.v2.dataset.uci_housing as uci_housing
 - 很多的机器学习技巧/模型（例如L1，L2正则项，向量空间模型-Vector Space Model）都基于这样的假设：所有的属性取值都差不多是以0为均值且取值范围相近的。

 <p align="center">
-    <img src = "image/ranges.png" width=550><br/>
-    图2. 各维属性的取值范围
+	<img src = "image/ranges.png" width=550><br/>
+	图2. 各维属性的取值范围
 </p>

 #### 整理训练集与测试集

--- a/image_classification/index.html
+++ b/image_classification/index.html
@@ -215,24 +215,24 @@ paddle.init(use_gpu=False, trainer_count=1)

 1. 定义数据输入及其维度

-    网络输入定义为 `data_layer` (数据层)，在图像分类中即为图像像素信息。CIFRAR10是RGB 3通道32x32大小的彩色图，因此输入数据大小为3072(3x32x32)，类别大小为10，即10分类。
+	网络输入定义为 `data_layer` (数据层)，在图像分类中即为图像像素信息。CIFRAR10是RGB 3通道32x32大小的彩色图，因此输入数据大小为3072(3x32x32)，类别大小为10，即10分类。

-    ```python
+	```python
    datadim = 3 * 32 * 32
    classdim = 10

    image = paddle.layer.data(
        name="image", type=paddle.data_type.dense_vector(datadim))
-    ```
+	```

 2. 定义VGG网络核心模块

-    ```python
-    net = vgg_bn_drop(image)
-    ```
-    VGG核心模块的输入是数据层，`vgg_bn_drop` 定义了16层VGG结构，每层卷积后面引入BN层和Dropout层，详细的定义如下：
+	```python
+	net = vgg_bn_drop(image)
+	```
+	VGG核心模块的输入是数据层，`vgg_bn_drop` 定义了16层VGG结构，每层卷积后面引入BN层和Dropout层，详细的定义如下：

-    ```python
+	```python
    def vgg_bn_drop(input):
        def conv_block(ipt, num_filter, groups, dropouts, num_channels=None):
            return paddle.networks.img_conv_group(
@@ -261,33 +261,33 @@ paddle.init(use_gpu=False, trainer_count=1)
            layer_attr=paddle.attr.Extra(drop_rate=0.5))
        fc2 = paddle.layer.fc(input=bn, size=512, act=paddle.activation.Linear())
        return fc2
-    ```
+	```

-    2.1. 首先定义了一组卷积网络，即conv_block。卷积核大小为3x3，池化窗口大小为2x2，窗口滑动大小为2，groups决定每组VGG模块是几次连续的卷积操作，dropouts指定Dropout操作的概率。所使用的`img_conv_group`是在`paddle.networks`中预定义的模块，由若干组 `Conv->BN->ReLu->Dropout` 和 一组 `Pooling` 组成，
+	2.1. 首先定义了一组卷积网络，即conv_block。卷积核大小为3x3，池化窗口大小为2x2，窗口滑动大小为2，groups决定每组VGG模块是几次连续的卷积操作，dropouts指定Dropout操作的概率。所使用的`img_conv_group`是在`paddle.networks`中预定义的模块，由若干组 `Conv->BN->ReLu->Dropout` 和 一组 `Pooling` 组成，

-    2.2. 五组卷积操作，即 5个conv_block。 第一、二组采用两次连续的卷积操作。第三、四、五组采用三次连续的卷积操作。每组最后一个卷积后面Dropout概率为0，即不使用Dropout操作。
+	2.2. 五组卷积操作，即 5个conv_block。 第一、二组采用两次连续的卷积操作。第三、四、五组采用三次连续的卷积操作。每组最后一个卷积后面Dropout概率为0，即不使用Dropout操作。

-    2.3. 最后接两层512维的全连接。
+	2.3. 最后接两层512维的全连接。

 3. 定义分类器

-    通过上面VGG网络提取高层特征，然后经过全连接层映射到类别维度大小的向量，再通过Softmax归一化得到每个类别的概率，也可称作分类器。
+	通过上面VGG网络提取高层特征，然后经过全连接层映射到类别维度大小的向量，再通过Softmax归一化得到每个类别的概率，也可称作分类器。

-    ```python
+	```python
    out = paddle.layer.fc(input=net,
                          size=classdim,
                          act=paddle.activation.Softmax())
-    ```
+	```

 4. 定义损失函数和网络输出

-    在有监督训练中需要输入图像对应的类别信息，同样通过`paddle.layer.data`来定义。训练中采用多类交叉熵作为损失函数，并作为网络的输出，预测阶段定义网络的输出为分类器得到的概率信息。
+	在有监督训练中需要输入图像对应的类别信息，同样通过`paddle.layer.data`来定义。训练中采用多类交叉熵作为损失函数，并作为网络的输出，预测阶段定义网络的输出为分类器得到的概率信息。

-    ```python
+	```python
    lbl = paddle.layer.data(
        name="label", type=paddle.data_type.integer_value(classdim))
    cost = paddle.layer.classification_cost(input=out, label=lbl)
-    ```
+	```

 ### ResNet


--- a/word2vec/index.html
+++ b/word2vec/index.html
@@ -74,8 +74,8 @@ $$X = USV^T$$
 本章中，当词向量训练好后，我们可以用数据可视化算法t-SNE\[[4](#参考文献)\]画出词语特征在二维上的投影（如下图所示）。从图中可以看出，语义相关的词语（如a, the, these; big, huge）在投影上距离很近，语意无关的词（如say, business; decision, japan）在投影上的距离很远。

 <p align="center">
-    <img src = "image/2d_similarity.png" width=400><br/>
-    图1. 词向量的二维投影
+	<img src = "image/2d_similarity.png" width=400><br/>
+	图1. 词向量的二维投影
 </p>

 另一方面，我们知道两个向量的余弦值在$[-1,1]$的区间内：两个完全相同的向量余弦值为1, 两个相互垂直的向量之间余弦值为0，两个方向完全相反的向量余弦值为-1，即相关性和余弦值大小成正比。因此我们还可以计算两个词向量的余弦相似度:
@@ -128,8 +128,8 @@ $$\frac{1}{T}\sum_t f(w_t, w_{t-1}, ..., w_{t-n+1};\theta) + R(\theta)$$
 其中$f(w_t, w_{t-1}, ..., w_{t-n+1})$表示根据历史n-1个词得到当前词$w_t$的条件概率，$R(\theta)$表示参数正则项。

 <p align="center">
-       <img src="image/nnlm.png" width=500><br/>
-       图2. N-gram神经网络模型
+   	<img src="image/nnlm.png" width=500><br/>
+   	图2. N-gram神经网络模型
 </p>

 图2展示了N-gram神经网络模型，从下往上看，该模型分为以下几个部分：
@@ -139,7 +139,7 @@ $$\frac{1}{T}\sum_t f(w_t, w_{t-1}, ..., w_{t-n+1};\theta) + R(\theta)$$

 - 然后所有词语的词向量连接成一个大向量，并经过一个非线性映射得到历史词语的隐层表示：

-    $$g=Utanh(\theta^Tx + b_1) + Wx + b_2$$
+	$$g=Utanh(\theta^Tx + b_1) + Wx + b_2$$

    其中，$x$为所有词语的词向量连接成的大向量，表示文本历史特征；$\theta$、$U$、$b_1$、$b_2$和$W$分别为词向量层到隐层连接的参数。$g$表示未经归一化的所有输出单词概率，$g_i$表示未经归一化的字典中第$i$个单词的输出概率。

@@ -160,8 +160,8 @@ $$\frac{1}{T}\sum_t f(w_t, w_{t-1}, ..., w_{t-n+1};\theta) + R(\theta)$$
 CBOW模型通过一个词的上下文（各N个词）预测当前词。当N=2时，模型如下图所示：

 <p align="center">
-    <img src="image/cbow.png" width=250><br/>
-    图3. CBOW模型
+	<img src="image/cbow.png" width=250><br/>
+	图3. CBOW模型
 </p>

 具体来说，不考虑上下文的词语输入顺序，CBOW是用上下文词语的词向量的均值来预测当前词。即：
@@ -175,8 +175,8 @@ $$context = \frac{x_{t-1} + x_{t-2} + x_{t+1} + x_{t+2}}{4}$$
 CBOW的好处是对上下文词语的分布在词向量上进行了平滑，去掉了噪声，因此在小数据集上很有效。而Skip-gram的方法中，用一个词预测其上下文，得到了当前词上下文的很多样本，因此可用于更大的数据集。

 <p align="center">
-    <img src="image/skipgram.png" width=250><br/>
-    图4. Skip-gram模型
+	<img src="image/skipgram.png" width=250><br/>
+	图4. Skip-gram模型
 </p>

 如上图所示，Skip-gram模型的具体做法是，将一个词的词向量映射到$2n$个词的词向量（$2n$表示当前输入词的前后各$n$个词），然后分别通过softmax得到这$2n$个词的分类损失值之和。
@@ -190,21 +190,21 @@ CBOW的好处是对上下文词语的分布在词向量上进行了平滑，去

 <p align="center">
 <table>
-    <tr>
-        <td>训练数据</td>
-        <td>验证数据</td>
-        <td>测试数据</td>
-    </tr>
-    <tr>
-        <td>ptb.train.txt</td>
-        <td>ptb.valid.txt</td>
-        <td>ptb.test.txt</td>
-    </tr>
-    <tr>
-        <td>42068句</td>
-        <td>3370句</td>
-        <td>3761句</td>
-    </tr>
+	<tr>
+		<td>训练数据</td>
+		<td>验证数据</td>
+		<td>测试数据</td>
+	</tr>
+	<tr>
+		<td>ptb.train.txt</td>
+		<td>ptb.valid.txt</td>
+		<td>ptb.test.txt</td>
+	</tr>
+	<tr>
+		<td>42068句</td>
+		<td>3370句</td>
+		<td>3761句</td>
+	</tr>
 </table>
 </p>

@@ -230,8 +230,8 @@ dream that one day <e>
 本配置的模型结构如下图所示：

 <p align="center">
-    <img src="image/ngram.png" width=400><br/>
-    图5. 模型配置中的N-gram神经网络模型
+	<img src="image/ngram.png" width=400><br/>
+	图5. 模型配置中的N-gram神经网络模型
 </p>

 首先，加载所需要的包：