Merge pull request #41 from luotao1/image

refine img size

fit_a_line/README.md

@@ -13,7 +13,7 @@ $$y_i = \omega_1x_{i1} + \omega_2x_{i2} + \ldots + \omega_dx_{id} + b,  i=1,\ldo
 ## 效果展示
 我们使用从[UCI Housing Data Set](https://archive.ics.uci.edu/ml/datasets/Housing)获得的波士顿房价数据集进行模型的训练和预测。下面的散点图展示了使用模型对部分房屋价格进行的预测。其中，每个点的横坐标表示同一类房屋真实价格的中位数，纵坐标表示线性回归模型根据特征预测的结果，当二者值完全相等的时候就会落在虚线上。所以模型预测得越准确，则点离虚线越近。
 <p align="center">
-	<img src = "image/predictions.png"><br/>
+	<img src = "image/predictions.png" width=400><br/>
 	图1. 预测值 V.S. 真实值
 </p>
 
@@ -83,7 +83,7 @@ cd data && python prepare_data.py
 - 很多的机器学习技巧/模型（例如L1，L2正则项，向量空间模型-Vector Space Model）都基于这样的假设：所有的属性取值都差不多是以0为均值且取值范围相近的。
 
 <p align="center">
-	<img src = "image/ranges.png"><br/>
+	<img src = "image/ranges.png" width=550><br/>
 	图2. 各维属性的取值范围
 </p>
 

image_classification/README.md

@@ -55,7 +55,7 @@
 Alex Krizhevsky在2012年ILSVRC提出的CNN模型 \[[9](#参考文献)\] 取得了历史性的突破，效果大幅度超越传统方法，获得了ILSVRC2012冠军，该模型被称作AlexNet。这也是首次将深度学习用于大规模图像分类中。从AlexNet之后，涌现了一系列CNN模型，不断地在ImageNet上刷新成绩，如图4展示。随着模型变得越来越深以及精妙的结构设计，Top-5的错误率也越来越低，降到了3.5%附近。而在同样的ImageNet数据集上，人眼的辨识错误率大概在5.1%，也就是目前的深度学习模型的识别能力已经超过了人眼。
 
 <p align="center">
-<img src="image/ilsvrc.png" width="450" ><br/>
+<img src="image/ilsvrc.png" width="500" ><br/>
 图4. ILSVRC图像分类Top-5错误率
 </p>
 
@@ -96,7 +96,7 @@ NIN模型主要有两个特点：1) 引入了多层感知卷积网络(Multi-Laye
 Inception模块如下图7所示，图(a)是最简单的设计，输出是3个卷积层和一个池化层的特征拼接。这种设计的缺点是池化层不会改变特征通道数，拼接后会导致特征的通道数较大，经过几层这样的模块堆积后，通道数会越来越大，导致参数和计算量也随之增大。为了改善这个缺点，图(b)引入3个1x1卷积层进行降维，所谓的降维就是减少通道数，同时如NIN模型中提到的1x1卷积也可以修正线性特征。
 
 <p align="center">
-<img src="image/inception.png" width="550" ><br/>
+<img src="image/inception.png" width="800" ><br/>
 图7. Inception模块
 </p>
 
@@ -120,7 +120,7 @@ ResNet(Residual Network) \[[15](#参考文献)\] 是2015年ImageNet图像分类
 残差模块如图9所示，左边是基本模块连接方式，由两个输出通道数相同的3x3卷积组成。右边是瓶颈模块(Bottleneck)连接方式，之所以称为瓶颈，是因为上面的1x1卷积用来降维(图示例即256->64)，下面的1x1卷积用来升维(图示例即64->256)，这样中间3x3卷积的输入和输出通道数都较小(图示例即64->64)。
 
 <p align="center">
-<img src="image/resnet_block.jpg" width="300"><br/>
+<img src="image/resnet_block.jpg" width="400"><br/>
 图9. 残差模块
 </p>
 

machine_translation/README.md

@@ -10,7 +10,7 @@
 
 近年来，深度学习技术的发展为解决上述挑战提供了新的思路。将深度学习应用于机器翻译任务的方法大致分为两类：1）仍以统计机器翻译系统为框架，只是利用神经网络来改进其中的关键模块，如语言模型、调序模型等（见图1的左半部分）；2）不再以统计机器翻译系统为框架，而是直接用神经网络将源语言映射到目标语言，即端到端的神经网络机器翻译（End-to-End Neural Machine Translation, End-to-End NMT）（见图1的右半部分），简称为NMT模型。
 <p align="center">
-<img src="image/nmt.png"><br/>
+<img src="image/nmt.png" width=400><br/>
 图1. 基于神经网络的机器翻译系统
 </p>
 
@@ -43,7 +43,7 @@ GRU\[[2](#参考文献)\]是Cho等人在LSTM上提出的简化版本，也是RNN
 - 重置门（reset gate）：如果重置门关闭，会忽略掉历史信息，即历史不相干的信息不会影响未来的输出。
 - 更新门（update gate）：将LSTM的输入门和遗忘门合并，用于控制历史信息对当前时刻隐层输出的影响。如果更新门接近1，会把历史信息传递下去。
 <p align="center">
-<img src="image/gru.png"><br/>
+<img src="image/gru.png" width=700><br/>
 图2. GRU（门控循环单元）
 </p>
 
@@ -56,7 +56,7 @@ GRU\[[2](#参考文献)\]是Cho等人在LSTM上提出的简化版本，也是RNN
 具体来说，该双向循环神经网络分别在时间维以顺序和逆序——即前向（forward）和后向（backward）——依次处理输入序列，并将每个时间步RNN的输出拼接成为最终的输出层。这样每个时间步的输出节点，都包含了输入序列中当前时刻完整的过去和未来的上下文信息。下图展示的是一个按时间步展开的双向循环神经网络。该网络包含一个前向和一个后向RNN，其中有六个权重矩阵：输入到前向隐层和后向隐层的权重矩阵（$W_1, W_3$），隐层到隐层自己的权重矩阵（$W_2,W_5$），前向隐层和后向隐层到输出层的权重矩阵（$W_4, W_6$）。注意，该网络的前向隐层和后向隐层之间没有连接。
 
 <p align="center">
-<img src="image/bi_rnn.png"><br/>
+<img src="image/bi_rnn.png" width=450><br/>
 图3. 按时间步展开的双向循环神经网络
 </p>
 
@@ -64,7 +64,7 @@ GRU\[[2](#参考文献)\]是Cho等人在LSTM上提出的简化版本，也是RNN
 
 编码器-解码器（Encoder-Decoder）\[[2](#参考文献)\]框架用于解决由一个任意长度的源序列到另一个任意长度的目标序列的变换问题。即编码阶段将整个源序列编码成一个向量，解码阶段通过最大化预测序列概率，从中解码出整个目标序列。编码和解码的过程通常都使用RNN实现。
 <p align="center">
-<img src="image/encoder_decoder.png"><br/>
+<img src="image/encoder_decoder.png" width=700><br/>
 图4. 编码器-解码器框架
 </p>
 
@@ -81,7 +81,7 @@ GRU\[[2](#参考文献)\]是Cho等人在LSTM上提出的简化版本，也是RNN
 第3步也可以使用双向循环神经网络实现更复杂的句编码表示，具体可以用双向GRU实现。前向GRU按照词序列$(x_1,x_2,...,x_T)$的顺序依次编码源语言端词，并得到一系列隐层状态$(\overrightarrow{h_1},\overrightarrow{h_2},...,\overrightarrow{h_T})$。类似的，后向GRU按照$(x_T,x_{T-1},...,x_1)$的顺序依次编码源语言端词，得到$(\overleftarrow{h_1},\overleftarrow{h_2},...,\overleftarrow{h_T})$。最后对于词$x_i$，通过拼接两个GRU的结果得到它的隐层状态，即$h_i=\left [ \overrightarrow{h_i^T},\overleftarrow{h_i^T} \right ]^{T}$。
 
 <p align="center">
-<img src="image/encoder_attention.png"><br/>
+<img src="image/encoder_attention.png" width=500><br/>
 图5. 使用双向GRU的编码器
 </p>
 
@@ -128,7 +128,7 @@ e_{ij}&=align(z_i,h_j)\\\\
 其中，$align$可以看作是一个对齐模型，用来衡量目标语言中第$i$个词和源语言中第$j$个词的匹配程度。具体而言，这个程度是通过解码RNN的第$i$个隐层状态$z_i$和源语言句子的第$j$个上下文片段$h_j$计算得到的。传统的对齐模型中，目标语言的每个词明确对应源语言的一个或多个词（hard alignment）；而在注意力模型中采用的是soft alignment，即任何两个目标语言和源语言词间均存在一定的关联，且这个关联强度是由模型计算得到的实数，因此可以融入整个NMT框架，并通过反向传播算法进行训练。
 
 <p align="center">
-<img src="image/decoder_attention.png"><br/>
+<img src="image/decoder_attention.png" width=500><br/>
 图6. 基于注意力机制的解码器
 </p>
 

recognize_digits/README.md

@@ -42,7 +42,7 @@ $$  crossentropy(label, y) = -\sum_i label_ilog(y_i) $$
 
 图2为softmax回归的网络图，图中权重用黑线表示、偏置用红线表示、+1代表偏置参数的系数为1。
 <p align="center">
-<img src="image/softmax_regression.png"><br/>
+<img src="image/softmax_regression.png" width=400><br/>
 图2. softmax回归网络结构图<br/>
 </p>
 
@@ -57,7 +57,7 @@ Softmax回归模型采用了最简单的两层神经网络，即只有输入层
 
 图3为多层感知器的网络结构图，图中权重用黑线表示、偏置用红线表示、+1代表偏置参数的系数为1。
 <p align="center">
-<img src="image/mlp.png"><br/>
+<img src="image/mlp.png" width=500><br/>
 图3. 多层感知器网络结构图<br/>
 </p>
 
@@ -65,7 +65,7 @@ Softmax回归模型采用了最简单的两层神经网络，即只有输入层
 
 #### 卷积层
 <p align="center">
-<img src="image/conv_layer.png"><br/>
+<img src="image/conv_layer.png" width=500><br/>
 图4. 卷积层图片<br/>
 </p>
 卷积层是卷积神经网络的核心基石。该层的参数由一组可学习的过滤器（也叫作卷积核）组成。在前向过程中，每个卷积核在输入层进行横向和纵向的扫描，与输入层对应扫描位置进行卷积，得到的结果加上偏置并用相应的激活函数进行激活，结果能够得到一个二维的激活图(activation map)。每个特定的卷积核都能得到特定的激活图(activation map)，如有的卷积核可能对识别边角，有的可能识别圆圈，那这些卷积核可能对于对应的特征响应要强。

recommender_system/README.md

@@ -35,7 +35,7 @@ Prediction Score is 4.25
 YouTube是世界上最大的视频上传、分享和发现网站，YouTube推荐系统为超过10亿用户从不断增长的视频库中推荐个性化的内容。整个系统由两个神经网络组成：候选生成网络和排序网络。候选生成网络从百万量级的视频库中生成上百个候选，排序网络对候选进行打分排序，输出排名最高的数十个结果。系统结构如图1所示：
 
 <p align="center">
-<img src="image/YouTube_Overview.png" width="75%" ><br/>
+<img src="image/YouTube_Overview.png" width="70%" ><br/>
 图1. YouTube 推荐系统结构
 </p>
 
@@ -46,7 +46,7 @@ YouTube是世界上最大的视频上传、分享和发现网站，YouTube推荐
 首先，将观看历史及搜索词记录这类历史信息，映射为向量后取平均值得到定长表示；同时，输入人口学特征以优化新用户的推荐效果，并将二值特征和连续特征归一化处理到[0, 1]范围。接下来，将所有特征表示拼接为一个向量，并输入给非线形多层感知器（MLP，详见[识别数字](https://github.com/PaddlePaddle/book/blob/develop/recognize_digits/README.md)教程）处理。最后，训练时将MLP的输出给softmax做分类，预测时计算用户的综合特征（MLP的输出）与所有视频的相似度，取得分最高的$k$个作为候选生成网络的筛选结果。图2显示了候选生成网络结构。
 
 <p align="center">
-<img src="image/Deep_candidate_generation_model_architecture.png" width="75%" ><br/>
+<img src="image/Deep_candidate_generation_model_architecture.png" width="70%" ><br/>
 图2. 候选生成网络结构
 </p>
 

understand_sentiment/README.md

@@ -23,7 +23,7 @@
 
 卷积神经网络主要由卷积（convolution）和池化（pooling）操作构成，其应用及组合方式灵活多变，种类繁多。本小结我们以一种简单的文本分类卷积神经网络为例进行讲解\[[1](#参考文献)\]，如图1所示：
 <p align="center">
-<img src="image/text_cnn.png" width = "90%" height = "90%" align="center"/><br/>
+<img src="image/text_cnn.png" width = "80%" align="center"/><br/>
 图1. 卷积神经网络文本分类模型
 </p>
 假设待处理句子的长度为$n$，其中第$i$个词的词向量（word embedding）为$x_i\in\mathbb{R}^k$，$k$为维度大小。  
@@ -46,7 +46,7 @@ $$\hat c=max(c)$$
 ### 循环神经网络（RNN）
 循环神经网络是一种能对序列数据进行精确建模的有力工具。实际上，循环神经网络的理论计算能力是图灵完备的\[[4](#参考文献)\]。自然语言是一种典型的序列数据（词序列），近年来，循环神经网络及其变体（如long short term memory\[[5](#参考文献)\]等）在自然语言处理的多个领域，如语言模型、句法解析、语义角色标注（或一般的序列标注）、语义表示、图文生成、对话、机器翻译等任务上均表现优异甚至成为目前效果最好的方法。
 <p align="center">
-<img src="image/rnn.png" width = "70%" height = "70%" align="center"/><br/>
+<img src="image/rnn.png" width = "60%" align="center"/><br/>
 图2. 循环神经网络按时间展开的示意图
 </p>
 循环神经网络按时间展开后如图2所示：在第$t$时刻，网络读入第$t$个输入$x_t$（向量表示）及前一时刻隐层的状态值$h_{t-1}$（向量表示，$h_0$一般初始化为$0$向量），计算得出本时刻隐层的状态值$h_t$，重复这一步骤直至读完所有输入。如果将循环神经网络所表示的函数记为$f$，则其公式可表示为：
@@ -87,7 +87,7 @@ $$ h_t=Recrurent(x_t,h_{t-1})$$
 
 如图4所示（以三层为例），奇数层LSTM正向，偶数层LSTM反向，高一层的LSTM使用低一层LSTM及之前所有层的信息作为输入，对最高层LSTM序列使用时间维度上的最大池化即可得到文本的定长向量表示（这一表示充分融合了文本的上下文信息，并且对文本进行了深层次抽象），最后我们将文本表示连接至softmax构建分类模型。
 <p align="center">
-<img src="image/stacked_lstm.jpg"><br/>
+<img src="image/stacked_lstm.jpg" width=450><br/>
 图4. 栈式双向LSTM用于文本分类
 </p>
 ## 数据准备

word2vec/README.md

@@ -29,7 +29,7 @@ $$X = USV^T$$
 本章中，当词向量训练好后，我们可以用数据可视化算法t-SNE\[[4](#参考文献)\]画出词语特征在二维上的投影（如下图所示）。从图中可以看出，语义相关的词语（如a, the, these; big, huge）在投影上距离很近，语意无关的词（如say, business; decision, japan）在投影上的距离很远。
 
 <p align="center">
-	<img src = "image/2d_similarity.png"><br/>
+	<img src = "image/2d_similarity.png" width=400><br/>
 	图1. 词向量的二维投影
 </p>
 
@@ -81,7 +81,7 @@ $$\frac{1}{T}\sum_t f(w_t, w_{t-1}, ..., w_{t-n+1};\theta) + R(\theta)$$
 
 其中$f(w_t, w_{t-1}, ..., w_{t-n+1})$表示根据历史n-1个词得到当前词$w_t$的条件概率，$R(\theta)$表示参数正则项。
 <p align="center">	
-   	<img src="image/nnlm.png"><br/>
+   	<img src="image/nnlm.png" width=500><br/>
    	图2. N-gram神经网络模型
 </p>
 
@@ -112,7 +112,7 @@ $$\frac{1}{T}\sum_t f(w_t, w_{t-1}, ..., w_{t-n+1};\theta) + R(\theta)$$
 
 CBOW模型通过一个词的上下文（各N个词）预测当前词。当N=2时，模型如下图所示：
 <p align="center">	
-	<img src="image/cbow.png"><br/>
+	<img src="image/cbow.png" width=250><br/>
 	图3. CBOW模型
 </p>
 
@@ -126,7 +126,7 @@ $$context = \frac{x_{t-1} + x_{t-2} + x_{t+1} + x_{t+2}}{4}$$
 
 CBOW的好处是对上下文词语的分布在词向量上进行了平滑，去掉了噪声，因此在小数据集上很有效。而Skip-gram的方法中，用一个词预测其上下文，得到了当前词上下文的很多样本，因此可用于更大的数据集。
 <p align="center">	
-	<img src="image/skipgram.png"><br/>
+	<img src="image/skipgram.png" width=250><br/>
 	图4. Skip-gram模型
 </p>
 如上图所示，Skip-gram模型的具体做法是，将一个词的词向量映射到$2n$个词的词向量（$2n$表示当前输入词的前后各$n$个词），然后分别通过softmax得到这$2n$个词的分类损失值之和。
@@ -267,7 +267,7 @@ settings(
 本配置的模型结构如下图所示：
 
 <p align="center">	
-	<img src="image/ngram.png"><br/>
+	<img src="image/ngram.png" width=400><br/>
 	图5. 模型配置中的N-gram神经网络模型
 </p>