From 8a30af944e663f1095f7c36ef8d164fca707ffae Mon Sep 17 00:00:00 2001 From: wwhu Date: Thu, 15 Jun 2017 19:23:12 +0800 Subject: [PATCH] resize figure --- scheduled_sampling/README.md | 4 ++-- 1 file changed, 2 insertions(+), 2 deletions(-) diff --git a/scheduled_sampling/README.md b/scheduled_sampling/README.md index d85c90bb..9af4387e 100644 --- a/scheduled_sampling/README.md +++ b/scheduled_sampling/README.md @@ -24,14 +24,14 @@ Scheduled Sampling主要应用在序列到序列模型的训练阶段，而生 图1给出了这三种方式的衰减曲线，

-
+
图1. 线性衰减、指数衰减和反向Sigmoid衰减的衰减曲线

如图2所示，在解码器的$t$时刻Scheduled Sampling以概率$\epsilon_i$使用上一时刻的真实元素$y_{t-1}$作为解码器输入，以概率$1-\epsilon_i$使用上一时刻生成的元素$g_{t-1}$作为解码器输入。从图1可知随着$i$的增大$\epsilon_i$会不断减小，解码器将不断倾向于使用生成的元素作为输入，训练阶段和生成阶段的数据分布将变得越来越一致。

-
+
图2. Scheduled Sampling选择不同元素作为解码器输入示意图

-- GitLab