Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
a26546593
dive-into-dl-pytorch
提交
73cddebb
D
dive-into-dl-pytorch
项目概览
a26546593
/
dive-into-dl-pytorch
与 Fork 源项目一致
从无法访问的项目Fork
通知
1
Star
0
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
D
dive-into-dl-pytorch
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
提交
73cddebb
编写于
1月 11, 2020
作者:
S
ShusenTang
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix bug in GRU #88
上级
cd848d21
变更
2
隐藏空白更改
内联
并排
Showing
2 changed file
with
29 addition
and
29 deletion
+29
-29
code/chapter06_RNN/6.7_gru.ipynb
code/chapter06_RNN/6.7_gru.ipynb
+28
-28
docs/chapter06_RNN/6.7_gru.md
docs/chapter06_RNN/6.7_gru.md
+1
-1
未找到文件。
code/chapter06_RNN/6.7_gru.ipynb
浏览文件 @
73cddebb
...
...
@@ -17,7 +17,7 @@
"name": "stdout",
"output_type": "stream",
"text": [
"1.
0
.0 cpu\n"
"1.
2
.0 cpu\n"
]
}
],
...
...
@@ -114,7 +114,7 @@
" for X in inputs:\n",
" Z = torch.sigmoid(torch.matmul(X, W_xz) + torch.matmul(H, W_hz) + b_z)\n",
" R = torch.sigmoid(torch.matmul(X, W_xr) + torch.matmul(H, W_hr) + b_r)\n",
" H_tilda = torch.tanh(torch.matmul(X, W_xh) +
R * torch.matmul(
H, W_hh) + b_h)\n",
" H_tilda = torch.tanh(torch.matmul(X, W_xh) +
torch.matmul(R *
H, W_hh) + b_h)\n",
" H = Z * H + (1 - Z) * H_tilda\n",
" Y = torch.matmul(H, W_hq) + b_q\n",
" outputs.append(Y)\n",
...
...
@@ -149,18 +149,18 @@
"name": "stdout",
"output_type": "stream",
"text": [
"epoch 40, perplexity 1
49.477598, time 1.08
sec\n",
" - 分开 我
不不你 我想你你的爱我 你不你的让我 你不你的让我 你不你的让我 你不你的让我 你不你的让我 你
\n",
" - 不分开 我想你
你的让我 你不你的让我 你不你的让我 你不你的让我 你不你的让我 你不你的让我 你不你的让
我\n",
"epoch 80, perplexity 31.68
9210, time 1.10
sec\n",
" - 分开 我想要你
我不要再想 我不要再想 我不要再想 我不要再想 我不要再想 我不要再想 我不要再想 我不
\n",
" - 不分开
我想要你 我不要再想 我不要再想 我不要再想 我不要再想 我不要再想 我不要再想 我不要再想
我不\n",
"epoch 120, perplexity
4.866115, time 1.08
sec\n",
" - 分开
我想要这样牵着你的手不放开 爱过 让我来的肩膀 一起好酒 你来了这节秋 后知后觉 我该好好生活 我
\n",
" - 不分开
你已经不了我不要 我不要再想你 我不要再想你 我不要再想你 不知不觉 我跟了这节奏 后知后觉 又过
\n",
"epoch 160, perplexity 1.
442282, time 1.51
sec\n",
" - 分开 我
一定好生忧 唱着歌 一直走 我想就这样牵着你的手不放开 爱可不可以简简单单没有伤害 你 靠着我的
\n",
" - 不分开
你已经离开我 不知不觉 我跟了这节奏 后知后觉 又过了一个秋 后知后觉 我该好好生活 我该好好生活
\n"
"epoch 40, perplexity 1
50.963116, time 1.11
sec\n",
" - 分开 我
想你 我不你 我不你 我不你 我不你 我不你 我不你 我不你 我不你 我不你 我不你 我不你 我
\n",
" - 不分开 我想你
我不你 我不你 我不你 我不你 我不你 我不你 我不你 我不你 我不你 我不你 我不你
我\n",
"epoch 80, perplexity 31.68
3252, time 1.16
sec\n",
" - 分开 我想要你
的微笑 一定
\n",
" - 不分开
不知不觉 我不要再想 我不要再想 我不 我不 我不 我不 我不 我不 我不 我不 我不 我不
我不\n",
"epoch 120, perplexity
5.855305, time 1.49
sec\n",
" - 分开
我 想要你这样打我妈妈 难道你手不会痛吗 我想你这样打我妈妈 难道你手 你怎么在我想 说散 你说我久
\n",
" - 不分开
没有你在我有多烦熬多烦恼 没有你烦 我有多烦恼 没有你在我有多难熬多难多 没有你烦 我有多
\n",
"epoch 160, perplexity 1.
815359, time 1.04
sec\n",
" - 分开 我
想要这样牵 对你依依不舍 连隔壁邻居都猜到我现在的感受 河边的风 在吹着头发飘动 牵着你的手 一
\n",
" - 不分开
是后过风 迷不知蒙 我给再这样活 我该好好生活 不知不觉 你已经离开我 不知不觉 我跟了这节奏
\n"
]
}
],
...
...
@@ -188,18 +188,18 @@
"name": "stdout",
"output_type": "stream",
"text": [
"epoch 40, perplexity 1.0
22157, time 1.02
sec\n",
" - 分开
手牵手 一步两步三步四步望著天 看星星 一颗两颗三颗四颗 连成线背著背默默许下心愿 看远方的星是否听
\n",
" - 不分开
暴风圈来不及逃 我不能再想 我不能再想 我不 我不 我不能 爱情走的太快就像龙卷风 不能承受我已无处
\n",
"epoch 80, perplexity 1.0
14535, time 1.0
4 sec\n",
" - 分开始想像 爸和妈当年的模样 说著一口吴侬软语的姑娘缓缓走过外滩 消失的 旧时光 一九四三
在回忆 的路
\n",
" - 不分开
始爱像 不知不觉 你已经离开我 不知不觉 我跟了这节奏 后知后觉 又过了一个秋 后知后觉 我该好好
\n",
"epoch 120, perplexity 1.
147843, time 1.04
sec\n",
" - 分开
都靠我 你拿着球不投 又不会掩护我 选你这种队友 瞎透了我 说你说 分数怎么停留 所有回忆对着我进攻
\n",
" - 不分开
球我有多烦恼多 牧草有没有危险 一场梦 我面对我 甩开球我满腔的怒火 我想揍你已经很久 别想躲 说你
\n",
"epoch 160, perplexity 1.
018370, time 1.05
sec\n",
" - 分开
爱上你 那场悲剧 是你完美演出的一场戏 宁愿心碎哭泣 再狠狠忘记 你爱过我的证据 让晶莹的泪滴 闪烁
\n",
" - 不分开
始 担心今天的你过得好不好 整个画面是你 想你想的睡不著 嘴嘟嘟那可爱的模样 还有在你身上香香的味道
\n"
"epoch 40, perplexity 1.0
18485, time 0.79
sec\n",
" - 分开
的快乐是你 想你想的都会笑 没有你在 我有多难熬 没有你在我有多难熬多烦恼 没有你烦 我有多烦恼
\n",
" - 不分开
不 我不 我不要再想你 爱情来的太快就像龙卷风 离不开暴风圈来不及逃 我不能再想 我不能再想 我不
\n",
"epoch 80, perplexity 1.0
28805, time 0.7
4 sec\n",
" - 分开始想像 爸和妈当年的模样 说著一口吴侬软语的姑娘缓缓走过外滩 消失的 旧时光 一九四三
回头看 的片
\n",
" - 不分开
不 我不 我不 我不要再想你 爱情来的太快就像龙卷风 离不开暴风圈来不及逃 我不能再想 我不能再想
\n",
"epoch 120, perplexity 1.
012296, time 0.73
sec\n",
" - 分开
的话像语言暴力 我已无能为力再提起 决定中断熟悉 然后在这里 不限日期 然后将过去 慢慢温习 让我爱
\n",
" - 不分开
不 我不 我不能 爱情走的太快就像龙卷风 不能承受我已无处可躲 我不要再想 我不要再想 我不 我不
\n",
"epoch 160, perplexity 1.
184842, time 0.74
sec\n",
" - 分开
的快乐是你 想我想大声宣布 对你依依不舍 连隔壁邻居都猜到我现在的感受 河边的风 在吹着头发飘动 牵
\n",
" - 不分开
快使用双截棍 哼哼哈兮 如果我有轻功 飞檐走壁 为人耿直不屈 一身正气 他们儿子我习惯 从小就耳濡
\n"
]
}
],
...
...
@@ -225,7 +225,7 @@
],
"metadata": {
"kernelspec": {
"display_name": "Python
[default]
",
"display_name": "Python
3
",
"language": "python",
"name": "python3"
},
...
...
@@ -239,7 +239,7 @@
"name": "python",
"nbconvert_exporter": "python",
"pygments_lexer": "ipython3",
"version": "3.6.
3
"
"version": "3.6.
2
"
}
},
"nbformat": 4,
...
...
docs/chapter06_RNN/6.7_gru.md
浏览文件 @
73cddebb
...
...
@@ -132,7 +132,7 @@ def gru(inputs, state, params):
for
X
in
inputs
:
Z
=
torch
.
sigmoid
(
torch
.
matmul
(
X
,
W_xz
)
+
torch
.
matmul
(
H
,
W_hz
)
+
b_z
)
R
=
torch
.
sigmoid
(
torch
.
matmul
(
X
,
W_xr
)
+
torch
.
matmul
(
H
,
W_hr
)
+
b_r
)
H_tilda
=
torch
.
tanh
(
torch
.
matmul
(
X
,
W_xh
)
+
R
*
torch
.
matmul
(
H
,
W_hh
)
+
b_h
)
H_tilda
=
torch
.
tanh
(
torch
.
matmul
(
X
,
W_xh
)
+
torch
.
matmul
(
R
*
H
,
W_hh
)
+
b_h
)
H
=
Z
*
H
+
(
1
-
Z
)
*
H_tilda
Y
=
torch
.
matmul
(
H
,
W_hq
)
+
b_q
outputs
.
append
(
Y
)
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录