Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
OpenDocCN
stanford-cs234-notes-zh
提交
37e345b0
S
stanford-cs234-notes-zh
项目概览
OpenDocCN
/
stanford-cs234-notes-zh
通知
8
Star
0
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
S
stanford-cs234-notes-zh
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
提交
37e345b0
编写于
9月 14, 2019
作者:
X
xiaowei_xing
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
test
上级
597c4b1a
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
31 addition
and
1 deletion
+31
-1
docs/8&9.md
docs/8&9.md
+31
-1
未找到文件。
docs/8&9.md
浏览文件 @
37e345b0
...
...
@@ -206,5 +206,35 @@ $$
$$
$$
\s
um_{t=0}^{T-1}
\u
nderbrace{
\n
abla_{
\t
heta}
\l
og
\p
i_{
\t
heta}(a_t|s_t)}_{
\t
ext{no dynamics model required!}}。
=
\s
um_{t=0}^{T-1}
\u
nderbrace{
\n
abla_{
\t
heta}
\l
og
\p
i_{
\t
heta}(a_t|s_t)}_{
\t
ext{no dynamics model required!}}。
\t
ag{10}
$$
处理 $
\l
og P(
\t
au^{(i)};
\t
heta)$ 而不是 $P(
\t
au^{(i)};
\t
heta)$ 使得我们可以在不参考初始状态,甚至不参考环境动态模型的情况下表示梯度!
将式(7)和式(10)结合,我们得到:
$$
\n
abla_{
\t
heta}V(
\t
heta)
\a
pprox
\h
at{g} =
\f
rac{1}{m}
\s
um_{i=1}^{m}R(
\t
au^{(i)})
\s
um_{t=0}^{T-1}
\n
abla_{
\t
heta}
\l
og
\p
i_{
\t
heta}(a_t^{(i)}|s_t^{(i)}),
$$
我们可以将其转化为优化 $
\p
i_{
\t
heta}$ 的具体算法(第 5 部分)。在这之前,我们要提及这个结果的广义版本,并讨论利用将 $R(
\t
au^(i))$ 分解为奖励项 $r_t^{(i)}$ 之和来优化上述推导(4.3 节)。
## 4.2 策略梯度定理(The Policy Gradient Theorem)
**定理 4.1**
对于所有的可导策略 $
\p
i_{
\t
heta}(a|s)$ 和所有的策略目标函数 $V(
\t
heta)=J_1$,$J_{avR}$ 或 $
\f
rac{1}{1-
\g
amma}J_{avV}$,策略梯度为:
$$
\n
abla_{
\t
heta}V(
\t
heta)=
\m
athbb{E}_ {
\p
i_{
\t
heta}}[Q^{
\p
i_{
\t
heta}}(s,a)
\n
abla_{
\t
heta}
\l
og
\p
i_{
\t
heta}(a|s)]。
$$
我们不详细讨论这个更一般的定理的推导,但本课程中讨论的相同的概念同样适用于非片段式(连续)的环境。到目前为止,我们用片段的总奖励 $R(
\t
au)$ 代替了这个定理中的 Q 值,但在后面的内容中,我们将使用时间结构来把我们的结果转化为更像这个定理的形式,其中未来的回报 $G_t$(即 $Q(s,a)$ 的无偏估计)将取代 $Q^{
\p
i_{
\t
heta}}(s,a)$。
## 4.3 用奖励的时间形式求策略梯度(Using Temporal Structure of Rewards for the Policy Gradient)
式(6)可被表示为:
$$
\n
abla_{
\t
heta}V(
\t
heta)=
\n
abla_{
\t
heta}
\m
athbb{E}_ {
\t
au
\s
im
\p
i_{
\t
heta}}[R(
\t
au)
\s
um_{t=0}^{T-1}
\n
abla_{
\t
heta}
\l
og
\p
i_{
\t
heta}(a_t|s_t)]。
\t
ag{11}
$$
\ No newline at end of file
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录