Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
OpenDocCN
stanford-cs234-notes-zh
提交
5dd190af
S
stanford-cs234-notes-zh
项目概览
OpenDocCN
/
stanford-cs234-notes-zh
通知
8
Star
0
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
S
stanford-cs234-notes-zh
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
提交
5dd190af
编写于
11月 25, 2019
作者:
X
xiaowei_xing
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
test
上级
88edb9c5
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
17 addition
and
1 deletion
+17
-1
docs/10.md
docs/10.md
+17
-1
未找到文件。
docs/10.md
浏览文件 @
5dd190af
...
...
@@ -257,4 +257,20 @@ $$
=
\m
athbb{E}_ {
\t
au
\s
im
\p
i_{
\t
heta}(
\t
au)} [
\s
um_{t=1}^{T}(
\n
abla_{
\t
heta'}(
\l
og
\p
i_{
\t
heta'}(a_t|s_t)) (
\p
rod_{t'=1}^{t}
\f
rac{
\p
i_{
\t
heta'}(a_{t'}|s_{t'})}{
\p
i_{
\t
heta}(a_{t'}|s_{t'})}) (
\s
um_{t'=t}^{T}
\g
amma^{t'}r(s_{t'},a_{t'})))]。
$$
最后一个等式中,我们应用了因果关系,前 $k$ 次状态转移只依赖于前 $k$ 个动作而不依赖于将来的动作。
\ No newline at end of file
最后一个等式中,我们应用了因果关系,前 $k$ 次状态转移只依赖于前 $k$ 个动作而不依赖于将来的动作。
## 4. 相对策略表现恒等式(Relative Policy Performance Identity)
根据目标 $J(
\t
heta)$ 相对于参数 $
\t
heta$ 的梯度直接采取梯度步骤的一个问题是,在参数空间中移动与在策略空间中移动是不同的。这导致了步长的选择问题,小的步长使得学习较为缓慢,而大的步长可能导致策略变差。
在监督学习的情况下,这通常没关系,因为以下更新一般会解决这个问题。然而,在强化学习中,坏的策略将导致在坏的策略下收集下一批数据。因此,执行坏的策略可能会引起无法恢复的性能崩溃。在梯度方向上执行简单的线搜索可能缓解此问题,例如,我们可以为每次更新尝试多个学习率,并选择表现最佳的学习率。然而,这样做属实有点简单,并且在一阶近似(梯度)不好的时候会导致收敛很慢。
下一节将讨论的信任区域策略优化(Trust Region Policy Optimization)算法尝试去解决这个问题。在此之前,我们首先推导一个关于相对策略表现 $J(
\p
i')-J(
\p
i)$ 的恒等式,这里我们使用如下符号:$J(
\p
i')=J(
\t
heta')$,$J(
\p
i)=J(
\t
heta)$,$
\p
i'=
\p
i_{
\t
heta'}$ 与 $
\p
i=
\p
i_{
\t
heta}$。
**引理 4.1**
$$
J(
\p
i')-J(
\p
i) =
\m
athbb{E}_ {
\t
au
\s
im
\p
i'}[
\s
um_{t=0}^{
\i
nf}
\g
amma^{t} A^{
\p
i}(s_t,a_t)]。
$$
证明:
\ No newline at end of file
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录