Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
PALM
提交
5d115756
P
PALM
项目概览
PaddlePaddle
/
PALM
通知
5
Star
3
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
10
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PALM
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
10
Issue
10
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
5d115756
编写于
11月 04, 2019
作者:
X
Xiaoyao Xi
提交者:
GitHub
11月 04, 2019
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Update README.md
上级
ba4a4c71
变更
1
显示空白变更内容
内联
并排
Showing
1 changed file
with
6 addition
and
4 deletion
+6
-4
README.md
README.md
+6
-4
未找到文件。
README.md
浏览文件 @
5d115756
...
@@ -137,9 +137,9 @@ vocab_path: "pretrain_model/bert/vocab.txt"
...
@@ -137,9 +137,9 @@ vocab_path: "pretrain_model/bert/vocab.txt"
更详细的任务实例配置方法(为任务实例选择合适的reader、paradigm和backbone)可参考
[
这里
](
#readerbackbone与paradigm的选择
)
更详细的任务实例配置方法(为任务实例选择合适的reader、paradigm和backbone)可参考
[
这里
](
#readerbackbone与paradigm的选择
)
**2.配置backbone和
其他全局参数
**
**2.配置backbone和
训练规则
**
然后我们
配置全局的学习规则,同样使用yaml格式描述,我们新建
`mtl_conf.yaml`
。在这里我们配置一下需要学习的任务、模型的保存路径
`save_path`
和规则、使用的模型骨架
`backbone`
、学习
器
`optimizer`
等。
然后我们
编写全局配置文件
`config_demo1.yaml`
。在这里可以完成对主干网络(backbone)、多任务学习规则以及
[
广播到任务实例
](
#配置广播机制
)
的配置。同样使用yaml格式描述,例如在这里我们可以配置一下需要学习的任务
`task_instance`
、模型的保存路径
`save_path`
、基于的主干网络
`backbone`
、优化
器
`optimizer`
等。
```
yaml
```
yaml
task_instance
:
"
mrqa"
task_instance
:
"
mrqa"
...
@@ -157,13 +157,15 @@ num_epochs: 2
...
@@ -157,13 +157,15 @@ num_epochs: 2
warmup_proportion
:
0.1
warmup_proportion
:
0.1
```
```
其中,backbone的相关配置
这里的task_instance即填写我们刚刚编写的任务实例配置文件的文件名
`mrqa`
**(注意不要包括.yaml后缀!)**
。框架启动多任务学习后会根据
`task_instance`
中指定的任务实例来寻找相关配置文件,并创建任务实例。
此外,backbone的相关配置除了可以直接写入全局配置文件以外,还可以在额外的一个json文件中进行描述,并在全局配置文件中通过
`backbone_config_path`
进行该配置文件路径的指定。
*注:框架支持的其他内置全局参数见[这里]()*
*注:框架支持的其他内置全局参数见[这里]()*
**3.开始训练**
**3.开始训练**
下面我们开始尝试启动MRQA任务的训练(该代码位于
`demo1.py`
中)。
框架的核心组件是
`Controller`
,
下面我们开始尝试启动MRQA任务的训练(该代码位于
`demo1.py`
中)。
如
[
框架原理
](
#框架原理
)
所述,框架的核心组件是
`Controller`
,负责多任务学习的启动。
```
python
```
python
# Demo 1: single task training of MRQA
# Demo 1: single task training of MRQA
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录