Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
Oneflow-Inc
OneFlow-Benchmark
提交
539750e3
O
OneFlow-Benchmark
项目概览
Oneflow-Inc
/
OneFlow-Benchmark
上一次同步 接近 3 年
通知
1
Star
92
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
DevOps
流水线
流水线任务
计划
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
O
OneFlow-Benchmark
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
DevOps
DevOps
流水线
流水线任务
计划
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
流水线任务
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
提交
539750e3
编写于
10月 07, 2020
作者:
S
ShawnXuan
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
bert reduce_mean on fp32
上级
0e816bb5
变更
2
隐藏空白更改
内联
并排
Showing
2 changed file
with
5 addition
and
0 deletion
+5
-0
LanguageModeling/BERT/pretrain.py
LanguageModeling/BERT/pretrain.py
+4
-0
LanguageModeling/BERT/run_pretraining.py
LanguageModeling/BERT/run_pretraining.py
+1
-0
未找到文件。
LanguageModeling/BERT/pretrain.py
浏览文件 @
539750e3
...
...
@@ -39,6 +39,7 @@ def PreTrain(
type_vocab_size
=
16
,
max_predictions_per_seq
=
20
,
initializer_range
=
0.02
,
use_fp16
=
False
,
):
backbone
=
bert_util
.
BertBackbone
(
input_ids_blob
=
input_ids_blob
,
...
...
@@ -81,6 +82,9 @@ def PreTrain(
initializer_range
=
initializer_range
,
)
with
flow
.
scope
.
namespace
(
"cls-loss"
):
if
use_fp16
:
lm_loss
=
flow
.
reduce_mean
(
lm_loss
)
ns_loss
=
flow
.
reduce_mean
(
ns_loss
)
total_loss
=
lm_loss
+
ns_loss
return
total_loss
,
lm_loss
,
ns_loss
...
...
LanguageModeling/BERT/run_pretraining.py
浏览文件 @
539750e3
...
...
@@ -89,6 +89,7 @@ def PretrainJob():
type_vocab_size
=
args
.
type_vocab_size
,
max_predictions_per_seq
=
args
.
max_predictions_per_seq
,
initializer_range
=
0.02
,
use_fp16
=
args
.
use_fp16
,
)
opt
=
CreateOptimizer
(
args
)
opt
.
minimize
(
total_loss
)
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录