Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
PaddleHub
提交
07bf4e23
P
PaddleHub
项目概览
PaddlePaddle
/
PaddleHub
大约 1 年 前同步成功
通知
282
Star
12117
Fork
2091
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
200
列表
看板
标记
里程碑
合并请求
4
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleHub
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
200
Issue
200
列表
看板
标记
里程碑
合并请求
4
合并请求
4
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
07bf4e23
编写于
11月 20, 2019
作者:
K
kinghuin
提交者:
wuzewu
11月 22, 2019
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
debug ernie tiny reader
上级
bfbe27f8
变更
2
隐藏空白更改
内联
并排
Showing
2 changed file
with
5 addition
and
4 deletion
+5
-4
demo/text-classification/run_classifier.sh
demo/text-classification/run_classifier.sh
+2
-2
paddlehub/reader/tokenization.py
paddlehub/reader/tokenization.py
+3
-2
未找到文件。
demo/text-classification/run_classifier.sh
浏览文件 @
07bf4e23
...
@@ -13,8 +13,8 @@ python -u text_classifier.py \
...
@@ -13,8 +13,8 @@ python -u text_classifier.py \
--weight_decay
=
0.01
\
--weight_decay
=
0.01
\
--max_seq_len
=
128
\
--max_seq_len
=
128
\
--num_epoch
=
3
\
--num_epoch
=
3
\
--use_pyreader
=
Tru
e
\
--use_pyreader
=
Fals
e
\
--use_data_parallel
=
Tru
e
--use_data_parallel
=
Fals
e
# Recommending hyper parameters for difference task
# Recommending hyper parameters for difference task
# for ChineseGLUE:
# for ChineseGLUE:
...
...
paddlehub/reader/tokenization.py
浏览文件 @
07bf4e23
...
@@ -201,8 +201,9 @@ class WSSPTokenizer(object):
...
@@ -201,8 +201,9 @@ class WSSPTokenizer(object):
else
:
else
:
in_vocab
.
append
(
unk_token
)
in_vocab
.
append
(
unk_token
)
text
=
' '
.
join
(
in_vocab
)
text
=
' '
.
join
(
in_vocab
)
ret
=
self
.
sp_model
.
EncodeAsPieces
(
text
)
tokens
=
self
.
sp_model
.
EncodeAsPieces
(
text
)
return
ret
print
(
tokens
)
return
tokens
def
convert_tokens_to_ids
(
self
,
tokens
):
def
convert_tokens_to_ids
(
self
,
tokens
):
return
convert_by_vocab
(
self
.
vocab
,
tokens
)
return
convert_by_vocab
(
self
.
vocab
,
tokens
)
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录