Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
ERNIE
提交
6843e467
E
ERNIE
项目概览
PaddlePaddle
/
ERNIE
大约 1 年 前同步成功
通知
109
Star
5997
Fork
1270
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
29
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
E
ERNIE
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
29
Issue
29
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
6843e467
编写于
6月 24, 2019
作者:
xujinanne
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
modify elmo README.md
上级
0ed92b2d
变更
1
显示空白变更内容
内联
并排
Showing
1 changed file
with
5 addition
and
2 deletion
+5
-2
ELMo/README.md
ELMo/README.md
+5
-2
未找到文件。
ELMo/README.md
浏览文件 @
6843e467
...
@@ -30,6 +30,7 @@ ELMo(Embeddings from Language Models) 是重要的通用语义表示模型之一
...
@@ -30,6 +30,7 @@ ELMo(Embeddings from Language Models) 是重要的通用语义表示模型之一
### 安装
### 安装
本项目依赖于 Paddle Fluid
**1.4.0**
,请参考
[
安装指南
](
http://www.paddlepaddle.org/#quick-start
)
进行安装。
本项目依赖于 Paddle Fluid
**1.4.0**
,请参考
[
安装指南
](
http://www.paddlepaddle.org/#quick-start
)
进行安装。
其他安装依赖:python2.7
提示:使用Windows GPU环境的用户,需要将示例代码中的
[
fluid.ParallelExecutor
](
http://paddlepaddle.org/documentation/docs/zh/1.4/api_cn/fluid_cn.html#parallelexecutor
)
替换为
[
fluid.Executor
](
http://paddlepaddle.org/documentation/docs/zh/1.4/api_cn/fluid_cn.html#executor
)
。
提示:使用Windows GPU环境的用户,需要将示例代码中的
[
fluid.ParallelExecutor
](
http://paddlepaddle.org/documentation/docs/zh/1.4/api_cn/fluid_cn.html#parallelexecutor
)
替换为
[
fluid.Executor
](
http://paddlepaddle.org/documentation/docs/zh/1.4/api_cn/fluid_cn.html#executor
)
。
...
@@ -70,14 +71,16 @@ init_pretraining_params(exe, args.pretrain_elmo_model_path,
...
@@ -70,14 +71,16 @@ init_pretraining_params(exe, args.pretrain_elmo_model_path,
fluid.default_main_program())
fluid.default_main_program())
```
```
2) 基于
[
ELMo 字典
](
data/vocabulary_min5k.txt
)
将输入数据转化为 word_ids,利用 elmo_encoder 接口获取 ELMo embedding
2) 基于
[
ELMo 字典
](
data/vocabulary_min5k.txt
)
将输入数据转化为 word_ids
3)利用 elmo_encoder 接口获取 ELMo embedding
```
```
from bilm import elmo_encoder
from bilm import elmo_encoder
elmo_embedding = elmo_encoder(word_ids)
elmo_embedding = elmo_encoder(word_ids)
```
```
3
) ELMo embedding 与 LAC 原有 word_embedding 拼接得到最终的 embedding
4
) ELMo embedding 与 LAC 原有 word_embedding 拼接得到最终的 embedding
```
```
word_embedding=fluid.layers.concat(input=[elmo_embedding, word_embedding], axis=1)
word_embedding=fluid.layers.concat(input=[elmo_embedding, word_embedding], axis=1)
```
```
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录