Skip to content

  • 体验新版
    • 正在加载...
  • 登录
  • PaddlePaddle
  • ERNIE
  • Issue
  • #189

E
ERNIE
  • 项目概览

PaddlePaddle / ERNIE
大约 2 年 前同步成功

通知 115
Star 5997
Fork 1271
  • 代码
    • 文件
    • 提交
    • 分支
    • Tags
    • 贡献者
    • 分支图
    • Diff
  • Issue 29
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 0
  • Wiki 0
    • Wiki
  • 分析
    • 仓库
    • DevOps
  • 项目成员
  • Pages
E
ERNIE
  • 项目概览
    • 项目概览
    • 详情
    • 发布
  • 仓库
    • 仓库
    • 文件
    • 提交
    • 分支
    • 标签
    • 贡献者
    • 分支图
    • 比较
  • Issue 29
    • Issue 29
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 0
    • 合并请求 0
  • Pages
  • 分析
    • 分析
    • 仓库分析
    • DevOps
  • Wiki 0
    • Wiki
  • 成员
    • 成员
  • 收起侧边栏
  • 动态
  • 分支图
  • 创建新Issue
  • 提交
  • Issue看板
已关闭
开放中
Opened 7月 03, 2019 by saxon_zh@saxon_zhGuest

模型返回的token embedding除了[CLS]还有什么?

Created by: bb9696aa

在使用输入句子经过 ERNIE 编码后的 Embedding 表示 的功能时,在ChnSentiCorp数据集中,我分别打印了test.tsv中每句话的token embedding(即ernie_encoder.py中的unpad_top_layer_emb)的shape,以及使用tokenization.py中FullTokenizer加载./config/vocab.txt后对每句话进行分词的结果,发现模型返回的token embedding的长度全部都比使用FullTokenizer进行分词后的长度多出2个token。

理论上来说,模型返回的token embedding中第一维对应的embedding应该是[CLS]的token embedding,这是每句话相较原句分词结果多出来的其中一个token,那多出来的另一个token是什么?它在模型返回的token embedding中位于哪个位置?

还是说我的分词方法有问题,不该用FullTokenizer加载./config/vocab.txt来分词?(但是数了一下纯中文的句子的字数,确实全都要比模型返回的token embedding少2个token)

希望解答一下我的疑惑,谢谢!

指派人
分配到
无
里程碑
无
分配里程碑
工时统计
无
截止日期
无
标识: paddlepaddle/ERNIE#189
渝ICP备2023009037号

京公网安备11010502055752号

网络110报警服务 Powered by GitLab CE v13.7
开源知识
Git 入门 Pro Git 电子书 在线学 Git
Markdown 基础入门 IT 技术知识开源图谱
帮助
使用手册 反馈建议 博客
《GitCode 隐私声明》 《GitCode 服务条款》 关于GitCode
Powered by GitLab CE v13.7