embedding_layer层产出的词向量的两个问题
Created by: xhzhang1212
- embedding_layer层产出的词向量是根据词语的语意距离产出还是id距离产出 问题如上。在http://www.paddlepaddle.org/doc_cn中搜索embedding_layer看到这样一句话:
利用单词Id查找该单词对应的连续向量(维度为word_dim), 输入N个单词,输出为N个word_dim维度向量 emb = embedding_layer(input=word, size=word_dim)
这是说,embedding_layer的向量只是根据id产出的连续向量而非能表示语意距离的向量?
- 我将embedding_layer设计为我的netword中的一层,那么在整个模型的迭代过程中,这个embedding层的产出是否也是会随着迭代而变化?