diff --git a/chapter_natural-language-processing/glove-fasttext.md b/chapter_natural-language-processing/glove-fasttext.md index 4ce9fa2f960e5080a6b8add3528eab4dc4b0cb76..8b9bc81da5a97243efde7c2088888ff8ca7cde87 100644 --- a/chapter_natural-language-processing/glove-fasttext.md +++ b/chapter_natural-language-processing/glove-fasttext.md @@ -111,7 +111,8 @@ $$ - \text{log} \mathbb{P} (w_o \mid w_c) = -\text{log} \frac{1}{1+\text{exp}(-\ fastText对于一些语言较重要,例如阿拉伯语、德语和俄语。例如,德语中有很多复合词,例如乒乓球(英文table tennis)在德语中叫“Tischtennis”。fastText可以通过子词表达两个词的相关性,例如“Tischtennis”和“Tennis”。 -由于词是自然语言的基本表义单元,词向量广泛应用于各类自然语言处理的场景中。我们将在接下来的两节的实验中应用词向量求近似词和类比词并对文本进行分类。 + +由于词是自然语言的基本表义单元,词向量广泛应用于各类自然语言处理的场景中。例如,我们可以在之前介绍的语言模型中使用在更大规模语料上预训练的词向量。我们将在接下来两节的实验中应用这些预训练的词向量,例如求近似词和类比词,以及文本分类。 diff --git a/chapter_natural-language-processing/index.md b/chapter_natural-language-processing/index.md index 75fed22fc51fd669d6fe2bf7b22faacbc52cfaf3..1cc1e963f37a5e133cf7b6534c29aaa8c5fddb57 100644 --- a/chapter_natural-language-processing/index.md +++ b/chapter_natural-language-processing/index.md @@ -1,9 +1,10 @@ # 自然语言处理 +自然语言处理关注计算机与人类自然语言的交互。在实际中,我们常常使用自然语言处理技术,例如“循环神经网络”一章中介绍的语言模型,来处理和分析大量的自然语言数据。 -自然语言处理关注计算机与人类自然语言的交互。在实际中,我们常常使用自然语言处理技术来处理和分析大量的自然语言数据。本章中,我们将先介绍如何用向量表示词,并应用这些词向量求近义词和类比词。接着,在文本分类任务中,我们进一步应用词向量分析文本情感。此外,自然语言处理任务中很多输出是不定长的,例如任意长度的句子。我们将描述应对这类问题的编码器—解码器模型以及注意力机制,并将它们应用于机器翻译中。 +本章中,我们将先介绍如何用向量表示词,并应用这些词向量求近义词和类比词。接着,在文本分类任务中,我们进一步应用词向量分析文本情感。此外,自然语言处理任务中很多输出是不定长的,例如任意长度的句子。我们将描述应对这类问题的编码器—解码器模型以及注意力机制,并将它们应用于机器翻译中。 -本章中介绍的自然语言处理技术大多是2013年后提出的,并有着广泛的应用。 +本章介绍的自然语言处理技术大多是2013年后提出的,并有着广泛的应用。 ```eval_rst