**轮到你来**:很多单词,如 ski 和 race,可以用作名词或动词而发音没有区别。你能想出其他的吗?提示:想想一个常见的东西,尝试把词 to 放到它前面,看它是否也是一个动词;或者想想一个动作,尝试把 the 放在它前面,看它是否也是一个名词。现在用这个词的两种用途造句,在这句话上运行词性标注器。
@@ -61,9 +61,9 @@ a his this their its her an that our any all one these my in your no
someotherand
```
可以观察到,搜索 woman 找到名词;搜索 bought 找到的大部分是动词;搜索 over 一般会找到介词;搜索 the 找到几个限定词。一个标注器能够正确识别一个句子的上下文中的这些词的标记,例如 The woman bought over $150,000 worth of clothes。
可以观察到,搜索`woman`找到名词;搜索`bought`找到的大部分是动词;搜索`over`一般会找到介词;搜索`the`找到几个限定词。一个标注器能够正确识别一个句子的上下文中的这些词的标记,例如`The woman bought over $150,000 worth of clothes`。
一个标注器还可以为我们对未知词的认识建模,例如我们可以根据词根 scrobble 猜测 scrobbling 可能是一个动词,并有可能发生在 he was scrobbling 这样的上下文中。
一个标注器还可以为我们对未知词的认识建模,例如我们可以根据词根`scrobble`猜测`scrobbling`可能是一个动词,并有可能发生在`he was scrobbling`这样的上下文中。
另外两个重要的词类是形容词和副词。形容词修饰名词,可以作为修饰语(如 the large pizza 中的 large),或者谓语(如 the pizza is large)。英语形容词可以有内部结构(如 the falling stocks 中的 fall+ing)。副词修饰动词,指定动词描述的事件的时间、方式、地点或方向(如 the stocks fell quickly 中的 quickly)。副词也可以修饰的形容词(如 Mary's teacher was really nice 中的 really)。
另外两个重要的词类是形容词和副词。形容词修饰名词,可以作为修饰语(如`the large pizza`中的`large`),或者谓语(如`the pizza is large`)。英语形容词可以有内部结构(如`the falling stocks`中的`fall+ing`)。副词修饰动词,指定动词描述的事件的时间、方式、地点或方向(如`the stocks fell quickly`中的`quickly`)。副词也可以修饰的形容词(如`Mary's teacher was really nice`中的`really`)。
一元标注器基于一个简单的统计算法:对每个标识符分配这个独特的标识符最有可能的标记。例如,它将分配标记`JJ`给词 frequent 的所有出现,因为 frequent 用作一个形容词(例如 a frequent word)比用作一个动词(例如 I frequent this cafe)更常见。一个一元标注器的行为就像一个查找标注器(4),除了有一个更方便的建立它的技术,称为训练。在下面的代码例子中,我们训练一个一元标注器,用它来标注一个句子,然后评估:
一元标注器基于一个简单的统计算法:对每个标识符分配这个独特的标识符最有可能的标记。例如,它将分配标记`JJ`给词 frequent 的所有出现,因为 frequent 用作一个形容词(例如 a frequent word)比用作一个动词(例如 I frequent this cafe)更常见。一个一元标注器的行为就像一个查找标注器`(4)`,除了有一个更方便的建立它的技术,称为训练。在下面的代码例子中,我们训练一个一元标注器,用它来标注一个句子,然后评估:
模式识别是自然语言处理的一个核心部分。以-ed 结尾的词往往是过去时态动词([5.](./ch05.html#chap-tag))。频繁使用 will 是新闻文本的暗示(3)。这些可观察到的模式——词的结构和词频——恰好与特定方面的含义关联,如时态和主题。但我们怎么知道从哪里开始寻找,形式的哪一方面关联含义的哪一方面?
模式识别是自然语言处理的一个核心部分。以-ed 结尾的词往往是过去时态动词([5.](./ch05.html#chap-tag))。频繁使用 will 是新闻文本的暗示`(3)`。这些可观察到的模式——词的结构和词频——恰好与特定方面的含义关联,如时态和主题。但我们怎么知道从哪里开始寻找,形式的哪一方面关联含义的哪一方面?