Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
OpenDocCN
nlp-py-2e-zh
提交
bc8f3bc7
N
nlp-py-2e-zh
项目概览
OpenDocCN
/
nlp-py-2e-zh
10 个月 前同步成功
通知
2
Star
69
Fork
24
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
N
nlp-py-2e-zh
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
前往新版Gitcode,体验更适合开发者的 AI 搜索 >>
提交
bc8f3bc7
编写于
12月 29, 2020
作者:
W
wizardforcel
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
2020-12-29 18:29:11
上级
4ba2e36e
变更
6
隐藏空白更改
内联
并排
Showing
6 changed file
with
14 addition
and
14 deletion
+14
-14
docs/1.md
docs/1.md
+2
-2
docs/2.md
docs/2.md
+1
-1
docs/3.md
docs/3.md
+3
-3
docs/5.md
docs/5.md
+1
-1
docs/6.md
docs/6.md
+3
-3
docs/7.md
docs/7.md
+4
-4
未找到文件。
docs/1.md
浏览文件 @
bc8f3bc7
...
...
@@ -489,7 +489,7 @@ IndexError: list index out of range
注意
请注意,在前面的例子中,我们将
`my_sent`
的定义分成两行。Python 表达式可以被分割成多行,只要它出现在任何一种括号内。Python 使用
"
`...`
"
提示符表示期望更多的输入。在这些连续的行中有多少缩进都没有关系,只是加入缩进通常会便于阅读。
请注意,在前面的例子中,我们将
`my_sent`
的定义分成两行。Python 表达式可以被分割成多行,只要它出现在任何一种括号内。Python 使用
`...`
提示符表示期望更多的输入。在这些连续的行中有多少缩进都没有关系,只是加入缩进通常会便于阅读。
最好是选择有意义的变量名,它能提醒你代码的含义,也帮助别人读懂你的 Python 代码。Python 并不会理解这些名称的意义;它只是盲目的服从你的指令,如果你输入一些令人困惑的代码,例如
`one = 'two'`
或
`two = 3`
,它也不会反对。唯一的限制是变量名不能是 Python 的保留字,如
`def`
,
`if`
,
`not`
, 和
`import`
。如果你使用了保留字,Python 会产生一个语法错误:
...
...
@@ -514,7 +514,7 @@ SyntaxError: invalid syntax
小心!
为 Python 变量选择名称(标识符)时请注意。首先,应该以字母开始,后面跟数字(
`0`
到
`9`
)或字母。因此,
`abc23`
是好的,但是
`23abc`
会导致一个语法错误。名称是大小写敏感的,这意味着
`myVar`
和
`myvar`
是不同的变量。变量名不能包含空格,但可以用下划线把单词分开,例如
`my_var`
。注意不要插入连字符来代替下划线:
`my-var`
不对,因为 Python 会把
"
`-`
"
解释为减号。
为 Python 变量选择名称(标识符)时请注意。首先,应该以字母开始,后面跟数字(
`0`
到
`9`
)或字母。因此,
`abc23`
是好的,但是
`23abc`
会导致一个语法错误。名称是大小写敏感的,这意味着
`myVar`
和
`myvar`
是不同的变量。变量名不能包含空格,但可以用下划线把单词分开,例如
`my_var`
。注意不要插入连字符来代替下划线:
`my-var`
不对,因为 Python 会把
`-`
解释为减号。
## 2.4 字符串
...
...
docs/2.md
浏览文件 @
bc8f3bc7
...
...
@@ -499,7 +499,7 @@ German_Deutsch 0 171 263 614 717 894 1013 1110 1213 1275
## 2.4 使用双连词生成随机文本
我们可以使用条件频率分布创建一个双连词表(词对)。(我们在 3 中介绍过。)
`bigrams()`
函数接受一个单词列表,并建立一个连续的词对列表。记住,为了能看到结果而不是神秘的
"生成器对象"
,我们需要使用
`list()`
函数:
我们可以使用条件频率分布创建一个双连词表(词对)。(我们在 3 中介绍过。)
`bigrams()`
函数接受一个单词列表,并建立一个连续的词对列表。记住,为了能看到结果而不是神秘的
“生成器对象”
,我们需要使用
`list()`
函数:
```
py
>>>
sent
=
[
'In'
,
'the'
,
'beginning'
,
'God'
,
'created'
,
'the'
,
'heaven'
,
...
...
docs/3.md
浏览文件 @
bc8f3bc7
...
...
@@ -599,7 +599,7 @@ Jagiellońskiej w Krakowie, obejmują ponad 500 tys. zabytkowych
archiwaliów
,
m
.
in
.
manuskrypty
Goethego
,
Mozarta
,
Beethovena
,
Bacha
.
```
如果这不能在你的终端正确显示,或者我们想要看到字符的底层数值(或
"代码点"
),那么我们可以将所有的非 ASCII 字符转换成它们两位数
`\x*XX*`
和四位数
`\u*XXXX*`
表示法:
如果这不能在你的终端正确显示,或者我们想要看到字符的底层数值(或
“代码点”
),那么我们可以将所有的非 ASCII 字符转换成它们两位数
`\x*XX*`
和四位数
`\u*XXXX*`
表示法:
```
py
>>>
f
=
open
(
path
,
encoding
=
'latin2'
)
...
...
@@ -666,7 +666,7 @@ b'\xc5\x82' U+0142 LATIN SMALL LETTER L WITH STROKE
另外,根据你的系统的具体情况,你可能需要用
`'latin2'`
替换示例中的编码
`'utf8'`
。
下一个例子展示 Python 字符串函数和
`re`
模块是如何能够与 Unicode 字符一起工作的。(我们会在下面一节中仔细看看
`re`
模块。
`\w`
匹配一个
"单词字符"
,参见 3.4)。
下一个例子展示 Python 字符串函数和
`re`
模块是如何能够与 Unicode 字符一起工作的。(我们会在下面一节中仔细看看
`re`
模块。
`\w`
匹配一个
“单词字符”
,参见 3.4)。
```
py
>>>
line
.
find
(
'zosta
\u0142
y'
)
...
...
@@ -1118,7 +1118,7 @@ WordNet 词形归并器只在产生的词在它的词典中时才删除词缀。
注意
**要点**
:记住在正则表达式前加字母
`r`
(表示
"原始的"
),它告诉 Python 解释器按照字面表示对待字符串,而不去处理正则表达式中包含的反斜杠字符。
**要点**
:记住在正则表达式前加字母
`r`
(表示
“原始的”
),它告诉 Python 解释器按照字面表示对待字符串,而不去处理正则表达式中包含的反斜杠字符。
在空格符处分割文本给我们如
`'(not'`
和
`'herself,'`
这样的词符。另一种方法是使用 Python 提供给我们的字符类
`\w`
匹配词中的字符,相当于
`[a-zA-Z0-9_]`
。它还定义了这个类的补集
`\W`
,即所有字母、数字和下划线以外的字符。我们可以在一个简单的正则表达式中用
`\W`
来分割所有单词字符
*以外*
的输入:
...
...
docs/5.md
浏览文件 @
bc8f3bc7
...
...
@@ -1213,6 +1213,6 @@ Statement User121 18/m pm me if u tryin to chat
## 关于本文档...
UPDATED FOR NLTK 3.0
\.
本章来自于《Python 自然语言处理》,
[
Steven Bird
](
http://estive.net/
)
,
[
Ewan Klein
](
http://homepages.inf.ed.ac.uk/ewan/
)
和
[
Edward Loper
](
http://ed.loper.org/
)
,Copyright © 2014 作者所有。本章依据
[
*Creative Commons Attribution-Noncommercial-No Derivative Works 3\.0 United States License*
](
http://creativecommons.org/licenses/by-nc-nd/3.0/us/
)
条款,与
[
*自然语言工具包*
](
http://nltk.org/
)
3.0 版一起发行。
针对 NLTK 3.0 作出更新。
本章来自于《Python 自然语言处理》,
[
Steven Bird
](
http://estive.net/
)
,
[
Ewan Klein
](
http://homepages.inf.ed.ac.uk/ewan/
)
和
[
Edward Loper
](
http://ed.loper.org/
)
,Copyright © 2014 作者所有。本章依据
[
*Creative Commons Attribution-Noncommercial-No Derivative Works 3\.0 United States License*
](
http://creativecommons.org/licenses/by-nc-nd/3.0/us/
)
条款,与
[
*自然语言工具包*
](
http://nltk.org/
)
3.0 版一起发行。
本文档构建于星期三 2015 年 7 月 1 日 12:30:05 AEST
\ No newline at end of file
docs/6.md
浏览文件 @
bc8f3bc7
...
...
@@ -345,7 +345,7 @@ def pos_features(sentence, i): ❶
return
features
```
很显然,利用上下文特征提高了我们的词性标注器的准确性。例如,分类器学到一个词如果紧跟在词
"large"或"gubernatorial"
后面,极可能是名词。然而,它无法学到,一个词如果它跟在形容词后面可能是名词,这样更一般的,因为它没有获得前面这个词的词性标记。在一般情况下,简单的分类器总是将每一个输入与所有其他输入独立对待。在许多情况下,这非常有道理。例如,关于名字是否倾向于男性或女性的决定可以通过具体分析来做出。然而,有很多情况,如词性标注,我们感兴趣的是解决彼此密切相关的分类问题。
很显然,利用上下文特征提高了我们的词性标注器的准确性。例如,分类器学到一个词如果紧跟在词
`large`
或
`gubernatorial`
后面,极可能是名词。然而,它无法学到,一个词如果它跟在形容词后面可能是名词,这样更一般的,因为它没有获得前面这个词的词性标记。在一般情况下,简单的分类器总是将每一个输入与所有其他输入独立对待。在许多情况下,这非常有道理。例如,关于名字是否倾向于男性或女性的决定可以通过具体分析来做出。然而,有很多情况,如词性标注,我们感兴趣的是解决彼此密切相关的分类问题。
## 1.6 序列分类
...
...
@@ -677,7 +677,7 @@ NNS | 1.5% . . . . <3.2%> . . 0.0% |
一旦我们有了一个决策树,就可以直接用它来分配标签给新的输入值。不那么直接的是我们如何能够建立一个模拟给定的训练集的决策树。但在此之前,我们看一下建立决策树的学习算法,思考一个简单的任务:为语料库选择最好的“决策树桩”。决策树桩是只有一个节点的决策树,基于一个特征决定如何为输入分类。每个可能的特征值一个叶子,为特征有那个值的输入指定类标签。要建立决策树桩,我们首先必须决定哪些特征应该使用。最简单的方法是为每个可能的特征建立一个决策树桩,看哪一个在训练数据上得到最高的准确度,也有其他的替代方案,我们将在下面讨论。一旦我们选择了一个特征,就可以通过分配一个标签给每个叶子,基于在训练集中所选的例子的最频繁的标签,建立决策树桩(即选择特征具有那个值的例子)。
给出了选择决策树桩的算法,生长出较大的决策树的算法就很简单了。首先,我们选择分类任务的整体最佳的决策树桩。然后,我们在训练集上检查每个叶子的准确度。没有达到足够的准确度的叶片被新的决策树桩替换,新决策树桩是在根据到叶子的路径选择的训练语料的子集上训练的。例如,我们可以使 4.1 中的决策树生长,通过替换最左边的叶子为新的决策树桩,这个新的决策树桩是在名字不以
"k"开始或以一个元音或"l"
结尾的训练集的子集上训练的。
给出了选择决策树桩的算法,生长出较大的决策树的算法就很简单了。首先,我们选择分类任务的整体最佳的决策树桩。然后,我们在训练集上检查每个叶子的准确度。没有达到足够的准确度的叶片被新的决策树桩替换,新决策树桩是在根据到叶子的路径选择的训练语料的子集上训练的。例如,我们可以使 4.1 中的决策树生长,通过替换最左边的叶子为新的决策树桩,这个新的决策树桩是在名字不以
`k`
开始或以一个元音或
`l`
结尾的训练集的子集上训练的。
## 4.1 熵和信息增益
...
...
@@ -713,7 +713,7 @@ def entropy(labels):
![
Images/naive-bayes-triangle.png
](
Images/fff90c564d2625f739b442b23301906e.jpg
)
图 5.1:使用朴素贝叶斯分类器为文档选择主题的程序的抽象图解。在训练语料中,大多数文档是有关汽车的,所以分类器从接近“汽车”的标签的点上开始。但它会考虑每个特征的影响。在这个例子中,输入文档中包含的词
"dark",它是谋杀之谜的一个不太强的指标,也包含词"football"
,它是体育文档的一个有力指标。每个特征都作出了贡献之后,分类器检查哪个标签最接近,并将该标签分配给输入。
图 5.1:使用朴素贝叶斯分类器为文档选择主题的程序的抽象图解。在训练语料中,大多数文档是有关汽车的,所以分类器从接近“汽车”的标签的点上开始。但它会考虑每个特征的影响。在这个例子中,输入文档中包含的词
`dark`
,它是谋杀之谜的一个不太强的指标,也包含词
`football`
,它是体育文档的一个有力指标。每个特征都作出了贡献之后,分类器检查哪个标签最接近,并将该标签分配给输入。
个别特征对整体决策作出自己的贡献,通过“投票反对”那些不经常出现的特征的标签。特别是,每个标签的似然得分由于与输入值具有此特征的标签的概率相乘而减小。例如,如果词
`run`
在 12% 的体育文档中出现,在 10% 的谋杀之谜的文档中出现,在 2% 的汽车文档中出现,那么体育标签的似然得分将被乘以 0.12,谋杀之谜标签将被乘以 0.1,汽车标签将被乘以 0.02。整体效果是略高于体育标签的得分的谋杀之谜标签的得分会减少,而汽车标签相对于其他两个标签会显著减少。这个过程如 5.2 和 5.3 所示。
...
...
docs/7.md
浏览文件 @
bc8f3bc7
...
...
@@ -730,17 +730,17 @@ IOB 格式(有时也称为 BIO 格式)由(Ramshaw & Marcus, 1995)开发
## 9 练习
1. ☼ IOB 格式分类标注标识符为`I`、`O`和`B`。三个标签为什么是必要的?如果我们只使用`I`和`O`标记会造成什么问题?
2. ☼ 写一个标记模式匹配包含复数中心名词在内的名词短语,如
"many/JJ researchers/NNS", "two/CD weeks/NNS", "both/DT new/JJ positions/NNS"
。通过泛化处理单数名词短语的标记模式,尝试做这个。
2. ☼ 写一个标记模式匹配包含复数中心名词在内的名词短语,如
`"many/JJ researchers/NNS", "two/CD weeks/NNS", "both/DT new/JJ positions/NNS"`
。通过泛化处理单数名词短语的标记模式,尝试做这个。
3. ☼ 选择 CoNLL 语料库中三种词块类型之一。研究 CoNLL 语料库,并尝试观察组成这种类型词块的词性标记序列的任何模式。使用正则表达式词块划分器`nltk.RegexpParser`开发一个简单的词块划分器。讨论任何难以可靠划分词块的标记序列。
4. ☼ *词块*的早期定义是出现在词缝之间的内容。开发一个词块划分器以将完整的句子作为一个单独的词块开始,然后其余的工作完全加塞词缝完成。在你自己的应用程序的帮助下,确定哪些标记(或标记序列)最有可能组成词缝。相对于完全基于词块规则的词块划分器,比较这种方法的表现和易用性。
5. ◑ 写一个标记模式,涵盖包含动名词在内的名词短语,如
"the/DT receiving/VBG end/NN", "assistant/NN managing/VBG editor/NN"
。将这些模式加入到语法,每行一个。用自己设计的一些已标注的句子,测试你的工作。
6. ◑ 写一个或多个标记模式处理有连接词的名词短语,如
"July/NNP and/CC August/NNP", "all/DT your/PRP$ managers/NNS and/CC supervisors/NNS", "company/NN courts/NNS and/CC adjudicators/NNS"
。
5. ◑ 写一个标记模式,涵盖包含动名词在内的名词短语,如
`"the/DT receiving/VBG end/NN", "assistant/NN managing/VBG editor/NN"`
。将这些模式加入到语法,每行一个。用自己设计的一些已标注的句子,测试你的工作。
6. ◑ 写一个或多个标记模式处理有连接词的名词短语,如
`"July/NNP and/CC August/NNP", "all/DT your/PRP$ managers/NNS and/CC supervisors/NNS", "company/NN courts/NNS and/CC adjudicators/NNS"`
。
7. ◑ 用任何你之前已经开发的词块划分器执行下列评估任务。(请注意,大多数词块划分语料库包含一些内部的不一致,以至于任何合理的基于规则的方法都将产生错误。)
1. 在来自词块划分语料库的 100 个句子上评估你的词块划分器,报告精度、召回率和 F-量度。
2. 使用`chunkscore.missed()`和`chunkscore.incorrect()`方法识别你的词块划分器的错误。讨论。
3. 与本章的评估部分讨论的基准词块划分器比较你的词块划分器的表现。
8. ◑ 使用基于正则表达式的词块语法`RegexpChunk`,为 CoNLL 语料库中词块类型中的一个开发一个词块划分器。使用词块、词缝、合并或拆分规则的任意组合。
9. ◑ 有时一个词的标注不正确,例如
"12/CD or/CC so/RB cases/VBZ"
中的中心名词。不用要求手工校正标注器的输出,好的词块划分器使用标注器的错误输出也能运作。查找使用不正确的标记正确为名词短语划分词块的其他例子。
9. ◑ 有时一个词的标注不正确,例如
`"12/CD or/CC so/RB cases/VBZ"`
中的中心名词。不用要求手工校正标注器的输出,好的词块划分器使用标注器的错误输出也能运作。查找使用不正确的标记正确为名词短语划分词块的其他例子。
10. ◑ 二元词块划分器的准确性得分约为 90%。研究它的错误,并试图找出它为什么不能获得 100% 的准确率。实验三元词块划分。你能够再提高准确性吗?
11. ★ 在 IOB 词块标注上应用 N 元和 Brill 标注方法。不是给词分配词性标记,在这里我们给词性标记分配 IOB 标记。例如如果标记`DT`(限定符)经常出现在一个词块的开头,它会被标注为`B`(开始)。相对于本章中讲到的正则表达式词块划分方法,评估这些词块划分方法的表现。
12. ★ 在 5 中我们看到,通过查找有歧义的 N 元组可以得到标注准确性的上限,即在训练数据中有多种可能的方式标注的 N 元组。应用同样的方法来确定一个 N 元词块划分器的上限。
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录