Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
OpenDocCN
ml-mastery-zh
提交
c832e887
M
ml-mastery-zh
项目概览
OpenDocCN
/
ml-mastery-zh
8 个月 前同步成功
通知
2
Star
556
Fork
158
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
M
ml-mastery-zh
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
前往新版Gitcode,体验更适合开发者的 AI 搜索 >>
未验证
提交
c832e887
编写于
9月 13, 2019
作者:
T
tabeworks
提交者:
GitHub
9月 13, 2019
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
done v1
上级
ef175a76
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
20 addition
and
20 deletion
+20
-20
docs/xgboost/best-tune-multithreading-support-xgboost-python.md
...gboost/best-tune-multithreading-support-xgboost-python.md
+20
-20
未找到文件。
docs/xgboost/best-tune-multithreading-support-xgboost-python.md
浏览文件 @
c832e887
...
...
@@ -2,44 +2,44 @@
> 原文: [https://machinelearningmastery.com/best-tune-multithreading-support-xgboost-python/](https://machinelearningmastery.com/best-tune-multithreading-support-xgboost-python/)
为梯度提升而设计的 XGBoost 库具有高效的多核并行处理功能。
为梯度提升
(gradient boosting)
而设计的 XGBoost 库具有高效的多核并行处理功能。
它能够在训练时有效地使用系统中的所有 CPU 核心。
在这篇文章中,您将了解
Python 中
XGBoost 的并行处理能力。
在这篇文章中,您将了解
在 Python 中使用
XGBoost 的并行处理能力。
阅读后您会学习到:
阅读
之
后您会学习到:
*
如何确
保
XGBoost 多线程功能可以在您的系统上运行。
*
如何确
认
XGBoost 多线程功能可以在您的系统上运行。
*
如何在增加 XGBoost 上的线程数之后评估其效果。
*
如何在使用交叉验证和网格搜索(grid search)时充分利用多线程 XGBoost。
*
如何在使用交叉验证和网格搜索(grid search)时充分利用多线程
的
XGBoost。
让我们开始吧。
*
**2017 年 1 月更新**
:
已更新,以反映
scikit-learn API 版本 0.18.1 中的更改。
*
**2017 年 1 月更新**
:
对应
scikit-learn API 版本 0.18.1 中的更改。
![
How to Best Tune Multithreading Support for XGBoost in Python
](
img/ed8730017a4b756792937527e1a8af75.jpg
)
在 Python 中如何调优 XGBoost 的多线程支持
照片由
[
Nicholas A. Tonelli
](
https://www.flickr.com/photos/nicholas_t/14946860658/
)
拍摄,保留部分版权。
##
目标问题
:Otto Dataset
##
问题描述
:Otto Dataset
在本教程中,我们将使用
[
Otto Group 产品分类挑战赛
](
https://www.kaggle.com/c/otto-group-product-classification-challenge
)
数据集。
数据集可从 Kaggle 获得(您需要注册 Kaggle 以获取下载权限)。从
[
数据页面(Data page)
](
https://www.kaggle.com/c/otto-group-product-classification-challenge/data
)
下载训练数据集
**train.zip**
,并将解压
缩
的
**trian.csv**
文件放入您的工作目录。
数据集可从 Kaggle 获得(您需要注册 Kaggle 以获取下载权限)。从
[
数据页面(Data page)
](
https://www.kaggle.com/c/otto-group-product-classification-challenge/data
)
下载训练数据集
**train.zip**
,并将解压
之后
的
**trian.csv**
文件放入您的工作目录。
该数据集描述了超过 61,000 件产品的 93 个模糊细节。这些产品被分为 10 个类别(例如时尚,电子等)。填入属性(input attributes)是该种类对不同事件的计数。
任务目标是对新产品进行预测,在一个数组中给出分属 10 个类别的概率。评估模型将使用多类对数损失(multiclass logarithmic loss)(也称为交叉熵)。
这个竞赛已在 2015 年 5 月结束,
数据集对 XGBoost 来说是一个很好的挑战,因为有相当规模的范例以及
问题难度,并且需要很少的数据准备(除了将字符串类型变量编码为整数)。
这个竞赛已在 2015 年 5 月结束,
该数据集对 XGBoost 来说是一个很好的挑战,因为有相当大规模的范例以及较大的
问题难度,并且需要很少的数据准备(除了将字符串类型变量编码为整数)。
## 线程数的影响
XGBoost
由 C++ 实现
,显式地使用
[
OpenMP API
](
https://en.wikipedia.org/wiki/OpenMP
)
来进行并行处理。
XGBoost
是由 C++ 实现的
,显式地使用
[
OpenMP API
](
https://en.wikipedia.org/wiki/OpenMP
)
来进行并行处理。
梯度提升中的并行性可以应用于单树(individual trees)的构建,而不是像随机森林并行创建树。这是因为在提升(boosting)中,树是被顺序添加到模型中。 XGBoost 的速度
表现
既体现在构造单树(individual trees)时添加并行性,也体现在有效地准备输入数据,以帮助加快树的构建。
梯度提升中的并行性可以应用于单树(individual trees)的构建,而不是像随机森林并行创建树。这是因为在提升(boosting)中,树是被顺序添加到模型中。 XGBoost 的速度
改观
既体现在构造单树(individual trees)时添加并行性,也体现在有效地准备输入数据,以帮助加快树的构建。
根据您系统的平台,您可能需要专门编译 XGBoost 以支持多线程。详细信息请参阅
[
XGBoost 安装说明
](
https://github.com/dmlc/xgboost/blob/master/doc/build.md
)
。
...
...
@@ -51,11 +51,11 @@ XGBoost 的 **XGBClassifier** 和 **XGBRegressor** 包装类给 scikit-learn 的
model
=
XGBClassifier
(
nthread
=-
1
)
```
通常,您应该
会从 XGBoost 安装
直接获得多线程支持,而无需任何额外的工作。
通常,您应该
从 XGBoost 安装中
直接获得多线程支持,而无需任何额外的工作。
根据您的 Python 环境(例如 Python 3),可能需要显式启用 XGBoost 的多线程支持。如果您需要帮助,
[
XGBoost 库提供了一个示例
](
https://github.com/dmlc/xgboost/blob/master/demo/guide-python/sklearn_parallel.py
)
。
您可以通过构建
许多不同的 XGBoost 模型来确认 XGBoost 多线程支持是否正常工作,指定线程数并计算构建每个模型所需的时间。这一操作
将向您表明启用了多线程支持,并显示构建模型时的时长效果。
您可以通过构建
一定数量的不同的 XGBoost 模型来确认 XGBoost 多线程支持是否正常工作,指定线程数并计算构建每个模型所需的时间。这一过程
将向您表明启用了多线程支持,并显示构建模型时的时长效果。
例如,如果您的系统有 4 个核心,您可以训练 8 个不同的模型,并计算创建每个模型所需的时间(以秒为单位),然后比较时长。
...
...
@@ -74,7 +74,7 @@ for n in num_threads:
我们可以在 Otto 数据集上使用这种方法。为说明的完备性,下面给出完整示例。
您可以更改
**num_threads**
数组以符合您系统的核数。
您可以更改
**num_threads**
数组以符合您系统的核
心
数。
```
py
# Otto, tune number of threads
...
...
@@ -126,15 +126,15 @@ pyplot.show()
随着线程数量的增加,我们可以看到执行时间减少的优越趋势。
如果您没有看到增加每个新线程的运行时间有所改善,可能需要检查怎样在安装过程中或运行过程中
对 XGBoost 启用
多线程支持。
如果您没有看到增加每个新线程的运行时间有所改善,可能需要检查怎样在安装过程中或运行过程中
启用 XGBoost
多线程支持。
我们可以在具有更多
内核的机器上运行相同的代码。
大型的 Amazon Web Services EC2 具有 32 个核心。我们可以调整上面的代码来计算具有 1 到 32 个核心的模型所需的训练时间。结果如下图。
我们可以在具有更多
核心的机器上运行相同的代码。例如
大型的 Amazon Web Services EC2 具有 32 个核心。我们可以调整上面的代码来计算具有 1 到 32 个核心的模型所需的训练时间。结果如下图。
![
XGBoost Time to Train Model on 1 to 32 Cores
](
img/146f19ae6f7ee6886994a2b084b410b3.jpg
)
XGBoost 在 1 到 32 个核心上训练模型所需的时间
值得注意的是,在多于 16 个线程(大约 7 秒)的情况下,我们没有看到太多进步。我
期望
其原因是Amazon仅在硬件中提供 16 个内核,而另外的16个核心是通过超线程提供额外。结果表明,如果您的计算机具有超线程能力,则可能需要将
**num_threads**
设置为等于计算机中物理 CPU 核心的数量。
值得注意的是,在多于 16 个线程(大约 7 秒)的情况下,我们没有看到太多进步。我
想
其原因是Amazon仅在硬件中提供 16 个内核,而另外的16个核心是通过超线程提供额外。结果表明,如果您的计算机具有超线程能力,则可能需要将
**num_threads**
设置为等于计算机中物理 CPU 核心的数量。
使用 OpenMP 进行 XGBoost 的低层面最优执行能压缩像这样大型计算机的每一次最后一个周期(last cycle)。
...
...
@@ -144,7 +144,7 @@ scikit-learn 中的 k-fold 交叉验证也同样支持多线程。
例如, 当使用 k-fold 交叉验证评估数据集上的模型,
**cross_val_score()**
函数的
**n_jobs**
参数允许您指定要运行的并行作业数。
默认情况下,此值设置为 1,但可以设置为-1 以使用系统上的所有 CPU 核心。这其实也是一个很好地
练习
。例如:
默认情况下,此值设置为 1,但可以设置为-1 以使用系统上的所有 CPU 核心。这其实也是一个很好地
实践
。例如:
```
py
results
=
cross_val_score
(
model
,
X
,
label_encoded_y
,
cv
=
kfold
,
scoring
=
'log_loss'
,
n_jobs
=-
1
,
verbose
=
1
)
...
...
@@ -154,7 +154,7 @@ results = cross_val_score(model, X, label_encoded_y, cv=kfold, scoring='log_loss
*
禁用 XGBoost 中的多线程支持,并允许交叉验证在所有核心上运行。
*
禁用交叉验证中的多线程支持,并允许 XGBoost 在所有核心上运行。
*
为 XGBoost 和 Cross 验证同时启用
多线程支持。
*
同时启用 XGBoost 和交叉验证的
多线程支持。
我们可以通过简单计算在每种情况下评估模型所需的时间来得到这个问题的答案。
...
...
@@ -218,7 +218,7 @@ Parallel Thread XGBoost and CV: 313.382301
在这篇文章中,您了解到了 XGBoost 的多线程功能。
你学习了
:
所学到的要点是
:
*
如何检查您的系统中是否启用了 XGBoost 中的多线程支持。
*
增加线程数会如何影响训练 XGBoost 模型的性能。
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录