Skip to main content

在 Dask 上进行 LightGBM 分布式训练

项目描述

Dask-LightGBM - 已弃用

此存储库已弃用

此存储库已弃用,不再维护。代码已迁移到 LightGBM 包 - https://github.com/microsoft/LightGBM

构建状态

使用 LightGBM 和 Dask.distributed 进行分布式训练

此存储库使您能够使用 LightGBM 在 Dask.Array 和 Dask.DataFrame 集合上执行分布式训练。它基于 dask-xgboost 包。

用法

将数据加载到分布式数据结构中,可以是 Dask.Array 或 Dask.DataFrame。使用 Dask.distributed.Client 连接到 Dask 集群。让 dask-lightgbm 为您训练模型或进行预测。请参阅系统测试以获取示例代码: https ://github.com/dask/dask-lightgbm/blob/main/system_tests/test_fit_predict.py

这是如何工作的

Dask 主要用于访问集群和管理数据。该库确保每个样本的特征和标签都位于同一个工作人员上。它还让每个工作人员都知道所有其他工作人员的地址和可用端口。分布式训练由 LightGBM 库本身使用套接字执行。在此处查看有关 LightGBM 分布式训练的更多详细信息: https ://github.com/microsoft/LightGBM/blob/main/docs/Parallel-Learning-Guide.rst

下载文件

下载适用于您平台的文件。如果您不确定要选择哪个,请了解有关安装包的更多信息。

源分布

dask-lightgbm-0.2.0.tar.gz (5.8 kB 查看哈希

已上传 source

内置分布

dask_lightgbm-0.2.0-py3-none-any.whl (5.8 kB 查看哈希

已上传 py3