PAGE1

PAGE1

XGBoost：XGBoost高级主题：分布式与GPU加速

1XGBoost简介与优势

1.1XGBoost算法原理

XGBoost,即eXtremeGradientBoosting,是一种基于梯度提升决策树（GradientBoostingDecisionTree,GBDT）的机器学习算法。它在GBDT的基础上进行了多项优化，包括正则化项的加入、列块压缩、并行计算、近似直方图算法等，使得模型在保持高预测精度的同时，训练速度更快，泛化能力更强。

1.1.1算法流程

XGBoost的训练过程可以概括为以下步骤：

初始化模型为常数。

对