基本信息

---

下载

文档摘要

---

决策树的构建与剪枝理论基础概述

决策树算法最早在1966年被Hunt等人发表的论文所提出的，Hunt算法是许多决策树算法的基础，包括ID3树算法、C4.5树算法和CART树算法等，而后罗斯·昆兰是让决策树算法得以发展并成为了成为机器学习主流算法。二十世纪末他所提出的ID3算法晓喻科研界，之后他又次提出了ID3的改进算法C4.5算法。并且为了能够应对出现的数据集较大的情况，一些比较典型的算法，比如探索式监督学习和决策树的可扩展并行归纳被提出。1984年Breiman等人提出了CART分类回归树。本小节简要介绍三种决策树的构建和剪枝

1.1决策树的构建

ID3算法流程如下：

a)记录当