CART(分类与回归树)是以纯度指标分裂节点构造决策树的算法,其核心构成包括分类树按基尼系数最小选择划分属性、回归树按均方误差或绝对值误差最小选择特征,解决的是一套方法同时支撑分类与回归建模的问题,并不解决树结构过深导致的过拟合问题。
与C5算法类似,只是属性选择的指标是基尼系数。
基尼系数反应了样本的不确定度,基尼系数越小,说明样本之间的差异性小,不确定程度低。
分类是一个不确定度降低的过程,CART在构造分类树的时候会选择基尼系数最小的属性作为属性的划分。
CART 回归树
采用均方误差或绝对值误差为标准,选取均方误差或绝对值误差最小的特征。