自适应提升算法(Adaptive Boosting,AdaBoost)是把多个弱分类器按权重组合为强分类器的集成方法,核心构成包括初始化样本权重、按错误率选出最优弱分类器、调整权重提高错分样本权重并迭代,解决的是单一分类器准确率不足问题,并不解决弱分类器过弱与标签错误的问题。
计算过程
初始化基础权重;
奖权重矩阵,通过已的分类器计算错误率,选择错误率最低的为最优分类器;
通过分类器权重公式,减少正确样本分布,增加错误样本分布,得到新的权重矩阵和当前k轮的分类器权重;
将新的权重矩阵,带入上面的步骤2和3,重新计算权重矩阵;
迭代N轮,记录每一轮的最终分类器权重,得到强分类器。