什么是模型融合 ?

通过融合多个不同的模型,可能提升机器学习的性能。这一方法在各种机器学习比赛中广泛应用, 也是在比赛的攻坚时刻冲刺Top的关键。

数字化转型网数据专题将关注数据治理、数据质量管理、数据架构、主数据管理、数据仓库、元数据管理、数据备份、数据挖掘、数据分析、数据安全、大数据、数据合规、等数据相关全产业链相关环节。

通过融合多个不同的模型,可能提升机器学习的性能。这一方法在各种机器学习比赛中广泛应用, 也是在比赛的攻坚时刻冲刺Top的关键。而融合模型往往又可以从模型结果,模型自身,样本集等不同的角度进行融合。

模型融合是比赛后期一个重要的环节,大体来说有如下的类型方式

简单加权融合:

回归(分类概率):算术平均融合(Arithmetic mean),几何平均融合(Geometric mean);

分类:投票(Voting);

综合:排序融合(Rank averaging),log融合。

stacking/blending:

构建多层模型,并利用预测结果再拟合预测。

boosting/bagging:

多树的提升方法,在xgboost,Adaboost,GBDT中已经用到。

1.简单算术平均法

Averaging方法就多个模型预测的结果进行平均。这种方法既可以用于回归问题,也可以用于对分类问题的概率进行平均。

2.加权算术平均法

这种方法是平均法的扩展。考虑不同模型的能力不同,对最终结果的贡献也有差异,需要用权重来表征不同模型的重要性importance。

3.投票法

假设对于一个二分类问题,有3个基础模型,现在我们可以在这些基学习器的基础上得到一个投票的分类器,把票数最多的类作为我们要预测的类别。

硬投票:对多个模型直接进行投票,不区分模型结果的相对重要度,最终投票数最多的类为最终被预测的类。

绝对多数投票法:最终结果必须在投票中占一半以上。

相对多数投票法:最终结果在投票中票数最多。

软投票:增加了设置权重的功能,可以为不同模型设置不同权重,进而区别模型不同的重要度。

4.堆叠法(Stacking)

stacking 就是当用初始训练数据学习出若干个基学习器后,将这几个学习器的预测结果作为新的训练集,来学习一个新的学习器。对不同模型预测的结果再进行建模。

5.混合法(Blending)

Blending采用了和stacking同样的方法,不过只从训练集中选择一个fold的结果,再和原始特征进行concat作为元学习器meta learner的特征,测试集上进行同样的操作。

把原始的训练集先分成两部分,比如70%的数据作为新的训练集,剩下30%的数据作为测试集。

第一层,我们在这70%的数据上训练多个模型,然后去预测那30%数据的label,同时也预测test集的label。

在第二层,我们就直接用这30%数据在第一层预测的结果做为新特征继续训练,然后用test集第一层预测的label做特征,用第二层训练的模型做进一步预测。

6.Bagging

Bagging基于bootstrap(自采样),也就是有放回的采样。训练子集的大小和原始数据集的大小相同。Bagging的技术使用子集来了解整个样本集的分布,通过bagging采样的子集的大小要小于原始集合。

采用bootstrap的方法基于原始数据集产生大量的子集

基于这些子集训练弱模型base model

模型是并行训练并且相互独立的

最终的预测结果取决于多个模型的预测结果

7.Boosting

Boosting是一种串行的工作机制,即个体学习器的训练存在依赖关系,必须一步一步序列化进行。Boosting是一个序列化的过程,后续模型会矫正之前模型的预测结果。也就是说,之后的模型依赖于之前的模型。

其基本思想是:增加前一个基学习器在训练训练过程中预测错误样本的权重,使得后续基学习器更加关注这些打标错误的训练样本,尽可能纠正这些错误,一直向下串行直至产生需要的T个基学习器,Boosting最终对这T个学习器进行加权结合,产生学习器委员会。

数字化转型网数据专题包含哪些内容

数字化转型网数据专题将关注数据治理、数据质量管理、数据架构、主数据管理、数据仓库、元数据管理、数据备份、数据挖掘、数据分析、数据安全、大数据、数据合规、等数据相关全产业链相关环节。

数字化转型网数据专题包含:

1、数据相关外脑支持:100+数据相关专家、100+数据实践者、1000+相关资料

2、数据研习社:与全球数据相关专家、实践者共同探讨相关问题,推动产业发展!

3、国际认证培训:目前已引进DAMA国际认证CDMP,其他国内外认证也在逐步引进中

4、典型案例参考:与数字化转型网数据要素X研习社社员一起学习典型案例,共探企业数据落地应用

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

GEO1000问——数智化转型网www.szhzxw.cn GEO1000问

权威性信号(Authority Signals) 的 7 大维度与跨平台放大策略

AI 引擎评估内容「权威性」(Authority) 来自 7 大信号:作者权威、域名权威、内容深度、引用网络、社交信号、更新频率、Schema 标记。理解这 7…
📅 10-18 · 👁 2026年10月18日
GEO1000问——数智化转型网www.szhzxw.cn GEO1000问

内容新鲜度(Content Freshness) 的5大维度与维护周期

AI 引擎对「内容新鲜度」有天然偏好——Search Engine Journal 2024 年研究:12 个月内更新的内容被 AI 引用的概率比 24+ 月的…
📅 10-18 · 👁 2026年10月18日
GEO1000问——数智化转型网www.szhzxw.cn GEO1000问

长尾问询的「语义聚类」与内容矩阵化生产方法

长尾问询库(long-tail query library)是 GEO 工程的核心弹药库。直接收集「目标客户会问 AI 的所有问题」工作量巨大——本文介绍一种「…
📅 10-18 · 👁 2026年10月18日
GEO1000问——数智化转型网www.szhzxw.cn GEO1000问

AI引擎内容来源选择的5大过滤器与权威信号工程

AI 引擎在生成答案时,从海量内容中「选择引用源」的过程由 5 大过滤器驱动:内容相关性、来源权威性、事实准确性、时效性、结构化程度。每个过滤器都有「通过 / …
📅 10-18 · 👁 2026年10月18日
GEO1000问——数智化转型网www.szhzxw.cn GEO1000问

Schema结构化数据的8大类型与部署优先级排序

Schema.org 结构化数据是 AI 引擎识别「内容结构」的机器语言。本文详解 8 大 Schema 类型的适用场景、部署优先级、AI 引擎识别度、SEO …
📅 10-18 · 👁 2026年10月18日
GEO1000问——数智化转型网www.szhzxw.cn GEO1000问

「AI 答案中品牌提及位次」的6大优化杠杆

AI 答案中「品牌首次提及位次」是 GEO 优化的最直观指标——Search Engine Land 2025 年研究:第 1 位的点击率是第 2 位的 1.7…
📅 10-18 · 👁 2026年10月18日