2026年09月04日 星期五

试验律(NFL律:No Free Lunch)

对于数据挖掘者来说,天下没有免费的午餐,一个正确的模型只有通过试验(experiment)才能被发现

数字化转型网数据专题将关注数据治理、数据质量管理、数据架构、主数据管理、数据仓库、元数据管理、数据备份、数据挖掘、数据分析、数据安全、大数据、数据合规、等数据相关全产业链相关环节。

对于数据挖掘者来说,天下没有免费的午餐,一个正确的模型只有通过试验(experiment)才能被发现。

机器学习有一个原则:如果我们充分了解一个问题空间(problem space),我们可以选择或设计一个找到最优方案的最有效的算法。一个卓越算法的参数依赖于数据挖掘问题空间一组特定的属性集,这些属性可以通过分析发现或者算法创建。数字化转型网www.szhzxw.cn

但是,这种观点来自于一个错误的思想,在数据挖掘过程中数据挖掘者将问题公式化,然后利用算法找到解决方法。事实上,数据挖掘者将问题公式化和寻找解决方法是同时进行的–算法仅仅是帮助数据挖掘者的一个工具。

有五种因素说明试验对于寻找数据挖掘解决方案是必要的:

1.数据挖掘项目的业务目标定义了兴趣范围(定义域),数据挖掘目标反映了这一点;

2.与业务目标相关的数据及其相应的数据挖掘目标是在这个定义域上的数据挖掘过程产生的;

3.这些过程受规则限制,而这些过程产生的数据反映了这些规则;数字化转型网www.szhzxw.cn

4.在这些过程中,数据挖掘的目的是通过模式发现技术(数据挖掘算法)和可以解释这个算法结果的业务知识相结合的方法来揭示这个定义域上的规则;

5.数据挖掘需要在这个域上生成相关数据,这些数据含有的模式不可避免地受到这些规则的限。

在这里强调一下最后一点,在数据挖掘中改变业务目标,CRISP-DM有所暗示,但经常不易被觉察到。广为所知的CRISP-DM过程不是下一个步骤仅接着上一个步骤的“瀑布”式的过程。事实上,在项目中的任何地方都可以进行任何CRISP-DM步骤,同样商业理解也可以存在于任何一个步骤。

业务目标不是简单地在开始就给定,它贯穿于整个过程。这也许可以解释一些数据挖掘者在没有清晰的业务目标的情况下开始项目,他们知道业务目标也是数据挖掘的一个结果,不是静态地给定。

Wolpert的“没有免费的午餐”理论已经应用于机器学习领域,无偏的状态好于(如一个具体的算法)任何其他可能的问题(数据集)出现的平均状态。这是因为,如果我们考虑所有可能的问题,他们的解决方法是均匀分布的,以至于一个算法(或偏倚)对一个子集是有利的,而对另一个子集是不利的。

这与数据挖掘者所知的具有惊人的相似性,没有一个算法适合每一个问题。但是经过数据挖掘处理的问题或数据集绝不是随机的,也不是所有可能问题的均匀分布,他们代表的是一个有偏差的样本,那么为什么要应用NFL的结论?答案涉及到上面提到的因素:问题空间初始是未知的,多重问题空间可能和每一个数据挖掘目标相关,问题空间可能被数据预处理所操纵,模型不能通过技术手段评估,业务问题本身可能会变化。数字化转型网www.szhzxw.cn

由于这些原因,数据挖掘问题空间在数据挖掘过程中展开,并且在这个过程中是不断变化的,以至于在有条件的约束下,用算法模拟一个随机选择的数据集是有效的。对于数据挖掘者来说:没有免费的午餐。

这大体上描述了数据挖掘过程。但是,在有条件限制某些情况下,比如业务目标是稳定的,数据和其预处理是稳定的,一个可接受的算法或算法组合可以解决这个问题。在这些情况下, 一般的数据挖掘过程中的步骤将会减少。 但是,如果这种情况稳定是持续的,数据挖掘者的午餐是免费的,或者至少相对便宜的。像这样的稳定性是临时的,因为对数据的业务理解(第二律)和对问题的理解(第九律)都会变化的。

声明:本文来自网络,版权归作者所有。文章内容仅代表作者独立观点,不代表数字化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。数字化转型网www.szhzxw.cn

数字化转型网数据专题包含哪些内容

数字化转型网数据专题将关注数据治理、数据质量管理、数据架构、主数据管理、数据仓库、元数据管理、数据备份、数据挖掘、数据分析、数据安全、大数据、数据合规、等数据相关全产业链相关环节。

数字化转型网数据专题包含: 数字化转型网(www.szhzxw.cn)

1、数据相关外脑支持:100+数据相关专家、100+数据实践者、1000+相关资料

2、数据研习社:与全球数据相关专家、实践者共同探讨相关问题,推动产业发展!

3、国际认证培训:目前已引进DAMA国际认证CDMP,其他国内外认证也在逐步引进中

4、典型案例参考:与数字化转型网数据要素X研习社社员一起学习典型案例,共探企业数据落地应用

本文由数字化转型网(www.szhzxw.cn)转载而成,来源于爱数据LoveData;编辑/翻译:数字化转型网Jack。

CXOU AI 未来大会 · 报名通道限时开启
💬 评论
🔗 本文链接

📰 你可能也喜欢

人工智能案例集|丰田 Toyota:AI驱动的自动驾驶与智能制造双引擎转型——数智化转型网www.szhzxw.cn 专题栏目

人工智能案例集|丰田 Toyota:AI驱动的自动驾驶与智能制造双引擎转型

丰田(Toyota Motor Corporation)作为全球年销量近千万辆的汽车制造商,正以” […]
📅 08-31 · 👁 2026年8月31日
GEO专题

品牌在AI搜索中的可见性:影响因素与评估维度

一、什么是品牌AI搜索可见性 品牌在AI搜索中的可见性(AI Search Visibility)指的是品牌在 […]
📅 08-26 · 👁 2026年8月26日
GEO专题

2026年AI搜索现状:零点击时代已经到来

一、零点击搜索的定义与现状 零点击搜索(Zero-Click Search)指的是用户通过搜索引擎或AI工具获 […]
📅 08-26 · 👁 2026年8月26日
GEO专题

五大GEO策略:让AI搜索主动推荐你的品牌

想让AI在生成答案时主动推荐你的品牌,需要掌握科学的GEO策略。根据ClickForest、Search En […]
📅 08-26 · 👁 2026年8月26日
GEO专题

GEO与SEO的本质区别:从排名到信任的跨越

一、SEO的时代正在远去? 过去二十年,SEO(搜索引擎优化)一直是企业数字营销的核心。通过优化关键词、外链建 […]
📅 08-26 · 👁 2026年8月26日
人工智能案例|索尼:PlayStation AI 助手 + Intelligent Vision Sensor 的非纯 AI 传统巨头 AI 化样本——数智化转型网www.szhzxw.cn 专题栏目

人工智能案例|索尼:PlayStation AI 助手 + Intelligent Vision Sensor 的非纯 AI 传统巨头 AI 化样本

作为全球影音娱乐、游戏、半导体、影像四大业务的科技巨头,索尼(Sony Group Corporation, […]
📅 08-26 · 👁 2026年8月26日