数据挖掘的流程有哪些?

数据挖掘重点和难点是从现实中抽象出数学模型,数学模型包括有哪些参数,目标值,计算方法等,一堆数据

数字化转型网数据专题将关注数据治理、数据质量管理、数据架构、主数据管理、数据仓库、元数据管理、数据备份、数据挖掘、数据分析、数据安全、大数据、数据合规、等数据相关全产业链相关环节。

这块其实很多地方都介绍过,也不废话了,我就引用下:

数据挖掘完整的步骤如下:

① 理解数据和数据的来源(understanding)。

② 获取相关知识与技术(acquisition)。

③ 整合与检查数据(integration and checking)。

④ 去除错误或不一致的数据(data cleaning)。

⑤ 建立模型和假设(model and hypothesis development)。

⑥ 实际数据挖掘工作(data mining)。

⑦ 测试和验证挖掘结果(testing and verification)。

⑧ 解释和应用(interpretation and use)。

这是网上搜索的知识百科。而我有我自己的看法,基本方法一致,但是还是有些区别。

第一步、领域专家讨论、预建模。

第二步、小范围采集、分析

第三步、领域专家讨论、修正模型

第四步、大范围采集、分析

第五步、得出结果

第六步、验证

第七步、应用

我的步骤跟常见步骤相比,就是突出了领域专家。

数据挖掘重点和难点是从现实中抽象出数学模型,数学模型包括有哪些参数,目标值,计算方法等,一堆数据,盲目去做统计分析,得出一个模型并不难,难的是有多大意义。从现实中抽象出数学模型是难点,也是必须的,做法是先让领域专家对相关领域作出基本的人为模型,然后做小范围分析,对比结果和领域常态特征再来调整,多次这样不断扩大样本的调整,才能建立真正有意义的模型。

在没有模型的前提下去分析,并以此为模型,那无异于盲人摸象,然后拼凑一个东西出来,一堆数据,盲目去做统计分析,得出一个模型并不难,难的是这个模型有多大意义。从现实中抽象出数学模型是难点,但是也是必须的,这个的做法是先让领域专家设定人为模型,然后做小范围分析,再来调整

当前业界数据挖掘最大的问题,就是过分看重数学处理,这种观点是基于一个基础:只要数据间有联系,通过统计学就可以看到变化,所以数学可以解决一切。产生这种的原因,在于早期的数据挖掘来源是统计分析,面对大量的数据,作出统计报表,然后去人为理解,这就是最原始的数据分析。也是因为这个,导致现在数学工具是越用越复杂,其实绝大多数数据挖掘,只需要基本的统计学知识而已。

数据挖掘是把现实的事物变化,抽象提取为数据,然后用数据来处理。从理论上说,如果能够掌握所有要素,纯粹数学的分析是可以找出这些数据间的关系的。但是掌握所有数据,在复杂问题的数据挖掘实践中,特别是社会化问题的分析中,只能是异想天开。因此,在复杂问题条件下,要尽可能依赖的关键所谓领域专家。

一个人看到一组数据,会对这组数据作出解读,这就是最原始、最本能的数据分析。但是我们也会发现,同样一组数据,不同人去看,会产生不同的解读。而在采集数据的时候,甚至也会有类似的变化,比如同样的对象,不同人去调查采集,会产生不同的结果。实际上,数据分析过程中的数学部分,是绝对理性的。但是产生这样的问题,关键在于背景专家身上。

所谓的领域专家,就是这些数据所在的领域的专业人士。因为不同专业差异化很大,单纯的数学和计算机背景的数据分析人员是无法处理、甚至是完全无法理解不同领域的数据的。一个领域专家,影响他的判断包括他的性格是否偏激、他对所涉及数据是否有利害关系。经过我们的总结,一名偏激的领域专家,更容易固执坚持自己的看法,在数据建模时候,有意或者无意去弱化不喜欢的数据、强化自己认可的数据。而利害关系更是可以强化这点。

数字化转型网数据专题包含哪些内容

数字化转型网数据专题将关注数据治理、数据质量管理、数据架构、主数据管理、数据仓库、元数据管理、数据备份、数据挖掘、数据分析、数据安全、大数据、数据合规、等数据相关全产业链相关环节。

数字化转型网数据专题包含:

1、数据相关外脑支持:100+数据相关专家、100+数据实践者、1000+相关资料

2、数据研习社:与全球数据相关专家、实践者共同探讨相关问题,推动产业发展!

3、国际认证培训:目前已引进DAMA国际认证CDMP,其他国内外认证也在逐步引进中

4、典型案例参考:与数字化转型网数据要素X研习社社员一起学习典型案例,共探企业数据落地应用

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网GEO专题 GEO专题栏目

对话式 AI 引用的内容特征:四要素构建法

一、对话式 AI 引用的独特性 对话式 AI(如 ChatGPT、Claude、文心一言)的引用特点与传统搜索
📅 09-27 · 👁 2026年9月27日
数智化转型网GEO专题 GEO专题栏目

GEO 平台评估:2026 年企业选型时需要关注的六大核心指标

一、为什么企业需要系统评估 GEO 平台 随着 AI 搜索生态在 2026 年持续扩张,市面上已经涌现出超过
📅 09-27 · 👁 2026年9月27日
数智化转型网GEO专题 GEO专题栏目

AI 引擎的引用决策机制:可解释性的四层评估模型

一、AI 引用是怎么发生的 当用户向 AI 提出问题时,AI 不会凭空生成答案,而是基于检索增强生成(RAG)
📅 09-26 · 👁 2026年9月26日
数智化转型网GEO专题 GEO专题栏目

2026 年 GEO 行业研究报告核心发现:五大趋势判断

一、行业研究的意义 2026 年初,多家权威机构发布了 GEO 行业研究报告。这些报告汇集了行业最新数据、案例
📅 09-26 · 👁 2026年9月26日
数智化转型网GEO专题 GEO专题栏目

Schema 类型全解:六种核心结构化数据与 GEO 应用

一、什么是 Schema 结构化数据 Schema 是由 Schema.org 维护的一套标准化词汇,用于在网
📅 09-26 · 👁 2026年9月26日
数智化转型网GEO专题 专题栏目

AI 答案中的引用位次:第一位、第二位与第三位的价值差异

一、AI 答案的引用结构 AI 引擎在生成答案时,会引用多个信源的内容。理解答案中引用信源的位次结构,对于优化
📅 09-26 · 👁 2026年9月26日