数智化转型网szhzxw.cn 数字化转型网专题栏目 一文说透传统数据库 VS 数据仓库

一文说透传统数据库 VS 数据仓库

数字化转型网数据专题将关注数据治理、数据质量管理、数据架构、主数据管理、数据仓库、元数据管理、数据备份、数据挖掘、数据分析、数据安全、大数据、数据合规、等数据相关全产业链相关环节。

传统数据库,也就是我们常说的,以 Oracle 和 MySQL 为代表的关系型数据库,用于存储和管理结构化的数据,以快速响应用户操作为主,具备ACID(原子性、一致性、隔离性、持久性)的事务特性。

数据仓库,是一种面向商业智能活动(数据挖掘、数据分析、数据报表)的数据管理系统,通常涉及大量的历史数据,用于企业的分析性报告和决策⽀持,以星型模型和雪花模型为主。

两者的主要区别,包括如下几个方面:

一、设计思路

众所周知,传统数据库是以应用或服务为粒度来进行设计的,如:商品服务、订单服务、用户服务、促销服务等。

而数据仓库则是面向主题进行设计的,我们可以将主题理解为一个宏观的分析领域, 是在较高层次上将业务系统中某一分析对象的数据进行整合、归类并分析的一种范围。如:销售主题、客户主题、供应商主题等。数字化转型网www.szhzxw.cn

面向主题设计的优势在于,用户能够更简单直接地利用数据进行多维复杂分析,而不需要从各个不同的业务系统中寻找并串联数据,可大幅提升工作效率和实现更深入的业务洞察。

二、核心用途

传统数据库的核心用途,是用来管理业务系统所产生的业务数据,如:电商交易、银行转账、客户关系管理等。

而数据仓库则用于构建面向分析的集成化数据环境,通过报表分析和数据洞察的方式,为企业的战略决策提供数据依据。

数据仓库不生产任何数据,其数据来源于各个业务系统的数据库,数据仓库也不会对数据进行消费,只是将数据分析后的结果开放给各个外部系统使用。数字化转型网www.szhzxw.cn

我们以常见的电商场景为例:

三、构成部分

传统数据库的构成部分比较简单,是由数据库本身和数据库管理系统(DBMS)组成。

而数据仓库则要复杂很多,由数据源、ETL 工具、数据存储、元数据管理和数据访问分析工具共同构成。

其中,ETL 工具负责从数据源抽取数据,并经过清洗转换之后加载到数据仓库中,目的是将企业中的分散、零乱、标准不统一的数据整合到一起,为企业的决策提供分析依据。

数据存储是数据仓库中最为的核心部分,通常采用多维数据模型(星型模型、雪花模型)来组织数据,并通过列式存储的方式来减少数据读取范围和提升数据压缩比,以达到提升查询性能的目的。

四、数据稳定性

在传统数据库中,为了满足于用户对业务系统的日常操作,对数据进行更新比较高频,且需要实时生效。

而数据仓库中的数据主要提供企业决策分析之用,反映的是一段相当长的时间内历史数据的内容,是不同时点的数据库快照的集合, 以及基于这些快照进行统计、综合和重组的导出数据,而不是联机处理的数据。

因此,其所涉及的数据操作基本上是数据查询分析,数据需要保持在稳定态,原则上并不提倡进行更新操作。数字化转型网www.szhzxw.cn

那问题来了,如果出于业务需要,必须进行更新操作的话怎么办?

对于数据仓库来说,正确的技术方案是通过时间戳或版本号进行标记,并以插入新数据和定期删除老数据的方式进行替代。

五、性能指标

传统数据库专注于实时处理和管理大量事务数据,通常是为支持高并发的日常事务处理而设计的。因此衡量其性能最重要的指标,为其所能承载的峰值 TPS(每秒事务数)和对应的 QPS(每秒查询率)。

而数据仓库的主要操作为查询大量数据进行汇总分析,因此在海量数据下查询的RT(响应时间)为衡量其性能的最重要指标。

被用作一站式实时数据仓库的 ClickHouse,它的官网上公布的测试数据也是这样体现的。

内容如下:

所有用于对比的数据库都使用了相同配置的服务器,在单个节点的情况下,对一张拥有133个字段的数据表分别在1000万、1亿和10亿三种数据体量下执行基准测试,基准测试的范围涵盖43项 SQL 查询。

在1亿数据集体量的情况下,ClickHouse 的平均响应速度是 Vertica 的2.63倍、InfiniDB 的17倍、MonetDB 的27倍、Hive 的126倍、MySQL 的429倍以及Greenplum 的10倍。数字化转型网www.szhzxw.cn

六、用户群体

传统数据库是服务于终端用户的,既有企业级的 ERP 系统、OA 系统、CRM 系统用户,也有淘宝电商、拼多多电商、美团外卖、滴滴打车、抖音短视频等数亿规模的 APP 用户。

而数据仓库的用户群体,则为企业内部的数据分析师和管理决策者,其规模最多也不会超过数百人。

七、结语

当然,对于传统数据库和数据仓库的区别,每个工程师对此都会有自己的解读,属于典型的仁者见仁智者见智的问题,并没有标准的答案。

网上还有一种比较好玩儿的观点认为,传统数据库是必不可少的雪中送炭,而数据仓库只是恰如其分的锦上添花,我觉得这种观点也对吧。数字化转型网www.szhzxw.cn

毕竟“大数据研发工程师”这个岗位,只要脱离了北上广深四个一线城市,其实在二三线城市的岗位很少,甚至可以用屈指可数来形容了。

声明:本文来自网络,版权归作者所有。文章内容仅代表作者独立观点,不代表数字化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。数字化转型网www.szhzxw.cn

数字化转型网数据专题包含哪些内容

数字化转型网数据专题将关注数据治理、数据质量管理、数据架构、主数据管理、数据仓库、元数据管理、数据备份、数据挖掘、数据分析、数据安全、大数据、数据合规、等数据相关全产业链相关环节。

数字化转型网数据专题包含: 数字化转型网(www.szhzxw.cn)

1、数据相关外脑支持:100+数据相关专家、100+数据实践者、1000+相关资料

2、数据研习社:与全球数据相关专家、实践者共同探讨相关问题,推动产业发展!

3、国际认证培训:目前已引进DAMA国际认证CDMP,其他国内外认证也在逐步引进中

4、典型案例参考:与数字化转型网数据要素X研习社社员一起学习典型案例,共探企业数据落地应用

本文由数字化转型网(www.szhzxw.cn)转载而成,来源于 托尼学长;编辑/翻译:数字化转型网Jack。

免责声明: 本网站(http://www.szhzxw.cn/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。 本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。http://www.szhzxw.cn/61631.html
联系我们

联系我们

17717556551

邮箱: editor@cxounion.org

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部