数字化转型网数据专题将关注数据治理、数据质量管理、数据架构、主数据管理、数据仓库、元数据管理、数据备份、数据挖掘、数据分析、数据安全、大数据、数据合规、等数据相关全产业链相关环节。
数据来源、转换和迁移工具用于执行将数据转换为数据仓库中的统一格式所需的所有转换、摘要和所有更改,它们也称为提取、转换和加载工具。
抽取
全量抽取:适用于数据量小且不容易判断其数据发生改变的诸如关系表,维度表,配置表等增量抽取:适用于数据量大,为了节省抽取时间而采用的抽取策略
清洗
空值处理:将空值替换为特定值或直接过滤掉验证数据正确性:把不符合业务含义的数据做统一处理规范数据格式:比如把所有日期都规范成YYYY-MM-DD的格式数据转码:把一个源数据中用编码表示的字段通过关联编码表转换成代表其真实意义的值数据标准统一:比如在源数据中表示男女的方式有很多种,在抽取的时候直接根据模型中定义的值做转化。
转化和加载
转换:用ODS中的增量或者全量数据来刷新DW中的表加载:每insert数据到一张表都可以称为数据加载关于ETL工具的选型,这里罗列了一张对比表,基本囊括常用的ETL工具。
数字化转型网数据专题包含哪些内容
数字化转型网数据专题将关注数据治理、数据质量管理、数据架构、主数据管理、数据仓库、元数据管理、数据备份、数据挖掘、数据分析、数据安全、大数据、数据合规、等数据相关全产业链相关环节。
数字化转型网数据专题包含:
1、数据相关外脑支持:100+数据相关专家、100+数据实践者、1000+相关资料
2、数据研习社:与全球数据相关专家、实践者共同探讨相关问题,推动产业发展!
3、国际认证培训:目前已引进DAMA国际认证CDMP,其他国内外认证也在逐步引进中
4、典型案例参考:与数字化转型网数据要素X研习社社员一起学习典型案例,共探企业数据落地应用