电脑桌面
添加蚂蚁七词文库到电脑桌面
安装后可以在桌面快捷访问

为什么要做数仓分层,不做行吗?

来源:金蝶云社区作者:金蝶2024-09-163

为什么要做数仓分层,不做行吗?

大家好,我是一哥。

今天跟大家聊一聊数仓为什么分层?



01 经典的数仓分层

首先跟大家聊一个经典的数仓分层结构,主要包括ODS、DWS、DW、APP四层。


1111.webp


ODS:抽取的原始业务数据,结构一般和原始业务数据库表结构或者抽取的业务日志数据结构保持一致。一句话:从业务系统增量抽取,数据不做清洗转换,与业务系统数据模型保持一致。


DWS:根据ODS层,增加一些维度信息,过滤一些异常数据。为DW层提供来源明细数据,提供业务系统细节数据的长期沉淀,为未来分析类需求的扩展提供历史数据支撑。


DW:模型层,根据DWS层数据,按各个业务需求,以某个维度ID进行粗粒度汇总聚合。此层一般会根据数仓涉及的业务发展或者主数据的建立等,抽象出一些公用的聚合汇总模型


APP:应用层/指标层/报表层,每个公司的叫法不一样,一般指根据特定的某个应用或者报表进行的数据指标开发汇总。





02 数仓为什么分层

那么为什么数据仓库会有分层呢?

每多一层不就会多一些开发工作吗?还会经常有多层数据重复?不分层可不可以?


也许上面这些问题会困扰你,可能还会有人说,我来公司的时候已经有开发规范了,不分层不行!


其实数据仓库分层原因可以概括为以下4个方面:


2222.webp


  1. 用空间换时间:数仓的发展已经几十年了,在大数据技术出现之前,我们一般采用Oracle等一些关系型数据库来做数仓,但随着数据量的发展,特别是电信和银行业务的快速发展(那时候互联网企业还没起来),在进行一个数仓应用开发过程中,我们需要分很多步骤来进行,所以会考虑用空间来换时间,包括现在市面上也会有一些用空间换时间这样的OLAP产品。

  2. 减少重复开发:可以把一些指标用到的汇总数据进行抽象,建立一个或者多个模型,这些模型可以支撑我们建立多个数仓报表,这一步需要对业务非常了解,不然就会出现上面问题说的“ 还会经常有多层数据重复?”

  3. 复杂的题简单化:做过传统数仓的都知道,以前Oracle的存储过程会写几千行,所以现在我们一般很少写几千行的业务ETL逻辑了,而是分为多个ETL过程,从明细层到应

为什么要做数仓分层,不做行吗?

大家好,我是一哥。今天跟大家聊一聊数仓为什么分层?01 经典的数仓分层首先跟大家聊一个经典的数仓分层结构,主要包括ODS、DWS、DW、APP四...
点击下载文档文档为doc格式

声明:除非特别标注,否则均为本站原创文章,转载时请以链接形式注明文章出处。如若本站内容侵犯了原著者的合法权益,可联系本站删除。

已经是第一篇
确认删除?
回到顶部
客服QQ
  • 客服QQ点击这里给我发消息
QQ群
  • 答案:my7c点击这里加入QQ群
支持邮箱
微信
  • 微信