导航:首页 > 数据处理 > 数仓数据聚合是什么意思

数仓数据聚合是什么意思

发布时间:2023-03-01 05:39:39

① 数据湖和数据仓库的区别是什么

数据湖就是一个集中存储数据库,用于存储所有结构化和非结构化数据。数据湖可用其原生格式存储任何类型的数据,这是没有大小限制。

数据仓库是位于多个数据库上的大容量存储库。它的作用是存储大量的结构化数据,并能进行频繁和可重复的分析。

数据科学家

可能会用具有预测建模和统计分析等功能的高级分析工具。而数据仓库就是数据仓库非常适用于月度报告等操作用途,因为它具有高度结构化。在架构中数据湖通常,在存储数据之后定义架构。使用较少的初始工作并提供更大的灵活性。

在数据仓库中存储数据之前定义架构。这需要你清理和规范化数据,这意味着架构的灵活性要低不少。

其实数据仓库和数据湖是我们都需要的地方,数据仓库非常适用于业务实践中常见的可重复报告。当我们执行不太直接的分析时,数据湖就很有用。

② 什么是数据仓库,数据仓库如何分层

数据仓库分层的原因
1通过数据预处理提高效率,因为预处理,所以会存在冗余数据
2如果不分层而业务系统的业务规则发生变化,就会影响整个数据清洗过程,工作量巨大
3通过分层管理来实现分步完成工作,这样每一层的处理逻辑就简单了

标准的数据仓库分层:ods(临时存储层),pdw(数据仓库层),mid(数据集市层),app(应用层)
ods:历史存储层,它和源系统数据是同构的,而且这一层数据粒度是最细的,这层的表分为两种,一种是存储当前需要加载的数据,一种是用于存储处理完后的数据。
pdw:数据仓库层,它的数据是干净的数据,是一致的准确的,也就是清洗后的数据,它的数据一般都遵循数据库第三范式,数据粒度和ods的粒度相同,它会保存bi系统中所有历史数据
mid:数据集市层,它是面向主题组织数据的,通常是星状和雪花状数据,从数据粒度将,它是轻度汇总级别的数据,已经不存在明细的数据了,从广度来说,它包含了所有业务数量。从分析角度讲,大概就是近几年
app:应用层,数据粒度高度汇总,倒不一定涵盖所有业务数据,只是mid层数据的一个子集。

数据仓库的目的是构建面向分析的集成化数据环境,为企业提供决策支持。数据仓库的context也可以理解为:数据源,数据仓库,数据应用

数据仓库可以理解为中间集成化数据管理的一个平台
etl(抽取extra,转化transfer,装载load)是数据仓库的流水线,也可以认为是数据仓库的血液。
数据仓库的存储并不需要存储所有原始数据,因为比如你存储冗长的文本数据完全没必要,但需要存储细节数据,因为需求是多变的,而且数据仓库是导入数据必须经过整理和转换使它面向主题,因为前台数据库的数据是基于oltp操作组织优化的,这些可能不适合做分析,面向主题的组织形式才有利于分析。
多维数据模型就是说可以多维度交叉查询和细分,应用一般都是基于联机分析处理(online analytical process OLAP),面向特定需求群体的数据集市会基于多位数据模型构建
而报表展示就是将聚合数据和多维分析数据展示到报表,提供简单和直观的数据。
元数据,也叫解释性数据,或者数据字典,会记录数据仓库中模型的定义,各层级之间的映射关系,监控数据仓库的数据状态和etl的任务运行状态。一般通过元数据资料库来统一存储和管理元数据。

阅读全文

与数仓数据聚合是什么意思相关的资料

热点内容
云南男装代理有哪些牌子 浏览:831
南宁面料市场到哪个站下车 浏览:155
县城技术类事业单位工资一般多少 浏览:33
浅谈通过会计信息化有什么收获 浏览:464
spss数据模板是什么 浏览:23
文档筛选删除后剩余的数据在哪里 浏览:557
市场半边天是什么意思 浏览:46
真正的名牌服装批发市场在哪里 浏览:156
菜市场买花甲怎么选 浏览:752
微信小程序奥特曼抽卡游戏王的激活码是什么 浏览:128
数据线灰蓝是什么意思 浏览:142
天猫产品如何查总销量 浏览:183
如何查询银行贵金属交易信息 浏览:709
地区代理商有什么条件 浏览:947
店铺交易税怎么减少 浏览:243
产品通孔什么意思 浏览:706
半永久纹绣怎么开拓市场 浏览:402
产品担当薪水如何 浏览:126
为什么注册商标要找代理公司 浏览:75
交易策略需要实盘多久才有效 浏览:546