数据仓库高级面试题

数仓高内聚低耦合是怎么做的

定义

  • 高内聚:强调模块内部的相对独立性,要求模块内部的元素尽可能的完成一个功能,不混杂其他功能,从而使模块保持简洁,易于理解和管理。

  • 低耦合:模块之间的耦合度要尽可能的低,避免模块之间的复杂依赖,使得每个模块都可以独立存在,从而减少模块间的相互影响,提高系统的可维护性。

做到低耦合、高内聚

一般复杂的公共逻辑可以采用抽象类和抽象方法的方式下沉到共有模块中,然后由相关子类去实现抽象方法,来实现不同的功能。这样可以将复杂的逻辑拆分成各个子类,使得类之间的耦合度降低,提高代码的可维护性。

数仓中多重粒度的作用,以及实现

定义

在数据仓库中,粒度是指数据的细度。粒度越高,表示数据越细致,每个数据点所包含的信息量也就越大。粒度越低,表示数据的概括性越强,每个数据点所包含的信息量也就越小。

在数据仓库中,多重粒度指的是将数据按照多个不同的粒度进行存储,以便在需要时更方便地进行查询和分析。例如,可以将数据按年、月、日等不同的粒度进行存储,以便根据需里对数据进行按年、按月、按日等不同维度的分析。多重粒度数据仓库在实际应用中非常常见,能够满足大多数数据分析的需求。

作用

多重粒度数据仓库可以让我们更方便地对数据进行分析和查询,具体有以下几点作用:

1.提高查询效率: 将数据按照多个不同粒度存储,可以让我们更快地找到所需的数据。例如,如果我们需要查询某一天的销售数据,直接查询按日粒度存储的数据即可,而不用扫描整个数据仓库。

2、减少数据冗余:在数据仓库中,将数据按照多个粒度存储,可以减少数据几余,节省空间。例如,如果我们将每一天的销售数据都单独存储,那么一年的数据就需要存储 365 天的数据;如果将每一月的销售数据存储,则一年的数据只需要存储 12 个月的数据。

3、方便数据分析:多重粒度数据仓库可以让我们更方便地对数据进行分析。例如,如果我们想要对某一天的销售数据进行分析,可以直接查询按日粒度存储的数据;如果想要对某-月的销售数据进行分析,可以直接查询按月粒度存储的。

实现

在数据仓库中实现多重粒度是指在数据仓库中设计多种方式来表示和存储时间相关的数据。这样就可以在不同的粒度(例如年、月、日、小时等)》上查询数据,从而满足不同的分析需求

常用的实现方式有两种: 1.时间维度表:将时间的不同粒度分别建立为单独的维度表,并与事实表进行关联。例如,可以建立年、月、日、小时等维度表,并通过外键关联到事实表中。

2.时间层级表:将时间的不同粒度存储在同一个表中,并设计为层级结构。例如,可以将时间表设计为“年-月-日-小时”的层级结构,将每个时间点都存储在同一个表中。

具体选择哪种方式,取决于业务需求和数据查询的频率。

时间维度表的优势在于查询速度快,但维护成本较高,需要单独维护多个表。

时间层级表的优势在于维护成本低,但查询速度可能较慢。

如何提高查询效率

  1. 优化数据库结构,统一管理所有数据,减少查询的次数;

  2. 使用缓存技术,将查询结果保存到内存中,加速查询;

  3. 合理利用索引,提高查询的效率;

  4. 采用分布式系统,将查询任务分发到多台机器,提高查询速度;

  5. 采用消息队列技术,将批量数据进行拆分,减少查询时间;

  6. 利用数据库定时备份技术,减少查询时间;

  7. 采用数据库分片技术,将数据分布到多个数据库,提高查询效率;

  8. 采用数据库视图技术,将复杂的SQL语句拆分为多个简单的SQL语句,提高查询效率;

  9. 采用SQL优化技术,充分利用数据库的索引,提高查询效率;

  10. 采用数据库集群技术,将数据分布到多个数据库服务器,提高查询效率;

数仓数据域划分几种方式

我们采用四种方式对数仓数据域进行划分:

  1. 按照业务类型划分:比如销售、财务、研发、物流等等。

  2. 根据需求方划分:比如需求方为财务部,就可以设定对应的财务主题域,而财务主题域里面可能就会有员工工资分析,投资回报比分析等主题。

3 按照功能或应用划分:比如微信中的朋友圈数据域、群聊数据域等,而朋友圈数据域可能就会有用户动态信息主题、广告主题等。

4 按照部门划分:比如可能会有运营域、技术域等,运营域中可能会有工资支出分析、活动宣传效果分析等主题.

数仓构建有几种方式

建模方式

图片

数仓构建方式

说法1:

  1. 集成数仓构建:这种方法把各类数据存储在各自的数据库中,然后通过数据集成工具将数据集成到一个数仓中,以满足数据分析的需求。

  2. 数据融合数仓构建:这种方法是在源数据层面进行融合,将源数据经过整合、清洗、转换等操作,构建数据仓库,以满足数据分析的需求。

  3. 元数据数仓构建:这种方法是在元数据层面进行数据整合,建立元数据的抽象层,以便更好的管理和操作数据,以满足数据分析的需求。

  4. 大数据数仓构建:这种方法是将大数据仓库采用分布式存储的方式进行数据存储,以满足数据分析的需求。

说法2

1、基于现有系统构建:利用现有系统,如ERP、SCM、CRM等,通过开发定制或者引入第三方软件,构建数字化仓库管理系统。

2、新建系统构建:从零开始,根据实际需求,开发建立一套新的数字化仓库管理系统。

3、集成构建:将现有的传统仓库管理系统和新的数字化仓库管理系统进行整合,构建全新的仓库管理系统。

说法3

数仓构建有多种方式。这取决于您的需求、技术基础、数据来源和构建目标。

常用的数仓构建方式包括:

1.基于 ETL的数仓构建:在这种方式中,您可以使用 ETL (提取、转换、加载)工具来从源系统提取数据,然后在数仓中进行转换和加载。

2.基于 ELT 的数仓构建:在这种方式中,您可以使用 ELT(提取、加载、转换)工具来将数据从源系统提取到数仓,然后在数仓中进行转换。

3、基于事件驱动的数仓构建: 在这种方式中,您可以使用事件驱动的架构,在事件发生时即时地将数据加载到数仓中

4.基于流的数仓构建:在这种方式中,您可以使用流处理框架,以流的方式将数据实时加载到数仓中。

哪种方式最合适,取决于您的业务需求和技术环境。

粒度操作

常用的粒度操作有上卷、下钻、切片、切块、旋转、拉伸、锯齿等。

  • 上卷:上卷指的是增加粒度,将原来比较细的粒度提升到更大的粒度,从而让整体更清晰,更容易理解,更容易把握。

  • 下钻:下钻指的是减小粒度,将原来比较粗的粒度放低到更细的粒度,从而更加细致的把握数据的细节,更加清楚的把握数据的特征。

  • 切片:切片指的是将数据分割成若干个数据片,从而更加方便地进行管理和操作。

  • 切块:切块指的是将数据分割成若干个数据块,从而更加方便地进行管理和操作。

  • 旋转:旋转指的是对数据进行旋转操作,从而让数据看起来更加美观,更容易理解。

  • 拉伸:拉伸指的是对数据进行拉伸操作,从而让数据看起来更加清晰,更容易理解。

  • 锯齿:锯齿指的是对数据进行锯齿操作,从而让数据看起来更加精细,更容易理解。

SQL实现

SQL实现上卷下钻切片切块旋转通常包括以下步骤:

1、首先使用SELECT语句从数据库中选择所需要的表;

2、使用GROUP BY语句将数据按照指定的维度进行分组;

3、使用HAVING语句按照指定条件对分组数据进行筛选;

4、使用ORDER BY语句对分组后的数据进行排序;

5、使用LIMIT和OFFSET语句对数据进行分页;

6、使用CASE语句对数据进行旋转以形成报表。

数仓中ODS层命中多少为合理

数仓中ODS层的命中率是指数据在ODS层中的命中率。一般来说,ODS层的命中率应该尽量高,因为这意味着更多的数据是从ODS层获取的,而不是从原始数据源获取,这样可以减少对原始数据源的访问压力,并提高数据获取的效率。

不过,ODS层的命中率也不能太高,因为如果ODS层的命中率过高,就意味着ODS层的数据不够新,这可能会导致ODS层的数据不够准确。所以,ODS层的命中率应该适中,一般来说,在80%~90%左右是合理的。

当然,ODS层的命中率也受到很多因素的影响,比如ODS层的数据更新频率、ODS层的数据容量等。因此,具体的合理命中率还需要根据实际情况具体分析。

数仓价值链的体现和实现。

数仓价值链的体现主要是通过以下几个方面:

1、数据采集:数仓系统要能够从各种来源采集数据,包括传统数据库、网络日志、企业应用系统和第三方数据源等。

2、数据清洗:数据采集后,可能存在脏数据、缺失数据等情况,数仓系统要对数据进行清洗,使其符合分析的要求。

3、数据存储:将清洗后的数据存储到数仓系统中,以便后续的分析和查询。

4、数据分析:使用数仓系统中的数据进行分析,提供对决策者有价值的信息。

5、数据报告:将分析结果呈现给决策者,帮助他们做出决策。

建立数仓通常需要经过以下步骤

建立数据仓库通常要经过以下几个步骤:

1、需求分析:在建立数据仓库之前,需要先进行需求分析,确定数据仓库的目的和功能,并规划数据仓库的架构和设计。

2、数据清洗和整合:在建立数据仓库之前,需要对来源数据进行清洗和整合,以确保数据的准确性和完整性。

3、构建数据模型:根据数据仓库的需求和功能,构建数据仓库的逻辑数据模型。

4、建立物理数据模型:根据逻辑数据模型,建立物理数据模型,并根据需要设计数据仓库的存储结构。

5、数据加载:将来源数据加载到数据仓库中。

6、数据分析和报告:使用数据仓库中的数据进行分析和生成报告,为企业决策提供依据。

7、维护和优化:对数据仓库进行定期的维护和优化,以确保数据的准确性和完整性。

指标生命周期可以从哪几个方面来评估

指标从被创建到被废弃的整个过程。指标生命周期可以从以下几个方面来评估: 

  1. 创建时间: 指标被创建的时间点

  2. .更新频率:指标数据更新的频率,包括实时更新、每日更新、每周更新等

  3. .使用频率:指标被使用的频率,包括每日使用、每周使用、每月使用等。

  4. 使用场景:指标被使用的场景,包括决策支持、规划、监控等。

  5. .相关性: 指标与业务的相关性,即指标能否反映业务状态

  6. .准确性: 指标数据的准确性,即指标能否反映实际情况

  7. 可解释性: 指标数据的可解释性,即指标能否被正确理解和解释

  8. 可操作性: 指标能否被有效地操作,即指标数据能否被用于实际的决策或行动。

通过对指标生命周期的评估,可以帮助企业更好地管理和使用指标,提高指标的有效性和价值

数据治理在做什么

数据治理是一种指导和管理数据生命周期的框架和方法。这包括数据的收集、存储、处理、使用和保护。数据治理的目的是提高数据质量,并确保数据在组织内被合理使用。数据治理可以帮助组织有效地使用数据,并防止数据泄露或滥用。

做数仓的目的

数据仓库(Data Warehouse)是一种存储大量历史数据的系统,它主要用于数据分析和报告。数据仓库通常包含来自多个不同来源的数据,并使用ETL(提取,转换和加载)过程将数据转换为可以进行分析的形式。

数据仓库的目的是为管理层提供一个在线的数据分析工具,使他们能够快速获取有关公司业务的信息,并基于这些信息做出决策。数据仓库的建立是为了满足企业决策的需要,为企业的经营决策、规划决策、计划决策和控制决策提供依据,即为企业决策供给。

数据仓库是数据集成的基础,也是数据挖掘的前提。因此,建立数据仓库的目的不仅仅是为了供给决策,还包括为数据挖掘和数据分析提供基础。

--END--

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/167240.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

Linux编辑器-gcc/g++使用

> 作者简介:დ旧言~,目前大二,现在学习Java,c,c,Python等 > 座右铭:松树千年终是朽,槿花一日自为荣。 > 目标:熟练使用gcc/g编译器 > 毒鸡汤:真正…

【Dynamic-datasource】Springboot多数据源整合

引入依赖&#xff1a; <dependency><groupId>com.baomidou</groupId><artifactId>dynamic-datasource-spring-boot-starter</artifactId><version>3.5.0</version> </dependency> 整体pom文件&#xff1a; <?xml versi…

ruoyi-vue前后端分离版本验证码实现思路

序 时隔三个月&#xff0c;再次拿起我的键盘。 前言 ruoyi-vue是若依前后端分离版本的快速开发框架&#xff0c;适合用于项目开始搭建后台管理系统。本篇文章主要介绍其验证码实现的思路。 一、实现思路简介 1、后端会生成一个表达式&#xff0c;比如1 2 ? 3&#xff0…

Cannot find proj.db

原因 编译GDAL完成后&#xff0c;我打了个包(包括.so)移动到了另外同环境的机器上。 应用gdal ogr2ogr时候提示找不到proj.db 解决办法&#xff1a; 把proj的share拷贝到另外环境上。 #gdal新建othershare&#xff0c;proj的share复制过去 mkdir -p /usr/local/gdal-3.6.2…

bhosts 显示节点 “unreach“ 状态

4.1、bhosts简单使用 查看各节点情况&#xff0c;包括状态和正在运行的 Job 情况等 STATUS列展示节点状态 OK&#xff1a;可用——可接受新的作业的正常状态 unavail&#xff1a;不可用 可能原因&#xff1a;主机关闭&#xff0c;LIM和sbatchd不可达 unreach&#xff1a;无法连…

大学生如何免费认证,下载,安装MATLAB

下载 打开学校图书馆官网 选择版本后&#xff0c;点击下载 注册绑定个人认证 前提&#xff01;需要有学校邮箱【以edu.cn结尾的】 进入mathworks官网 注册账户 安装 下载完后&#xff0c;打开 选择&#xff1a;setup 安装程序 勾选&#xff1a;是&#xff1b;选择&#xf…

【Linux进阶之路】动静态库

文章目录 回顾一. 静态库1.代码传递的方式2.简易制作3.原理 二. 动态库1.简易制作2.基本原理 尾序 回顾 前面在gcc与g的使用中&#xff0c;我们简单的介绍了动态库与静态库的各自的优点与区别&#xff1a; 动态链接库&#xff0c;也就是所有的程序公用一份代码,虽然方便省空间&…

Node.js黑马时钟案例(本人详细介绍实现过程)

先上没有使用node.js之前的html部分代码 <!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"><title></title><style>* {margin: 0;padding: 0;}html,body {height: 100%;overflow: hidden;backgrou…

unity-模块卸载重新安装

unity-模块卸载重新安装 发现模块错误&#xff1f;发现不可以卸载重装&#xff1f;... 依据以下步骤试试&#xff1a; 1. 删除模块文件夹&#xff08;以安卓模块为例&#xff09; 2. 找见编辑器模块json 3. 找见所有安卓相关模块修改selected为false&#xff1a;"sel…

「Verilog学习笔记」边沿检测

专栏前言 本专栏的内容主要是记录本人学习Verilog过程中的一些知识点&#xff0c;刷题网站用的是牛客网 timescale 1ns/1ns module edge_detect(input clk,input rst_n,input a,output reg rise,output reg down );reg a_tem ; always (posedge clk or negedge rst_n) beginif…

【干货分享】产品经理面试题:你觉得项目管理的职责是什么?

大家好&#xff0c;我是小米&#xff01;今天我要和大家一起聊一个在产品经理面试中常被问到的重要问题&#xff1a;“你觉得项目管理的职责是什么&#xff1f;”别担心&#xff0c;小米来了&#xff0c;一起揭秘项目管理的核心职责&#xff0c;让你在面试中游刃有余&#xff0…

Oracle for Windows安装和配置——Oracle for Windows net配置

2.3. Oracle for Windows net配置 2.3.1. Oracle net配置 2.3.1.1. Oracle net简介 前述章节中,我们只是安装了数据库软件,创建了数据库,测试在服务器本地连接查询数据库。但还不能通过网络远程连接访问数据库,因为我们还没配置用来远程连接访问该数据库的组件Oracle ne…

滚动更新和回滚部署在 Kubernetes 中的工作原理

公众号「架构成长指南」&#xff0c;专注于生产实践、云原生、分布式系统、大数据技术分享。 在过去的几年中&#xff0c;Kubernetes 在生产环境中被广泛使用&#xff0c;它通过其声明式 API 提供了大量解决方案&#xff0c;用于编排容器。 Kubernetes 的一个显著特性是其具有…

CorelDraw2024(CDR)- 矢量图制作软件介绍

在当今数字化时代&#xff0c;平面设计已成为营销、品牌推广和创意表达中不可或缺的元素。平面设计必备三大软件Adebo PhotoShop、CorelDraw、Adobe illustrator, 今天小编就详细介绍其中之一的CorelDraw软件。为什么这款软件在设计界赢得了声誉&#xff0c;并成为了设计师的无…

uniapp的/绝对定位/相对定位/固定定位/粘滞定位

【[html5]你还分不清楚绝对定位和相对定位......】 相对定位一般配合绝对定位使用 <template><view class"content"><view style"background-color: black;width: 100%;height: 300px;position:relative;"><view class"one"…

python爬取快手视频

原理 F12点击graphql能够看到里面有若干视频信息,一会儿要取其中的url地址 右键复制cURL 然后进入到这个转换器连接 https://curlconverter.com/python/ 点击这个连接复制上述信息,然后就能解析处下面的代码,拷贝到你的项目中替换cookies,headers,json_data 源代码 …

【开源】基于JAVA的超市自助付款系统

项目编号&#xff1a; S 008 &#xff0c;文末获取源码。 \color{red}{项目编号&#xff1a;S008&#xff0c;文末获取源码。} 项目编号&#xff1a;S008&#xff0c;文末获取源码。 目录 一、摘要1.1 项目介绍1.2 项目录屏 二、研究内容2.1 商品类型模块2.2 商品模块2.3 超市账…

「Verilog学习笔记」ROM的简单实现

专栏前言 本专栏的内容主要是记录本人学习Verilog过程中的一些知识点&#xff0c;刷题网站用的是牛客网 分析 要实现ROM&#xff0c;首先要声明数据的存储空间&#xff0c;例如&#xff1a;[3:0] rom [7:0]&#xff1b;变量名称rom之前的[3:0]表示每个数据具有多少位&#xff0…

面试题 三

一、this 手写call //1、定义myCall方法 //3、接收剩余参数并返回结果 Function.prototype.myCall function (thisArg, ...arg) {// console.log(thisArg); //person对象// console.log(this); //func方法//2、设置this并调用原函数//下面三行代码有个缺陷就是如果pers…

暖阳脚本_ 将Agent技术的灵活性引入RPA,清华等发布自动化智能体ProAgent

RPA暖阳脚本 近日&#xff0c;来自清华大学的研究人员联合面壁智能、中国人民大学、MIT、CMU 等机构共同发布了新一代流程自动化范式 “智能体流程自动化” Agentic Process Automation&#xff08;APA&#xff09;&#xff0c;结合大模型智能体帮助人类进行工作流构建&#x…