【数据库】通过一个实例来认识数据流图DFD

 导读:通过一个实例(数据中台)说明数据流图DFD的作用、介绍了常见的数据流图元素及其标准符号以及如何画数据流图。数据流图主要被分析师、系统设计师、流程优化专家、系统管理员以及与系统开发和维护相关的人员查看和使用。对于刚考完2024年5月的软考考生来说并不陌生,架构师、提供分析师、软件设计师考察内容有涉及这部分内容。

目录

 1、实例数据中台数据流图(DFD)

1.1 数据中台概述

1.2 数据中台核心功能

1.3 数据中台示例-数据流图

2、认识数据流图(DFD)

2.1 数据流图作用

2.2 常见的数据流图元素及其标准符号

2.3 画好数据流图的步骤


1、实例数据中台数据流图(DFD

1.1 数据中台概述

数据中台是一个综合的数据管理和分析平台,其核心目的是帮助企业更好地管理和利用数据。

1.2 数据中台核心功能

  • 数据采集与集成:将来自不同系统和平台的数据源整合到中央数据平台中,包括结构化数据、半结构化数据和非结构化数据等。
  • 数据加工:对数据进行清洗、转换、计算、分析等处理,使数据更加规范化、精细化、可视化,提高数据的价值和应用效果。
  • 数据存储:提供可靠的数据存储和管理能力,确保数据的安全性、可靠性和可用性,同时提供数据备份和恢复功能。
  • 数据应用:为企业的业务和决策提供数据支持,包括数据分析、数据挖掘、数据可视化等应用。

1.3 数据中台示例-数据流图

以上是从数据中台的整体数据流向来画的数据流图,其中主要的模块包含

  • 数据源中的各种数据库
  • 同步功能模块
  • 实时计算模块
  • 批量计算模块
  • 数据服务
  • 离线同步数据模块

1、数据同步中的实时同步是同步开发人员配置好实时同步作业,其中实时同步作业采用flinkCDC来处理数据,而数据源则采用监听oracle数据库的re dolog和mysql的binlog作为数据源。

2、数据同步中的实时同步是同步人员配置好离线同步作业,其中离线同步作业采用Data X来处理数据,而数据源则轮询查询数据库和API的方式获取数据。

3、实时作业是实时开发人员通过写flink流处理作业之后,实时读取kafka数据计算完成之后,如果是中间数据则存储回kafka,如果是最终结果则写回到WinQflow实时数据仓库。在流处理作业有时会读取WinQflow实时数据仓库放入内存作为流式计算使用。同时有些实时数据会实时存储到数据湖中,持久化存储到文件系统或者S3中。

4、离线作业是离线开发人员通过写SPL离线开发作业之后,经过powerjob调度之后之后,批量从WinQSPL数据仓库中读取数据,经过作业计算之后之后,写回到WinQSPL数据仓库中。同时有些离线数据会实时存储到数据湖中,持久化存储到文件系统或者S3中。

5、服务开发人员开发数据服务API之后,报表使用API访问数据,当报表和其它应用需要展示数据则会请求 服务API,服务API则调用各数据仓库的OLAP分析引擎,完成分析后将计算结果返回给报表展示。


2、认识数据流图

数据流图(Data Flow Diagram,简称DFD)是一种用于描述信息系统过程的图形工具。它通过图形化的方式展示了数据在信息系统中的流动和处理过程,帮助我们理解和描述系统中的数据流向和交互方式。

2.1 数据流图作用

1、数据流图的主要目的是说明数据的流动路径和转换过程,以及参与数据流动的实体、进程和存储点,从而提供对系统运作和数据处理过程的视觉化概览。

2、通过数据流图,这些人员可以更好地理解和分析系统中的数据流程,从而能够更好地进行设计、优化、故障排查和系统集成等工作。

  • 需求分析和系统设计:数据流向图可以帮助分析人员理解需求,识别数据的来源、流向和处理过程,从而进行系统的设计和规划。
  • 流程优化和改进:通过绘制数据流向图,可以查看和分析数据在系统中的流动路径,找到可能存在的瓶颈、冗余和低效的环节,以便优化和改进业务流程。
  • 故障排查和问题定位:当系统出现故障或问题时,数据流向图可以帮助定位问题所在,追踪数据在系统中的流动和处理过程,从而更快地找到问题的根源。
  • 系统集成和接口设计:对于需要与其他系统进行集成或交互的系统,数据流向图可以清晰地呈现数据的输入和输出,有助于设计和定义系统间的接口和数据传递方式。
  • 系统文档和沟通工具:数据流向图可以作为系统的文档和视觉工具,以便于沟通和交流系统的数据处理过程,帮助各方理解系统的工作原理和数据流动情况。

  • 作为系统文档:数据流图可以作为系统的一部分文档,记录和描述系统中的关键数据流程和组件。
  • 作为沟通工具:数据流图可以用来与不同角色的团队成员、利益相关者或客户交流和共享信息,帮助大家理解系统的运作和设计。
  • 作为培训工具:数据流图可以用于培训新成员或用户,帮助他们了解系统的基本流程和数据传递。
  • 作为审计工具:数据流图可以用于审计系统的安全性和合规性,识别潜在的数据泄漏或违规行为。

2.2 常见的数据流图元素及其标准符号

  • 实体/角色(Entity/Agent):代表系统的外部实体,如用户、部门等。标志为一个简单的方框,可在内部加上实体的名称。
  • 数据流(Data Flow):代表数据在不同实体和进程之间流动的路径。标志为一根带箭头的线,箭头指向数据的流向。
  • 进程/转换(Process/Transformation):代表对数据的处理或转换过程。标志为一个圆角矩形,内部可以注明进程的名称。
  • 数据库(Data Store):代表数据在系统中的持久存储,如数据库、文件等。标志为一个长方形,两条竖线表示存储的位置。

2.3 画好数据流图的步骤

  • 确定系统范围:明确数据流图所描述的系统或过程的边界。确定主要的实体/角色、数据流、进程/转换、数据存储、外部实体等。
  • 识别实体/角色:确定系统中的实体或角色,它们是与系统进行交互的外部对象。这些实体可以是人员、组织或其他系统。
  • 识别数据流:确定系统中的数据流,它们代表在实体、过程和存储之间流动的信息。标识每个数据流的名称和描述。
  • 确定进程/转换:定义系统中的进程或转换,表示数据流的处理过程。标识每个进程的名称和描述,确定进程之间的关系。
  • 识别数据存储:确定系统中的数据存储,表示数据流被存储或提供给处理过程的位置。标识每个数据存储的名称和描述。
  • 确定外部实体和数据库:识别与系统交互的外部实体和系统的数据库。在数据流图中标识它们,以显示数据流的起点和终点。
  • 画图:使用适当的符号和图形来表示实体、数据流、进程、数据存储和外部实体。连接它们以显示数据流的流向和处理过程。
  • 评审和改进:与相关人员一起评审数据流图,确保其准确反映了系统或过程的需求和流程。根据反馈进行修改和改进。

注:相关核心内容整理来源网上资料整合

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/662730.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

Altium Designer软件下载安装「专业PCB设计软件」Altium Designer安装包获取!

Altium Designer,这款软件凭借其全面的设计流程覆盖,从概念到实现,都能为电子工程师提供强大的支持。 在硬件设计方面,Altium Designer提供了丰富的元件库和灵活的布局选项,使得工程师能够轻松地进行电路设计&#xff…

反射机制大揭秘-进阶Java技巧,直击核心!

反射在Java中扮演着重要的角色,掌握了反射,就等于掌握了框架设计的钥匙。本文将为您逐步讲解反射的基本概念、获取Class对象的三种方式、使用反射实例化对象并操作属性和方法,还有解析包的相关内容。跟随我一起探索反射的奥秘,提升…

学习Java的日子 Day48 函数,DOM

Day48 1.流程控制语句 if else for for-in(遍历数组时,跟Java是否一样) While do while break 语句用于跳出循环 continue 用于跳过循环中的一个迭代 2.函数 2.1 JavaScript 函数语法 函数就是包裹在花括号中的代码块,前面使用了关键词 function funct…

数据分析必备:一步步教你如何用Pandas做数据分析(11)

1、Pandas 自定义选项 Pandas 自定义选项操作实例 Pandas因为提供了API来自定义行为,所以被广泛使用。 自定义API中有五个相关功如下: get_option() set_option() reset_option() describe_option() option_context() 下面我们一起了解下这些方法。 1.…

【移动云】主机ECS搭建项目——具体步骤教程

目录 一、什么是移动云 二、移动云有什么优势 三、移动云使用 1.注册账号 2.云主机ECS创建 3.管理云主机 4.连接配置云主机 5.搭建服务器提示与建议 四、使用感受 一、什么是移动云 移动云是中国领先的云服务品牌之一,它以强大的资源优势、技术实力和品牌价…

母婴商城购物网站,基于 SpringBoot+Vue+MySQL 开发的前后端分离的母婴商城购物网站设计实现

目录 一. 前言 二. 功能模块 2.1. 前台功能 2.2. 用户信息管理 2.3. 商品分类管理 2.4. 商品信息管理 2.5. 商品资讯管理 三. 部分代码实现 四. 源码下载 一. 前言 现代经济快节奏发展以及不断完善升级的信息化技术,让传统数据信息的管理升级为软件存储&a…

Compose第一弹 可组合函数+Text

目标: 1.Compose是什么?有什么特征? 2.Compose的文本控件 一、Compose是什么? Jetpack Compose 是用于构建原生 Android 界面的新工具包。 Compose特征: 1)声明式UI:使用声明性的函数构建一…

File name ‘xxxx‘ differs from already included file name ‘xxxx‘ only in casing.

一、报错信息 VSCode报错如下: File name ‘d:/object/oral-data-management/src/components/VisitLogPopup/Info.vue’ differs from already included file name ‘d:/object/oral-data-management/src/components/VisitLogPopup/INfo.vue’ only in casing. The…

树莓派4B 学习笔记1:TF卡系统盘烧录_初次启动_远程端连接配置

今日开始学习树莓派4B 4G:(Raspberry Pi,简称RPi或RasPi) TF卡系统盘烧录_初次启动_远程端连接配置 目录 格式化SD卡: 烧录系统Win32DiskImager: Raspberry Pi Imager镜像烧写: 树莓派官网资料…

fyne widget小部件1

fyne widget小部件1 label标签 Label 小部件是其中最简单的——它向用户呈现文本。不像canvas.Text它可以处理一些简单的格式(例如\n)。 package mainimport ("fyne.io/fyne/v2/app""fyne.io/fyne/v2/widget" )func main() {myApp : app.New…

【因果推断python】1_因果关系初步1

目录 为什么需要关心因果关系? 回答不同类型的问题 当关联确实是因果时 为什么需要关心因果关系? 首先,您可能想知道:它对我有什么好处?下面的文字就将围绕“它”展开: 回答不同类型的问题 机器学习目…

MOS管开关电路简单笔记

没错&#xff0c;这一篇还是备忘录&#xff0c;复杂的东西一律不讨论。主要讨论增强型的PMOS与NMOS。 PMOS 首先上场的是PMOS,它的导通条件&#xff1a;Vg-Vs<0且|Vg-Vs>Vgsth|&#xff0c;PMOS的电流流向是S->D,D端接负载&#xff0c;S端接受控电源。MOS管一般无法…

opencascade 笔记

opencascade 画一个无限大的面 在 OpenCascade 中&#xff0c;要绘制一个无限大的面&#xff0c;你可以使用 gp_Pln 类来定义一个平面&#xff0c;然后将其绘制出来。这里是一个示例代码&#xff0c;演示如何在 OpenCascade 中绘制一个无限大的平面&#xff1a; #include <…

STM32-12-OLED模块

STM32-01-认识单片机 STM32-02-基础知识 STM32-03-HAL库 STM32-04-时钟树 STM32-05-SYSTEM文件夹 STM32-06-GPIO STM32-07-外部中断 STM32-08-串口 STM32-09-IWDG和WWDG STM32-10-定时器 STM32-11-电容触摸按键 文章目录 1. OLED显示屏介绍2. OLED驱动原理3. OLED驱动芯片简介4…

pytorch笔记:torch.nn.Flatten()

1 介绍 torch.nn.Flatten(start_dim1, end_dim-1) 将一个连续的维度范围扁平化为一个张量 start_dim (int)要开始扁平化的第一个维度&#xff08;默认值 1&#xff09;end_dim (int)要结束扁平化的最后一个维度&#xff08;默认值 -1&#xff09; 2 举例 input torch.ra…

过去的六年,教会了我很多事

目录 过去六年的风风雨雨android缘起爱情缘灭顿悟收拾心情&#xff0c;再次启航面试阿里大起大落 如今时光&#xff0c;刺激且美好未来展望 过去六年的风风雨雨 android缘起 2018年&#xff0c;我从北京联合大学毕业&#xff0c;跟随着学长一起创业&#xff0c;从此开始了我的…

DeFi的历程与未来:探寻去中心化金融的前行路

随着区块链技术的不断演进和加密货币市场的持续繁荣&#xff0c;DeFi&#xff08;去中心化金融&#xff09;作为一种新兴领域正迅速崛起&#xff0c;其发展历史和未来前景备受关注。 过去&#xff1a;DeFi 的发展历史 DeFi 并非一夜之间出现&#xff0c;而是经历了一系列的发展…

【信息学奥赛】字典的键和值对换

【信息学奥赛】字典的键和值对换 &#x1f496;The Begin&#x1f496;点点关注&#xff0c;收藏不迷路&#x1f496; 输入一个字典&#xff0c;要求将该字典的键和值对换。&#xff08;注意&#xff0c;字典中有键的值是重复的&#xff09; 输入&#xff1a; 一行&#xff0…

【ai】livekit服务本地开发模式2:模拟1个发布者

是一个会议用软件:LiveKit is an open source project that provides scalable, multi-user conferencing based on WebRTC. It’s designed to provide everything you need to build real-time video audio data capabilities in your applications.LiveKit’s server is wr…

DiffBIR论文阅读笔记

这篇是董超老师通讯作者的一篇盲图像修复的论文&#xff0c;目前好像没看到发表在哪个会议期刊&#xff0c;应该是还在投&#xff0c;这个是arxiv版本&#xff0c;代码倒是开源了。本文所指的BIR并不是一个single模型对任何未知图像degradation都能处理&#xff0c;而是用同一个…