XX数字中台技术栈及能力

XX数字中台技术栈及能力

1 概述

XX数字中台面向数据开发者、数据管理者和数据应用者,提供数据汇聚、融合、治理、开发、挖掘、共享、可视化、智能化等能力,实现数据端到端的全生命周期管理,以共筑数字基础底座,共享数据服务能力,数字化赋能为战略,助力企业数字化转型。

2 技术架构图

XX数字中台的技术架构图,如下图所示:

在这里插入图片描述

大数据公共计算环境:主要采用Hadoop技术体系,支持大规模数据的采集、计算、治理和智能分析,是数字中台的重要技术基础。

  • 数据采集:包括实时采集和离线采集。采用开源的批流一体采集引擎FlinkX和自研的实时采集管理、离线采集采集管理实现将不同业务场景数据采集到数据中台。实时采集和离线采集管理端采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
  • 数据计算:包括实时计算和离线计算。实时计算引擎采用开源的Flink引擎。离线计算采用开源的Kettle、Spark引擎。实时计算和离线计算的管理端采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
  • 数据治理:包括元数据、数据标准、数据质量、数据资产完成对数据的治理。 元数据采集引擎采用开源的Apache
    Atlas,元数据管理和元数据采集节点采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
  • 数据标准、数据资产采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
  • 数据质量的规则引擎使用Rule
    Engine,数据质量管理、数据质量节点采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
  • 数据智能分析:包括深度学习、机器学习、智能视觉。
    深度学习系统的算法开发采用开源的TensorFlow、PyTorch、JupterLab,算法开发管理端包括数据集服务、训练服务、算法服务、模型服务、在线服务、网关服务和前端界面,算法开发管理端采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
    机器学习的机器学习组件采用开源的Alink、Pytorch,分布式计算用开源的Flink技术,机器学习的管理端采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
    智能视觉的算法采用开源的SeaweedFS、TensorFlow、PyTorch。模型采用开源的Triton-Server推理引擎,智能视觉管理和模型执行采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
  • 数据运营:包括指标管理、数据服务、数据大屏可视化。
    指标管理基于先进的大数据底层技术,支持Hive、Presto等大数据存储计算引擎实现指标的开发、发布下线、计算落地,分析应用等全周期的管理过程;指标管理系统采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
    数据服务基于微服务架构提供全面的数据服务及数据共享能力;数据服务管理采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
    数据大屏可视化基于Apche Apache Calcite、Spring Boot、Vue、Element等技术实现帮助用户快速分析数据并洞察业务趋势,从而实现业务的改进与优化。

3 能力

数据存储和融合

海量数据存储和处理能力:实现跨部门数据的传输,加载,清洗,转换和整合,支持自定义调度和图形化监控,实现统一调度,统一监控,满足运维可视化,支持大数据接口与应用。

数据资产梳理

打通数据治理全工程,提升数据质量:通过数据治理实现增效降本运营,提升数据质量,提升风控水平,促进管理创新,优化流程管控,促进开发共享

多维度资产管理:强大的数据资产检索、丰富的数据资产应用
、高效全面的数据资产分析。

数据分析和决策

深耕BI的一体化应用:面对企业灵活多样的数据分析需求,一站式提供该服务。

  • 深度学习:为用户提供一站式开发和管理功能,通过智能数据处理、模型开发和训练,打通数据、算法模型和部署全链路的解决方案。
  • 传统机器学习:实现了丰富高效的算法,提供了方便的python使用接口,帮助数据分析和应用开发人员能够从数据处理、特征工程、模型训练、预测, 端到端地完成整个流程。
  • 智能视觉分析:依托XX公司AI中台的人脸、人体、车辆、图像识别等领先的视觉能力,集成各种(不断增加)人工智能图像识别算法模型、预置丰富的AI业务技能,将通用对象检测和行为分析两大类算法应用于视觉分析的一种智能识别平台,广泛应用于安全生产、园区管理、校园监控、智能安防、智慧交通、智慧城市等场景。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/638953.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

The Missing Semester of Your CS Education(计算机教育中缺失的一课)

Shell 工具和脚本(Shell Tools and Scripting) 一、shell脚本 1.1、变量赋值 在bash中为变量赋值的语法是foobar,访问变量中存储的数值,其语法为 $foo。 需要注意的是,foo bar (使用空格隔开)是不能正确工作的&…

llama-factory学习个人记录

框架、模型、数据集准备 1.llama-factory部署 # 克隆仓库 git clone https://github.com/hiyouga/LLaMA-Factory.git # 创建虚拟环境 conda create --name llama_factory python3.10 # 激活虚拟环境 conda activate llama_factory # 安装依赖 cd LLaMA-Factory pip install -…

Java 使用继承和重写父类方法写一个商品入库案例

package 练习.商品入库;import java.util.Scanner; // 抽象手机类 public abstract class Phone {//测试方法public static void main(String[] args){// 华为手机huawei h new huawei();h.setName("华为P40");h.setPrice(1999.99);h.setConfiguration("8128GB…

Go知识点复习

Go知识点复习 1.关于包的使用和GOPATH的配置 src:用于以代码包的形式组织并保存Go源码文件, 需要手动创建pkg目录:用于存放经由go install命令构建安装后的代码包(包含Go库源码文件)的“.a”归档文件bin目录:与pkg目录类似&…

kind: Telemetry

访问日志 访问日志提供了一种从单个工作负载实例的角度监控和理解行为的方法。 Istio 能够以一组可配置的格式为服务流量生成访问日志, 使操作员可以完全控制日志记录的方式、内容、时间和地点。 有关更多信息,请参阅获取 Envoy 的访问日志。 https:/…

ThingsBoard如何拆分前后端分离启动

后端启动 前端启动 注意事项 ThingsBoard是一个开源的物联网平台,它原本的设计就考虑到了现代Web应用的前后端分离架构。尽管其核心是一个后端服务,负责设备连接、数据处理和存储等,但其用户界面是作为单独的前端应用程序实现的&#xff0c…

Windows下部署Seata1.5.2,解决Seata无法启动问题

目录 1. 版本说明 2. Windows下部署Seata1.5.2 2.1 创建回滚日志表undo_log 2.2 创建Seata服务端需要的四张表 2.3 在nacos创建seata命名空间,添加seataServer.yml配置 2.4 修改本地D:/tool/seata-server-1.5.2/seata/conf/applicaltion.yml文件 2.5 启动Seat…

抖音运营_抖音电商介绍

截止20年8月,抖音的日活跃数高达6亿。 20年6月,上线抖店 (抖音官方电商) 一 抖店的定位和特色 1 一站式经营 帮助商家进行 商品交易、店铺管理、客户服务 等全链路的生意经营 2 多渠道拓展 抖音、今日头条、西瓜、抖音火山版…

markdown 文件渲染工具推荐 obsidian publish

背景 Markdown 是一种轻量级的标记语言,最开始使用它是觉得码字非常方便,从一开始的 word 排版到 markdown ,还不太不习惯,用了 obsidian把一些文字发在网上后,才逐渐发现他的厉害之处。 让人更加专注于内容本身&…

信号:MSK调制和GMSK调制

目录 一、MSK信号 1. MSK信号的第k个码元 2.MSK信号的频率间隔 3.MSK信号的相位连续性 3.1 相位路径 3.2初始相位ψk 4.MSK信号的产生 原理框图 5.MSK信号的频谱图 二、高斯最小频移键控(GMSK) 1.频率响应 2.GMSK调制产生方式 2.1 高斯滤波器法 2.2 正交调制器法…

激光雷达SLAM算法综述

大家好呀,我是一个SLAM方向的在读博士,深知SLAM学习过程一路走来的坎坷,也十分感谢各位大佬的优质文章和源码。随着知识的越来越多,越来越细,我准备整理一个自己的激光SLAM学习笔记专栏,从0带大家快速上手激…

Android Ktor 网络请求框架

Ktor 是一个由 JetBrains 开发的用于 Kotlin 编程语言的应用框架,旨在创建高性能的异步服务器和客户端应用程序。由于完全基于 Kotlin 语言,Ktor 能够让开发者编写出简洁、可读性强且功能强大的代码,特别适合那些已经熟悉 Kotlin 的开发人员。…

《SpringBoot》系列文章目录

SpringBoot是由Pivotal团队提供的全新框架,旨在简化新Spring应用的初始搭建以及开发过程。以下是一些关于SpringBoot的详细介绍: 设计目的:SpringBoot通过特定的方式来进行配置,使得开发人员不再需要定义样板化的配置&#xff0c…

uniappx 获取设备唯一标识(OAID、AAID、AndroidID、IMEI等) Ba-IdCode-U

简介(下载地址) Ba-IdCode-U 是一款可以获取国内各大手机厂商 OAID(开放匿名设备标识)及海外手机平台 AAID(安卓广告标识)的uniapp插件。另外也支持获取 IMEI/MEID、AndroidID、WidevineID、PseudoID、GUI…

C语言章节学习归纳--数据类型、运算符与表达式

3.1 C语言的数据类型(理解) 首先,对变量的定义可以包括三个方面: 数据类型 存储类型 作用域 所谓数据类型是按被定义变量的性质,表示形式,占据存储空间的多少,构造特点来划分的。在C语言中&…

OpenFeign快速入门 替代RestTemplate

1.引入依赖 <!--openFeign--><dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-openfeign</artifactId></dependency><!--负载均衡器--><dependency><groupId>org.spr…

游戏陪玩/在线租号/任务系统网站源码

源码介绍 游戏陪玩系统/在线租号系统/小姐姐陪玩任务系统/网游主播任务威客平台源码/绝地吃鸡LOL在线下单/带手机端/声优线上游戏任务系统网站源码 界面美观,功能齐全,已对接支付,安装教程放源码压缩包里了! 界面截图 源码下载 https://download.csdn.net/download/huayula…

Linux 实验报告3-4

&#xff08;大家好&#xff0c;今天我们来学习Linux的相关知识&#xff0c;大家可以在评论区进行互动答疑哦~加油&#xff01;&#x1f495;&#xff09; 目录 实验三 vi编辑器 一、实验目的 二、实验内容 三、主要实验步骤 实验报告 1.进入 vi。 2.建立一个文件&…

多维数据库创建

多维数据库 小白的数据仓库学习笔记 2024/5/21 上午 文章目录 多维数据库Cube的作用&#xff1a;什么是多维数据库维的级别多维数据分析方法如何构建多维数据集&#xff1f;创建项目创建数据源创建数据源视图创建多维数据集维度表中缺失的值拖拽过去建立维度结构设计类型启动连…

微星打造全球首款DDR5 CAMM2内存主板:这下清爽了

微星预告了新款主板“ Z790 Project Zero Plus”&#xff0c;这也是 全球第一款配备DDR5 CAMM2内存的桌面主板&#xff01; CAMM全称为“Compression Attached Memory Module”&#xff0c;已被JEDEC组织接纳为行业标准&#xff0c;相比传统的SO-DIMM、DIMM内存最大特点就是取消…