DTC 2024回顾丨云和恩墨重塑数据库内核技术,革新企业降本增效之道

在数字化浪潮席卷全球的当下,关系型数据库作为市场主导力量的地位依然稳固。然而,面对新兴数据库与服务形态的挑战,以及企业日益强烈的降本增效需求,数据库技术的发展必须紧跟时代步伐,充分发挥资源效能以提升企业竞争力。在2024“数据技术嘉年华”主论坛上,云和恩墨下一代原生HTAP企业级数据库研发团队负责人金毅分享了其团队在关系型数据库内核技术革新方面的深度思考与实践。

ea35980603a19378d706d0142b7b2d47.jpeg

金毅首先引用了两个业界瞩目的案例:

  • 马斯克接手Twitter后,通过对IT方案进行优化,将部分对象存储下云,实现了IT运行成本的节约;

  • Snowflake与Databricks在公开媒体上就单位分析计算的成本进行对比。

这两个案例共同指向一个核心议题——企业竞争力来自其自身高效运营,降本增效成为关键。在此背景下,单纯提升数据库单系统性能而不计成本及能耗的做法无法满足企业降本增效的需求。金毅强调,其团队致力于实践一种新的技术路径,使客户能在降本增效层面取得实质性成效。

经典的数据库内核技术历经大半个世纪的发展,其设计理念和优化策略仍围绕着慢速磁盘I/O为中心。然而,随着现代硬件环境的巨大变迁,成本友好的通用现代硬件特征表现为众核大内存高速I/O,然而经典数据库内核并不能充分发挥现代硬件算力。正如Stonebraker等人于2007年在VLDB发表的论文《The End of An Architectural Era (It’s Time for a Complete Rewrite)》所指出,现代硬件具备使数据库交易负载提升两个数量级的潜力。至2013年,Stonebraker等人在VLDB发表的论文《Anti-Caching: A New Approach to Database Management System Architecture》进一步提出改进思路:当代数据库应从以前围绕磁盘I/O的优化思路,转向以内存中的业务数据为核心进行优化,利用大内存和快速I/O的优势,充分释放物理并行计算内核的潜力。

d34008de4d494d56f1b2faf005ec2fa1.png

据研究显示,在典型事务处理负载(TPCC)中,用于数据加工的有效计算仅占不足7%的CPU指令,其余大部分资源被用于诸如缓冲区管理、锁管理、预写日志等非直接相关计算任务。若能有效剔除这些关键路径上的计算成本,理论上交易负载性能可提升10倍以上。据此,金毅团队正在研发的下一代原生HTAP企业级数据库原型基于协程的并发计算框架,以低切换成本支持大规模并行计算会话,同时采用原位更新的内存优化实现MVCC,并着力解决全局热点访问问题。

b0e5ad9d7fc7705fe17c46ad77918c58.png

谈及为什么继达成交易负载优化技术验证后,选择HTAP作为该数据库的目标场景,金毅表示:“HTAP的应用场景和需求一直广泛存在,优秀的HTAP能力能有效简化客户IT方案,并降低成本。但由于不同业务负载的优化技术特点往往大不相同且存在冲突,不同工作负载间往往无法达成优化配置和技术实现共存,这也导致当前没有数据库产品能够高效率满足客户的HTAP混合业务需求。”因此,云和恩墨的数据库研发团队重新思考实践原生HTAP技术,实现在不同工作负载间取得性能与成本的最优化平衡。

原生HTAP体现于数据库将仅使用一份数据和一套执行引擎实现交易负载和分析负载的性能优化。其核心在于利用“数据温度”——即根据数据访问频次,将其划分为热数据与冷数据,确保热数据常驻内存,为交易型场景提供性能优化支持;冷数据则进入高速SSD磁盘;长期无交易负载访问的冷数据被“凝结”,实现针对分析型场景的性能优化。对此,金毅的团队采用了以下三方面技术思路:

  1. 基于数据温度的智能存储优化,确保资源高效配置;

  2. 统一计算引擎,融合标量和向量处理;

  3. 强化资源隔离与调度算法。

现如今,云和恩墨的下一代数据库产品针对联机处理负载的优化已经取得阶段性成果——使用2路服务器,在NVMe SSD磁盘存在I/O交换场景下,服务器端TPCC模拟负载达成单机吞吐4200万tpmTotal、1900万tpmC的成绩。该成绩初步达成相对于已有关系型数据库性能数量级提升的目标。这一突破性的进展将未来为企业带来更高效、更低成本的联机处理负载解决方案。

对于云和恩墨的数据库研发团队来说,“创新”是技术发展的第一要义。他们正以前所未有的勇气重构数据库内核,打破既有架构限制,意图实现数据库性能质的飞跃。随着这一创新内核技术的持续演进和落地应用,我们有理由相信,它将为企业数字化转型注入强劲动力,开启数据库性能与成本效益的新纪元。

【参考资料】

[1] M Stonebraker, N Hachem, P Helland, The End of An Architectural Era (It’s Time for a Complete Rewrite). In VLDB2007

[2] J DeBrabant, A Pavlo, S Tu, M Stonebraker, S Zdonik, Anti-Caching: A New Approach to Database Management System Architecture. In VLDB2013

[3] S Harizopoulos, D J Abadi, S Madden M Stonebraker, OLTP Through the Looking Glass, and What We Found There. In Sigmod2008

5984afbee90e36bc5c1d25c006f446ed.gif

数据驱动,成就未来,云和恩墨,不负所托!


云和恩墨创立于2011年,是业界领先的“智能的数据技术提供商”。公司总部位于北京,在国内外35个地区设有本地办公室并开展业务。

云和恩墨以“数据驱动,成就未来”为使命,致力于将创新的数据技术产品和解决方案带给全球的企业和组织,帮助客户构建安全、高效、敏捷且经济的数据环境,持续增强客户在数据洞察和决策上的竞争优势,实现数据驱动的业务创新和升级发展。

自成立以来,云和恩墨专注于数据技术领域,根据不断变化的市场需求,创新研发了系列软件产品,涵盖数据库、数据库存储、数据库云管和数据智能分析等领域。这些产品已经在集团型、大中型、高成长型客户以及行业云场景中得到广泛应用,证明了我们的技术和商业竞争力,展现了公司在数据技术端到端解决方案方面的优势。

在云化、数字化和智能化的时代背景下,云和恩墨始终以正和多赢为目标,感恩每一位客户和合作伙伴的信任与支持,“利他先行”,坚持投入于数据技术核心能力,为构建数据驱动的智能未来而不懈努力。

我们期待与您携手,共同探索数据力量,迎接智能未来。

2643a41322435aa3be9d62a1408270cc.gif

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/641315.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

A股重磅!史上最严减持新规,发布!

此次减持新规被市场视为A股史上最严、最全面的规则,“花式”减持通道被全面“封堵”。 5月24日晚间,证监会正式发布《上市公司股东减持股份管理暂行办法》(以下简称《减持管理办法》)及相关配套规则。 据了解,《减持…

HTTP 错误 404.3 - Not Found 问题处理

问题描述 HTTP 错误 404.3 - Not Found 由于扩展配置问题而无法提供您请求的页面。如果该页面是脚本,请添加处理程序。如果应下载文件,请添加 MIME 映射。 解决对策

【算法】前缀和算法——和可被K整除的子数组

题解:和可被K整除的子数组(前缀和算法) 目录 1.题目2.前置知识2.1同余定理2.2CPP中‘%’的计算方式与数学‘%’的差异 及其 修正2.3题目思路 3.代码示例4.总结 1.题目 题目链接:LINK 2.前置知识 2.1同余定理 注:这里的‘/’代表的是数学…

订单id的设计问题探讨

如何设计一个订单id 设计一个订单ID系统需要考虑多个因素,包括唯一性、排序性(时间顺序)、可读性(可选)以及系统的扩展性和性能。结合这些因素,可以选择不同的方案来生成订单ID。以下是几种常见的订单ID设…

论文阅读--GLIP

把detection和phrase ground(对于给定的sentence,要定位其中提到的全部物体)这两个任务合起来变成统一框架,从而扩展数据来源,因为文本图像对的数据还是很好收集的 目标检测的loss是分类loss定位loss,它与phrase ground的定位los…

内网穿透--Nps-自定义-上线

免责声明:本文仅做技术交流与学习... 目录 Nps项目: 一图通解: 1-下载nps/npc 2-服务端启动 访问web网页: 添加客户端,生成密匙. 3-kali客户端连接服务端 4-添加协议隧道. 5-kali生成后门: 6-kali创建监听: Nps项目: https://github.com/ehang…

《2024年中国机器人行业投融资报告》| 附下载

近年来,国内机器人行业取得了显著的技术进步,包括人工智能、感知技术、自主导航等技术方面的突破,使得机器人能够更好地适应复杂环境和任务需求,带动了机器人行业加快发展。 当然,技术的进步是外在驱动因素&#xff0…

【JAVA基础之网络编程】UDP和TCP协议以及三次握手和四次挥手的过程

🔥作者主页:小林同学的学习笔录 🔥mysql专栏:小林同学的专栏 目录 1. 网络编程 1.1 概述 1.2 网络编程的三要素 1.2.1 IP地址 1.2.2 InetAddress 1.2.3 端口和协议 1.3 UDP协议 1.3.1 UDP发送数据 1.3.2 UDP接收数据 1.4…

Terminal Web终端基础(Web IDE 技术探索 二)

Terminal是web终端技术,类似cmd命令窗口,Webcontainer 中推荐使用的是Xterm.js,这里就不细说Xterm.js 的使用了,我们使用第三方库来实现(原生确实有点难用)。 vue-web-terminal 一个由 Vue 构建的支持多内容…

基础5 探索JAVA图形编程桌面:字符操作组件详解

在繁华都市的一个角落,卧龙和凤雏相聚在他们常去的台球厅。灯光洒在绿色的台球桌上,彩色的台球整齐地排列着,仿佛在等待着一场激烈的角逐。 卧龙轻轻地拿起球杆,微微瞄准,然后用力一击,白球带着一股强大的力…

Vue.js - Vue 的安装 以及 常用的 Vue 指令 【0基础向 Vue 基础学习】

文章目录 Vue 快速上手1、Vue.js 官网 & Vue.js 的获取2、创建 Vue 实例,初始化渲染3、插值表达式 安装 Vue 开发者工具:装插件调试 Vue 应用Vue 指令1、v-show 指令2、v-if3、v-else & v-else-if4、v-onv-on 调用传参 5、v-bindv-bind 对于样式…

类和对象(下篇)(未完结)!

文章目录 在谈构造函数1.构造函数体赋值2.初始化列表尽量使用初始化列表?初始化列表的初始化顺序?成员变量声明处的缺省值构造函数支持类型转换3.explicit关键字 static成员 在谈构造函数 1.构造函数体赋值 class Date{public:Date(int year, int mont…

Python设计模式之适配器模式

目录 一、适配器模式 适配器模式的组成部分 适配器模式的种类 应用场景 实现步骤 二、测试例子 一、适配器模式 适配器模式(Adapter Pattern)是一种结构型设计模式,它通过将一个现有接口转换为另一个期望的接口来让不兼容的接口能够合作…

香港服务器负载过高的原因和应对办法

保持网站正常运行看似简单,但事实上,有许多问题会影响网站和应用程序的性能,并可能导致停机。其中一个问题就是服务器过载。而香港服务器作为一种常见的服务器类型,有时会出现负载过高的情况。为了帮助您确保在香港服务器过载不会…

跨境电商投放Facebook广告推广攻略!

在出海浪潮中,跨境电商已经成为企业连接不同市场、拓展国际业务的重要途径。Facebook,作为全球最大的社交平台之一,拥有超过20亿的活跃用户,为跨境卖家提供了一个无与伦比的营销舞台。有效利用Facebook广告,不仅能帮助…

捕捉二氧化碳也能赚钱?深入探索CCUS技术与商业前景

引言 随着全球变暖和气候变化的加剧,如何有效减少二氧化碳(CO2)排放成为各国亟待解决的问题。近日,全球最大的二氧化碳捕集工厂在冰岛正式运营,这一消息引起了广泛关注。本文将深入探讨捕集二氧化碳技术(C…

海康威视NVR通过ehome协议接入视频监控平台,视频浏览显示3011超时错误的问题解决,即:The request timeout! 【3011】

目录 一、问题描述 二、问题分析 2.1 初步分析 2.2 查看日志 2.3 问题验证 1、查看防火墙 2、查看安全组 3、问题原因 三、问题解决 3.1 防火墙开放相关端口 3.2 安全组增加规则 3.3 测试 1、TCP端口能够联通的情况 2、TCP端口不能够联通的情况 四、验证 五、云…

JWT使用方法

目录 基础概念 依赖 生成令牌 工具类 控制层 解析令牌 工具类 网关过滤器 效果 基础概念 Json web token (JWT), 是为了在网络应用环境间传递声明而执行的一种基于JSON的开放标准((RFC 7519).该token被设计为紧凑且安全的,特别适用于分布式站点…

Hsql每日一题 | day03

前言 就一直向前走吧,沿途的花终将绽放~ 题目:打折日期交叉问题 如下为平台商品促销数据:字段为品牌,打折开始日期,打折结束日期 brand stt edt oppo,2021-06-05,2021-06-09 oppo,2021-06-11,2021-06-21 vivo,…

共享经济中的创新演示:打造案例分析PPT,让想法流动起来

在当今这个看图说话的时代,无论是在职场打拼还是学术殿堂,一份牛气冲天的案例分析PPT无疑是你专业形象的加分项。 不管你是刚出道的小鲜肉,还是已经混迹江湖多年的老鸟,一份有深度、有力度的PPT都能帮你在人群中脱颖而出&#xf…