GORM数据库连接池对接Prometheus

一、背景与介绍

        Golang的database/sql包定了关于操作数据库的相关接口,但是没有去做对应数据库的实现。这些实现是预留给开发者或者对应厂商进行实现的。

        其中让我比较关注的是Golang的sql包有没有实现连接池pool的机制呢?  毕竟Golang是静态语言,类似Java我们看到很多连接池的实现例如阿里巴巴的Apache druid。给开发者提供了一个高效的数据库连接池,提高应用的性能,连接池保持与后端数据库的长连接,在需要的时候直接使用即可。使用完毕后,将连接归还到连接池中。  并且还提供可视化界面,查看连接池的运行情况、连接数情况、活跃数、空闲数等等。

        我们通过源码可以发现,Golang底层的sql包是实现了数据库连接池的逻辑。但是Golang的连接池,都是隐式/惰性使用,只有在执行到查询SQL或者执行SQL的时候,才从pool中拿到连接进行执行, 不会像Java一样显式使用,需要从pool中拿到连接对象,再通过这个连接对象执行SQL.

二、GORM配置prometheus

1、对接Prometheus的目的

        GORM支持配置Promtehues的export, 这样我们再结合Grafana面板就能很直观地对Go程序的SQL连接池进行监控。

        可以监控到当前连接池的连接数有没有超过最大连接数、空闲连接数等等,由此来保证我们程序的正常运行。

        一般我们的Go项目都使用到GROM, 既然GORM实现了Prometheus的export,那么就使用内置功能进行测试。 其实我们也可以自己实现这个exporter, 通过DB对象的Stats()方法,返回连接池统计数据,再封装为exporter接口暴露出来即可。     

2、开启Promtheus exporter

db.go测试代码:

package db

import (
	"gorm.io/driver/mysql"
	"gorm.io/gorm"
	"gorm.io/gorm/logger"
	"gorm.io/plugin/prometheus"
	"log"
	"os"
	"sync"
	"time"
)

var db *gorm.DB
var once sync.Once
var getDbConnErr error
var dsn = "root:root@tcp(127.0.0.1:3307)/test?charset=utf8mb4&parseTime=True&loc=Local"

// GetDbConn 获取mysql连接
func GetDbConn() *gorm.DB {
	once.Do(func() {
		logfile, _ := os.OpenFile("./sql.log", os.O_CREATE|os.O_APPEND|os.O_RDWR, 0666)
		newLogger := logger.New(log.New(logfile, "\r\n", log.LstdFlags), logger.Config{
			SlowThreshold: time.Second,
			LogLevel:      logger.Info,
		})
		db, getDbConnErr = gorm.Open(mysql.Open(dsn), &gorm.Config{
			Logger: newLogger,
		})
		if getDbConnErr != nil {
			panic(getDbConnErr)
		}
		db.Use(prometheus.New(prometheus.Config{
			DBName:          "db1",                       // 使用 `DBName` 作为指标 label
			RefreshInterval: 15,                          // 指标刷新频率(默认为 15 秒)
			PushAddr:        "prometheus pusher address", // 如果配置了 `PushAddr`,则推送指标
			StartServer:     true,                        // 启用一个 http 服务来暴露指标
			HTTPServerPort:  8080,                        // 配置 http 服务监听端口,默认端口为 8080 (如果您配置了多个,只有第一个 `HTTPServerPort` 会被使用)
			MetricsCollector: []prometheus.MetricsCollector{
				&prometheus.MySQL{
					Prefix:        "gorm_mysql_stats_",
					Interval:      15,
					VariableNames: []string{"Threads_running"},
				},
			}, // 用户自定义指标
		}))
		DB, _ := db.DB()
		// 最大连接数
		DB.SetMaxOpenConns(2)
		// 最大空闲连接数 <= 最大连接数
		DB.SetMaxIdleConns(1)
		// 连接数的生命周期, 从创建开始记时,到时间点会被销毁
		DB.SetConnMaxLifetime(time.Hour * 7)
		// 最大空闲时间, 这个链接距离上一次被使用的时间段,超过这个时间则认为该连接已过期
		DB.SetConnMaxIdleTime(time.Hour)
	})
	return db
}

 main.go测试代码:

package main

import (
	db "awesomeProject1/db"
	"fmt"
	_ "gorm.io/driver/mysql"
	"gorm.io/gorm"
	"math/rand"
	"time"
)

func main() {
	dbConn := db.GetDbConn()
	for i := 0; i < 10; i++ {
		go func(conn *gorm.DB) {
			for {
				time.Sleep(time.Second * time.Duration(rand.Intn(10)))
				rows := dbConn.Raw("select * from users")
				var res []map[string]interface{}
				fmt.Println(rows.Scan(&res))
			}
		}(dbConn)
	}
	for {
		time.Sleep(time.Second * 2)
		fmt.Println("running....")
	}
}

 访问http://localhost:8080/metrics 查看到指标数据:

3、采集metrics到Promtehus

promethues.yaml配置添加采集任务: 

4、Grafana配置监控面板

1、通过图表能看到,我们配置了连接池最大连接数是2个, 但是有10个协程去执行查询SQL,观察wait_count指标曲线在持续上涨, 此时有26个协程还在阻塞等待获取数据库连接,同时查看右边是等待获取数据库连接等待耗时曲线,也是一直在上涨,此时我们应该判定数据库连接池满了。那么例如生产环境,看到这种曲线要么我们设置的连接池最大连接数过小,要么mysql的连接数已经跑满了。 此时应该告警,查看异常的情况。

2、我们将最大连接数调整为20以后再观察监控面板:

   最大连接数已从2调整为20(2->20), 此时再看监控面板, 等待的协程数量wait_count:0、同时协程等待获取数据库连接的时间已经降为了0ns, 此时数据库连接池不再是爆满的状态。

三、总结

        无论Golang的什么ORM框架,GORM也好、XORM也罢, 底层还是去使用了database/sql这个包,这个包底层实现了连接池的抽象,同时提供了获取连接池相关统计信息的接口。 我们再结合Prometheus将这些指标暴露出来,结合Grafana这套告警体系,就可以实时监控和观察我们Go程序MySQL连接池的情况。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/607326.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

pwn(一)前置技能

以下是pwn中的题目&#xff08;漏洞&#xff09;类型&#xff1a; 关于pwn的学习&#xff1a; 一.什么是pwn&#xff1f;&#xff08;二进制的漏洞&#xff09; "Pwn"是一个俚语&#xff0c;起源于电子游戏社区&#xff0c;经常在英语中用作网络或电子游戏文化中的…

AI中转站计费平台系统源码一站式解决方案安装说明

AI中转站计费平台系统源码一站式解决方案安装说明 功能 | Features AI 联网功能 AI online searching service 多账户均衡负载 Multi-account load balancing HTTP2 Stream 实时响应功能 HTTP2 Stream real-time response function 节流和鉴权体系 Throttling and authenticati…

GitHub中Asterank源码python修改成C++(本人python不太会)

GitHub - typpo/asterank: asteroid database, interactive visualizations, and discovery tools 主要目的是在进行多元线性回归的时候将枚举型转换为数值型 python: # # The constants used in calculations for the values of asteroids. ## General constants GENERAL_I…

基于Detectron2的计算机视觉实践

书籍&#xff1a;Hands-On Computer Vision with Detectron2: Develop object detection and segmentation models with a code and visualization approach 作者&#xff1a;Van Vung Pham&#xff0c;Tommy Dang 出版&#xff1a;Packt Publishing 书籍下载-《基于Detectr…

.OpenNJet应用引擎实践——从 0-1 体验感受

目录 一. &#x1f981; 写在前面二. &#x1f981; 安装使用2.1 安装环境2.2 配置yum源2.3 安装软件包2.4 编译代码2.5 启动 三. &#x1f981; 使用效果3.1 编辑配置文件3.2 编辑 HTML 代码 四. &#x1f981; 使用感受 一. &#x1f981; 写在前面 现在互联网体系越来越往云…

小丑的身份证和复印件 (BFS + Floyd)

本题链接&#xff1a;登录—专业IT笔试面试备考平台_牛客网 题目&#xff1a; 样例&#xff1a; 输入 2 10 (JOKERjoke #####asdr) 输出 12 思路&#xff1a; 根据题意&#xff0c;要求最短时间&#xff0c;实际上也可以理解为最短距离。 所以应该联想到有关最短距离的算法&…

css z-Index 详解--子元素盖在父元素的兄弟元素上

前置知识 1、z-index 只有在定位元素上才会生效&#xff08;即非static定位的元素上&#xff09; 2、同级元素&#xff0c;无论是z-index 相同还是没设置。后面的元素层级比前面 3、元素上有 transform 属性 z-index 会失效 dom结构如下 // dom部分 <div><div id&quo…

latex algorithm2e 库学习总结

案例1 \documentclass{article}\usepackage{xeCJK} \usepackage[]{algorithm2e} %\usepackage{ctex} % 中文包\begin{document}\renewcommand{\algorithmcfname}{算法} % 把标题设置为“算法” \begin{algorithm…

html table thead打印时带重复表头不生效

今天做一个打印功能时要求每页都带相同的表头&#xff0c;使用的方式是table的thead标签来实现&#xff0c;结果发现thead里边的内容放多了之后只有第一页才会有表头。最后发现问题是 thead的内容不能超过table的25%。

实例分割——Mask R-CNN、YOLOV8、RTMDET、DeepLab四种实例分割算法比对

1.概述 1.1 语义分割与实例分割 实例分割和语义分割都是计算机视觉领域中图像分割的任务&#xff0c;它们在目标和方法上有一些区别&#xff1a; 语义分割&#xff1a; 语义分割的目标是对图像中的每个像素打上类别标签&#xff0c;即识别出图像中每个像素属于哪个预定义的…

云动态摘要 2024-05-09

给您带来云厂商的最新动态&#xff0c;最新产品资讯和最新优惠更新。 最新优惠与活动 [免费试用]即刻畅享自研SaaS产品 腾讯云 2024-04-25 涵盖办公协同、营销拓客、上云安全保障、数据分析处理等多场景 云服务器ECS试用产品续用 阿里云 2024-04-14 云服务器ECS试用产品续用…

YOLOv5,YOLOv7改进之结合​SOCA

1.SOCA moudle结构图 2,YOLOv5,YOLOv7改进之结合​SOCA 1.配置common.py文件 #SOCA moudle 单幅图像超分辨率 class Covpool(Function):@staticmethoddef forward(ctx, input):x = inputbatchSize = x.data.shape[0]dim = x.data.shape[1]h = x.data.shape[2]w = x.data.sha…

PLC学习笔记

PLC学习笔记 前言一、一些基操知识二、GX works2编程2.1 位逻辑1.2 中间寄存器1.3 PLC的扫描方式 总结 前言 我这个人真的是太渴望知识了~ 一、一些基操知识 一般X表示输入&#xff0c;Y表示输出。一般八个为一组X0~X7M表示中间寄存器&#xff0c;M0~M7时间T、计数C 二、GX …

短信群发公司

伴随着移动互联网和智能手机的普及&#xff0c;短信群发成为了企业与个人之间高效沟通的一种重要方式。短信群发公司应运而生&#xff0c;致力于为用户提供专业、安全、高效的群发服务。 服务内容 短信群发公司提供多样化的服务内容&#xff0c;满足不同用户的需求。短信群发公…

javaWeb快速部署到tomcat阿里云服务器

目录 准备 关闭防火墙 配置阿里云安全组 点击控制台 点击导航栏按钮 点击云服务器ECS 点击安全组 点击管理规则 点击手动添加 设置完成 配置web服务 使用yum安装heepd服务 启动httpd服务 查看信息 部署java通过Maven打包好的war包项目 Maven打包项目 上传项目 …

深度学习笔记001

目录 一、批量规范化 二、残差网络ResNet 三、稠密连接网络&#xff08;DenseNet&#xff09; 四、循环神经网络 五、信息论 六、梯度截断 本篇blog仅仅是本人在学习《动手学深度学习 Pytorch版》一书中做的一些笔记&#xff0c;感兴趣的读者可以去官网http://zh.gluon.a…

Abp框架,EF 生成迁移文件时,自动添加表和字段注释内容

在使用 abp 框架&#xff0c;或者ef 的时候都会遇到一个问题&#xff0c;就是建实体后要将实体描述生成到数据库中&#xff0c;就需要手动去添加 [Comment("注释内容")] 注解&#xff0c;这样相当于手动写两次注释&#xff08;即使你是 Ctrl C&#xff09;&#x…

若依集成mybatis-plus 超详细教程(亲测可用)

文章目录 简介步骤第一步第二步第三步第四步第五步第六步 使用QueryWrapperservice层impl 实现接口类层Mapper层 简介 话不多说 直接跟着下面的教程操作&#xff0c;如果有报错私信我&#xff0c;或者通过博文下面的微信名片加我微信&#xff0c;免费解答哦&#xff01; 步骤 …

解决方案:‘Series‘ object has no attribute ‘xxxx‘

文章目录 一、现象二、解决方案 一、现象 ...... model.fit(X_train, y_train) y_pred model.predict(X_test) recall recall_score(y_test, y_pred) precision precision_score(y_test. y_pred) ......执行语句到**“precision precision_score(y_test. y_pred)”**这里发…

StarRocks 跨集群数据迁移,SDM 帮你一键搞定!

作者&#xff1a;严祥光&#xff0c;StarRocks Active Contributor&#xff0c;StarRocks 存算分离核心研发&#xff0c;在社区中主要负责数据导入、跨集群同步、数据迁移和容灾等工作。 有时候&#xff0c;你可能会为以下需求而苦恼&#xff0c;苦苦搜索更好的解决方案&#x…