如何高效管理和监控 Elasticsearch 别名及索引?

0、引言

在 Elasticsearch 项目中,管理和监控索引是开发者的一项重要任务。

48bcd85c3d3f14e8f3ddbff442a922c3.png

尤其是当我们需要在项目的管理部分展示索引和别名的统计信息时,了解如何有效地列出这些别名和索引显得尤为重要。

本篇博客将介绍几种在 Elasticsearch 中列出别名和索引的方法,并展示如何将这些信息集成到应用程序中,实现自动化监控。

1、为什么需要列出别名和索引?

在实际项目中,例如一个社交网络应用,我们可能会使用 Elasticsearch 进行全文搜索,并为不同的数据设置别名。

通过别名,我们可以方便地管理版本和数据流。

别名具体应用场景概括如下表所示:

应用场景描述
索引生命周期管理- 滚动更新:在更新索引时,创建新索引,将数据写入新索引,完成后将别名切换到新索引。
- 版本控制:为每个索引版本设置别名,使用别名指向当前版本。
- 数据归档:使用别名管理归档索引,方便查询历史数据。
数据分区- 时间分区:按时间创建索引,使用别名如 logs
- 地理分区:按地理位置分区,使用别名如 data
数据隔离- 多租户:为每个租户创建单独的索引,使用别名进行数据隔离和查询。
零停机部署- 零停机时间部署:在新版本准备就绪后,将别名从旧索引切换到新索引,实现无缝切换。
实时索引与批量索引- 实时数据索引:为实时数据创建索引,使用别名进行查询。
- 批量数据索引:为批量数据创建索引,使用别名进行查询。
动态索引切换- 热数据与冷数据:将热数据和冷数据分别存储在不同索引中,并使用别名动态切换。
数据合并- 数据迁移:将多个小索引合并为一个大索引,使用别名进行平滑过渡。
索引监控和告警- 监控别名与索引数量:定期列出以 listing* 开头的别名和索引,监控业务逻辑。
- 告警通知:根据索引和别名数量,向企业微信、钉钉、邮件等发送消息进行提醒。
安全控制- 访问控制:为不同用户或角色创建别名,限制访问权限。
数据同步与备份- 跨集群复制:使用别名管理跨集群复制的源索引和目标索引。
- 数据备份:为备份数据创建索引和别名。
查询优化- 查询分流:将不同类型的查询分流到不同的索引,使用别名进行统一查询。
多语言支持- 多语言索引:为不同语言创建单独索引,使用别名进行多语言数据管理。

写入索引同时指定别名如下图所示。

6bedda817e9e2ad6642a68bd13ddca67.png

在 Elasticsearch-head 插件中的别名显示如下图所示。cf00bea14cba6eefb6ebcac46d9fd7f5.png

ElasticVue插件中别名显示如下图所示。

65e4b6af2855970ecf031eca30af53bc.png

2、列出别名和索引的方法

2.1 方法一:使用 _cat/aliases 接口

这是最常用的方法。

通过 _cat/aliases 接口,我们可以列出所有别名及其对应的索引。

示例请求:

GET _cat/aliases/listing*?v=true&h=alias,index&s=alias:desc

此请求会返回以下结果:

alias           index
listings        listings-v1.0.3
listings        listings-v1.0.0
listings        listings-v1.0.4
listings        listings-v1.0.2
listings        listings-v1.0.1
listing-changes listing-changes-2024-05
listing-changes listing-changes-2024-04
74d958648e465c02722a613d10122266.png

关键参数解释:

  • ?v=true:开启详细模式,显示响应的头部信息。

  • ?s=alias:desc:按照 alias 字段降序排列。

  • ?h=alias,index:过滤显示的列,只显示 alias 和 index 列。

获取 JSON 格式的结果:

为了方便解析,我们可以将结果格式化为 JSON:

GET _cat/aliases?v=true&s=alias:desc&h=alias,index&format=json

返回示例:

[
  {
    "alias": "listings",
    "index": "listings-v1.0.2"
  },
  {
    "alias": "listings",
    "index": "listings-v1.0.1"
  },
  {
    "alias": "listings",
    "index": "listings-v1.0.0"
  },
  {
    "alias": "listings",
    "index": "listings-v1.0.4"
  },
  {
    "alias": "listings",
    "index": "listings-v1.0.3"
  },
  {
    "alias": "listing-changes",
    "index": "listing-changes-2024-05"
  },
  {
    "alias": "listing-changes",
    "index": "listing-changes-2024-04"
  },
  {
    "alias": "fscrawler",
    "index": "test_docs"
  },
  {
    "alias": "fscrawler",
    "index": "fs_job_2024"
  }
]
16e0f0cc05ff988a629c5adfb23d4eed.png

2.2 方法二:使用 _aliases 接口

该接口返回的结果更加详细,包含所有索引及其别名信息。适合在应用中使用。

示例请求:

GET _aliases

返回示例:

{
  "listings-v1.0.4": {
    "aliases": {
      "listings": {}
    }
  },
  "listing-changes-2024-05": {
    "aliases": {
      "listing-changes": {}
    }
  },
  ...
}
ef823e8a292c9fe9808bbdfce28d179c.png

相关过滤参考实现:

2.2.1 过滤特定别名的索引

使用特定别名过滤:

GET /_alias/listings

这将返回所有与别名 listings 相关联的索引。

052989344c65b0fbafca4f91a88d60e9.png
2.2.2 过滤符合特定模式的索引

使用通配符过滤:

GET /_alias/listing*

这将返回所有别名以 listing 开头的索引。

a2ed75fdb7650df9b5a83fe3cf56c3ba.png
2.2.3 过滤包含特定别名的索引

使用 filter_path 参数过滤只显示特定别名的索引:

GET /_aliases?filter_path=**.listings

这将返回只包含 listings 别名的索引。

06f1843e57ae1a7e472c1b34f4601f89.png

GET /_aliases?filter_path=**.listings 是一个用于过滤 Elasticsearch 响应的查询语句。

具体含义如下:

  • GET /_aliases: 这个端点用于获取集群中所有索引的别名信息。

  • filter_path 参数: 这个参数用于过滤 Elasticsearch 响应的数据路径,只返回匹配指定路径的数据。它允许我们精确控制返回的 JSON 结构,减少不必要的数据传输和解析。

  • **.listings 的含义是:

  • **: 双星号(**)表示递归地匹配所有层级的路径。它可以匹配零个或多个层级的路径。

  • .listings: 表示包含 listings 关键字的路径。

结合在一起,filter_path=**.listings 的含义是:

过滤响应,只返回包含 listings 别名的索引信息。由于 ** 可以匹配所有层级,所以会在返回的 JSON 结构中递归地查找并返回所有路径中包含 listings 的部分。

如果我们要获取别名为:listing-changes 的索引-别名列表信息。

命令行为:

GET /_aliases?filter_path=**.listing-changes

2.3 方法三:使用 _cluster/state 接口

该方法可以获取集群状态的内部表示,适用于调试或诊断。

示例请求:

GET _cluster/state?filter_path=metadata.indices.*.aliases

返回示例:

{
  "metadata": {
    "indices": {
      "listings-v1.0.4": {
        "aliases": {
          "listings": {}
        }
      },
      ...
    }
  }
}
6c64f3345b1cde3a0ad422f1ddc9af60.png

3、别名定时邮件发送获取

在管理页面展示索引和别名:通过上述接口获取数据,在管理页面上展示当前的索引和别名情况,方便开发者进行监控和管理。

自动化消息通知:定期检查别名和索引的数量,根据情况发送消息到企业微信、钉钉、邮件等通知平台,及时提醒相关人员进行处理。

示例:通过定时任务发送邮件

以下是一个简单的 Python 脚本示例,展示如何通过定时任务定期向指定邮箱发送 Elasticsearch 别名信息。

3.1 安装依赖

首先,安装所需的 Python 库:

pip install requests schedule smtplib

3.2 Python 脚本实现

import requests
import json
import smtplib
from email.mime.text import MIMEText
from email.mime.multipart import MIMEMultipart
import schedule
import time

# Elasticsearch 配置
ES_HOST = 'https://172.21.0.14:9200'
ALIAS_ENDPOINT = '/_cat/aliases?v=true&h=alias,index&format=json'
ES_USERNAME = 'elastic'
ES_PASSWORD = 'changeme'

# 163 邮箱配置
SMTP_SERVER = 'smtp.163.com'
SMTP_PORT = 465
EMAIL_USERNAME = 'changeme@163.com'
EMAIL_PASSWORD = 'changeme'
EMAIL_TO = 'changeme@163.com'

def get_aliases():
    url = f"{ES_HOST}{ALIAS_ENDPOINT}"
    response = requests.get(url, auth=(ES_USERNAME, ES_PASSWORD), verify=False)
    if response.status_code == 200:
        return response.json()
    else:
        print(f"Failed to fetch aliases: {response.status_code}, {response.text}")
        return []

def send_email(subject, body):
    msg = MIMEMultipart()
    msg['From'] = EMAIL_USERNAME
    msg['To'] = EMAIL_TO
    msg['Subject'] = subject

    msg.attach(MIMEText(body, 'plain'))
    text = msg.as_string()

    try:
        with smtplib.SMTP_SSL(SMTP_SERVER, SMTP_PORT) as server:
            server.login(EMAIL_USERNAME, EMAIL_PASSWORD)
            server.sendmail(EMAIL_USERNAME, EMAIL_TO, text)
        print("Email sent successfully")
    except Exception as e:
        print(f"Failed to send email: {e}")

def main():
    aliases = get_aliases()
    if aliases:
        subject = "Elasticsearch 别名和索引统计信息"
        body = json.dumps(aliases, indent=4, ensure_ascii=False)
        send_email(subject, body)

if __name__ == "__main__":
    main()

# def job():
#     aliases = get_aliases()
#     if aliases:
#         subject = "Elasticsearch 别名和索引统计信息"
#         body = json.dumps(aliases, indent=4, ensure_ascii=False)
#         send_email(subject, body)

# # 定时任务
# schedule.every().day.at("08:00").do(job)
#
# while True:
#     schedule.run_pending()
#     time.sleep(1)

3.3 结果展示

7a10cfb031e688ac118f635b66bcd457.png f6da5bf3e0f9cecc6aa277b4cef55f09.png

4、结论

通过本文,我们了解了如何使用不同的方法在 Elasticsearch 中列出别名和索引。

无论是用于日常管理还是自动化监控,这些方法都能帮助我们更好地掌控 Elasticsearch 集群的状态。

参考:https://medium.com/devopsturkiye/elasticsearch-list-aliases-f8d8abcd3e0


新时代写作与互动:《一本书讲透 Elasticsearch》读者群的创新之路

97c9ceec059cef2f96620e2b0001e2f4.png

更短时间更快习得更多干货!

和全球2000+ Elastic 爱好者一起精进!

elastic6.cn——ElasticStack进阶助手

049a81713b86ff7778e29e12c626c5f4.gif

比同事抢先一步学习进阶干货!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/704833.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

用表头设置控制表格内列的排序和显示隐藏

项目背景 : react ant 需求 : 点击表头设置弹窗 , 拖拽可控制外部表格列的排序 , 开关可控制外部表格列的显示和隐藏 实现效果如下 :注意 : 1. 拖拽效果参考了ant-table中的拖拽效果(这块代码放最后) 2. 后台反了json格式(用is_show控制显示和隐藏 , 我给他传…

【应用案例】如何解决无人驾驶车辆的动力转向问题

埃尔朗根-纽伦堡大学名称为高能赛车运动队(High-Octane Motorsports e.V.)的学生方程式车队都设计、构建和制造具有创新意义且独特的赛车。然后,他们将参加三种不同类别的大学生方程式比赛;该项赛事中的参赛队伍来自于世界各地。 电动、无人驾驶和燃油车…

17.路由配置与页面创建

路由配置与页面创建 官网:https://router.vuejs.org/zh/ Vue Router 和 组合式 API | Vue Router (vuejs.org) 1. 修改index.ts import { RouteRecordRaw, createRouter, createWebHistory } from "vue-router"; import Layout from /layout/Index.vueco…

python长方形周长面积 2024年3月青少年编程电子学会python编程等级考试二级真题解析

目录 python长方形周长面积 一、题目要求 1、编程实现 2、输入输出 二、算法分析 三、程序代码 四、程序说明 五、运行结果 六、考点分析 七、 推荐资料 1、蓝桥杯比赛 2、考级资料 3、其它资料 python长方形周长面积 2024年3月 python编程等级考试级编程题 一、…

linux系统宝塔服务器temp文件夹里总是被上传病毒php脚本

目录 简介 上传过程 修复上传漏洞 tmp文件夹总是被上传病毒文件如下图: 简介 服务器时不时的会发送短信说你服务器有病毒, 找到了这个tmp文件, 删除了之后又有了。 确实是有很多人就这么无聊, 每天都攻击你的服务器。 找了很久的原因, 网上也提供了一大堆方法,…

天锐绿盾 | 无感知加密软件、透明加密系统、数据防泄漏软件

摘要:文件加密软件,包含禁止非授权的文件泄密和抄袭复制解决方案即使被复制泄密都是自动加密无法阅读,透明加密,反复制软件,内网监控,文件加密,网络安全方案,透明文件加密,加密文件,图纸加密,知识产权保护,加密数据; 通过绿盾信息安全管理软件,系统在不改…

2024/06/13--代码随想录算法2/17| 62.不同路径、63. 不同路径 II、343. 整数拆分 (可跳过)、96.不同的二叉搜索树 (可跳过)

62.不同路径 力扣链接 动态规划5步曲 确定dp数组(dp table)以及下标的含义: dp[i][j] :表示从(0 ,0)出发,到(i, j) 有dp[i][j]条不同的路径。确定递推公式,dp[i][j] d…

Java——递归

一、递归介绍 1、什么是递归 递归在Java编程中是指一个方法调用自身的编程技巧。 public static void foo() {//...foo();//方法调用自身//...} 2、递归用于什么场景 递归是一种常见的算法设计方法,特别适用于解决那些可以分解为相似子问题的问题。常见的递归问…

诺派克ROPEX控制器维修RES-5008 RES-5006

德国希尔科诺派克ROPEX热封控制器维修型号包括:RES-401,RES-402,RES-403,RES-406,RES-407,RES-408,RES-409,RES-420,RES-440,RES-5008,RES-5006&a…

阿里三面:Redis大key怎么处理?

阿里三面:Redis大key怎么处理? 一、什么是大key? 首先大key不是key很大而是key对应的value值很大,一般而言如果String类型值大于10KB,Hash,Set,Zset,List类型的元素的个数大于5000个都可以称之…

18. 《C语言》——【Nice2016年校招笔试题引发的思考】

亲爱的读者,大家好!我是一名正在学习编程的高校生。在这个博客里,我将和大家一起探讨编程技巧、分享实用工具,并交流学习心得。希望通过我的博客,你能学到有用的知识,提高自己的技能,成为一名优…

中国版Sora?快手「可灵」到底行不行?

“可灵”与Sora有相似的技术架构,生成的视频动作流畅、幅度大,对物理世界理解力与还原度很高。可生成120秒、每秒30帧的高清视频,分辨率高达1080p,并且支持多种不同的屏幕比例。 “中国版SORA”到底是不是名副其实?能…

谷歌浏览器124版本Webdriver驱动下载

查看谷歌浏览器版本 在浏览器的地址栏输入: chrome://version/回车后即可查看到对应版本(不要点击帮助-关于Google chrome,因为点击后会自动更新谷歌版本) 114之前版本:下载链接 ​​​​​​123以后版本:下载链接&#xff0…

【机器学习】通用大模型VS垂直大模型,你更加青睐哪一方?

目录 前言AI大模型的战场:通用与垂直的分化通用大模型:广泛适用的利器垂直大模型:深入领域的利器谁能够形成绝对优势?结语通用大模型文章推荐 前言 AI大模型的战场正在分化: 通用大模型在落地场景更广泛毋庸置疑&…

idea插件开发之实现设置信息持久化存储

写在前面 在idea中设置的信息,我们重启idea后,这些信息还是在的,这其实是通过idea插件的持久化存储功能实现的,本文一起来看下如何实现。 1:正戏 为了方便测试,首先定义如下的ui: 我们需要在代码中给按…

干货分享:宏集物联网HMI通过S7 MPI协议采集西门子400PLC数据

前言 为了实现和西门子PLC的数据交互,宏集物联网HMI集成了S7 PPI、S7 MPI、S7 Optimized、S7 ETH等多个驱动来适配西门子200、300、400、1200、1500、LOGO等系列PLC。 本文主要介绍宏集HMI通过S7 MPI协议采集西门子400PLC数据的操作步骤,其他协议的操作…

C++入门 string的模拟实现

目录 再谈swap string常见接口模拟实现 构造函数 & 析构函数 拷贝构造 & 赋值运算符重载 begin迭代器 & end迭代器 size & swap & clear & c_str operator[ ] & reserve push_back & append operator & find insert & erase…

计算机网络之网络层知识总结

网络层功能概述 主要任务 主要任务是把分组从源端传到目的端,为分组交换网上的不同主机提供通信服务。网络层传输单位是数据报。 分组和数据报的关系:把数据报进行切割之后,就是分组。 主要功能: 路由选择与分组转发 路由器…

openh264 编码器源码分析:WelsCodeOneSlice 函数

介绍 功能:openh264 编码每个 slice 的核心函数原型: int32_t WelsCodeOneSlice (sWelsEncCtx* pEncCtx, SSlice* pCurSlice, const int32_t kiNalType)参数: pEncCtx:指向编码上下文结构体sWelsEncCtx的指针,包含编…

gpt、llama大模型模型结构细节探索

参考: https://github.com/naklecha/llama3-from-scratch(一定要看看) https://github.com/karpathy/build-nanogpt/blob/master/play.ipynb 视频: https://www.youtube.com/watch?vl8pRSuU81PU https://tiktokenizer.vercel…