搭建ELK+minio及配置

什么是ELK

ELK是一种基于开源工具的日志管理和数据分析解决方案,它由三个核心组件组成:

  1. Elasticsearch:用于存储、搜索和分析大规模数据的分布式搜索引擎。
  2. Logstash:用于收集、过滤、转换和发送日志数据的数据处理管道。
  3. Kibana:用于可视化Elasticsearch中数据的开源数据分析和可视化平台。

ELK监控通常用于收集、存储和分析各种类型的日志数据,以便实时监控系统性能、故障排除、安全审计等目的。通过将这三个组件整合在一起,用户可以轻松地构建强大的日志管理和监控系统,帮助他们更好地理解和利用其日志数据。 ELK监控在各种领域,如IT运维、安全监控、应用程序性能管理等方面得到广泛应用。

为什么使用ELK

  1. 日志管理和分析:ELK提供了强大的工具和平台,可以帮助用户收集、存储和分析大规模的日志数据,从而更好地理解系统运行情况、应用程序性能以及安全事件等信息。

  2. 实时监控:ELK可以实时地处理和展示日志数据,帮助用户快速发现系统问题或异常情况,从而及时做出反应。

  3. 可视化分析:Kibana作为ELK的一部分,提供了丰富的数据可视化功能,用户可以通过图表、地图和仪表板等方式直观地展示和分析数据,帮助用户更好地理解数据背后的信息。

  4. 安全审计:ELK可以帮助组织进行安全事件的监控和审计,及时发现潜在的安全威胁并做出相应的应对措施。

  5. 开源和灵活性:ELK是开源的解决方案,具有良好的灵活性和可扩展性,用户可以根据自己的需求进行定制和扩展。

什么是minIO

MinIO是一个开源的对象存储服务器,可以用于存储和管理大规模的非结构化数据,如照片、视频、日志文件等。MinIO是云原生的设计,具有高度可扩展性、高性能和易部署的特点,可以在私有云、公共云或混合云环境中运行。

MinIO提供了S3兼容的API接口,这意味着它可以与支持Amazon S3协议的应用程序和工具无缝集成。用户可以通过简单的HTTP请求来上传、下载和管理对象数据,从而方便地构建和扩展各种基于对象存储的应用程序。

MinIO支持多种部署方式,包括单节点部署、分布式部署和多副本部署,用户可以根据自己的需求选择合适的部署方式。由于其高度可扩展性和性能优势,MinIO在大数据分析、容器化环境、备份和归档等场景中得到广泛应用。

搭建

搭建环境

Elasticsearch——下载 Elastic 产品 | Elastic

Logstash——下载 Elastic 产品 | Elastic

Kibana——下载 Elastic 产品 | Elastic

java——java官网

开始搭建

第一台;

搭建java

[root@localhost ~]# tar zxvf jdk-17_linux-x64_bin_790090.tar.gz 
[root@localhost ~]# mv jdk-17.0.10/ /usr/local/java
[root@localhost ~]# echo 'export JAVA_HOME=/usr/local/java
> export JRE_HOME=/usr/local/java/jre
> export CLASSPATH=$JAVA_HOME/lib:$JRE_HOME/lib
> export PATH=$PATH:$JAVA_HOME/bin:$JRE_HOME/bin' >> /etc/profile
[root@localhost ~]# source /etc/profile
[root@localhost ~]# java -version
java version "17.0.10" 2024-01-16 LTS
Java(TM) SE Runtime Environment (build 17.0.10+11-LTS-240)
Java HotSpot(TM) 64-Bit Server VM (build 17.0.10+11-LTS-240, mixed mode, sharing)

安装Elasticsearch

[root@localhost ~]# tar zxvf elasticsearch-8.12.2-linux-x86_64.tar.gz 
[root@localhost ~]# mv elasticsearch-8.12.2 /usr/local/es
[root@localhost ~]# useradd es
[root@localhost ~]# chown -R es:es /usr/local/es/
[root@localhost ~]# mkdir -p /es/data
[root@localhost ~]# mkdir -p /es/log
[root@localhost ~]# chown -R es:es /es/
[root@localhost ~]# vim /etc/security/limits.conf 
es              soft    nofile          65536
es              hard    nofile          65536
es              soft    nproc           4096
es              hard    nproc           4096
es              soft    memlock         ulimited
es              hard    memlock         ulimited
[root@localhost ~]# vim /etc/sysctl.conf
vm.max_map_count=655360    #jvm可以派生进程的最大值
[root@localhost ~]# vim /usr/local/es/config/elasticsearch.yml 
cluster.name: "my-application"
network.host: 192.168.20.132
node.name: es
path.data: /es/data
path.logs: /es/log
bootstrap.memory_lock: false
http.port: 9200
discovery.type: single-node              #单节点工作模式
s3.client.default.endpoint: 192.168.20.132:9090
s3.client.default.protocol: http

Elasticsearch需创建其他用户,使用root会报错(因为安全问题,Elasticsearch 不允许 root 用户直接运行

安装kibana

[root@localhost ~]# tar zxvf kibana-8.12.2-linux-x86_64.tar.gz 
[root@localhost ~]# mv kibana-8.12.2 /usr/local/kibana
[root@localhost ~]# vim /usr/local/kibana/config/kibana.yml 
server.name: kibana
server.host: "192.168.20.132"
elasticsearch.hosts: [ "http://192.168.20.132:9200" ]
xpack.monitoring.ui.container.elasticsearch.enabled: true

第二台;

安装logstash和nginx(测试获取日志)

[root@localhost ~]# tar zxvf logstash-8.12.2-linux-x86_64.tar.gz 
[root@localhost ~]# mv logstash-8.12.2 /usr/local/logstash
[root@localhost ~]# vim /usr/local/logstash/config/logstash.yml 
http.host: "10.98.179.95"								#本机ip
xpack.monitoring.elasticsearch.hosts: [ "http://10.98.179.84:9200" ]				#elk的ip
config.reload.automatic: true
config.reload.interval: 3s
path.config: /usr/share/logstash/config/nginx-access.conf						#遵循的链接配置文件路径
[root@localhost ~]# vim /usr/local/logstash/config/nginx-access.conf 
input {
  file {
    path => "/var/log/nginx/access.log"
    start_position => "beginning"
    sincedb_path => "/dev/null"
  }
}
output {
  elasticsearch {
    hosts => ["192.168.20.132:9200"]
    index => "nokafka-nginx"
  }
}

安装minio;

[root@localhost ~]# wget https://dl.min.io/server/minio/release/linux-amd64/archive/minio-20240118225128.0.0-1.x86_64.rpm -O minio.rpm
sudo dnf install minio.rpm
[root@localhost ~]# mkdir /minio
[root@localhost ~]# minio server /minio --console-address :9090

进入minio,使用9090端口,创建用户elk,给读写权限,创建桶

启动各个服务

[root@localhost ~]# /usr/local/logstash/bin/logstash -f /usr/local/logstash/config/nginx-access.conf 

[root@localhost ~]# su es
[es@localhost root]$ /usr/local/es/bin/elasticsearch
Kibana默认不允许root启动,添加选项
[root@localhost ~]# /usr/local/kibana/bin/kibana --allow-root

访问ip+5601

添加索引仪表盘不作展示,略

添加快照仓库
PUT /_snapshot/es-bucket
{
  "type": "s3",
  "settings": {
    "bucket": "es-bucket",
    "endpoint": "http://192.168.20.132:9000",
    "protocol": "http",
    "path_style_access": true
  }
}
GET /_snapshot/es-bucket
查看检索配置信息

 

PUT /_snapshot/es-bucket/kz
{
  "indices": "index1,index2",
  "ignore_unavailable": true,
  "include_global_state": false
}
创建一个叫kz的快照

 进入minio中查看

PUT _snapshot/es-bucket/test1?wait_for_completion=true&pretty
备份所有索引

 

 Minio;

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/475594.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

mysql虚拟列Generated Column

目录​​​​​​​ 1、Generated Column简介 生成的列定义具有以下语法: 2、实践 2.1 存储格式为json字段增加索引 2.2 手机号后四位 3、虚拟列索引介绍 3.1 虚拟列索引的限制 3.1.1 Virtal Generated Column 4、阿里云数据库环境是否支持 下期扩展&…

通过 Socket 手动实现 HTTP 协议

你好,我是 shengjk1,多年大厂经验,努力构建 通俗易懂的、好玩的编程语言教程。 欢迎关注!你会有如下收益: 了解大厂经验拥有和大厂相匹配的技术等 希望看什么,评论或者私信告诉我! 文章目录 一…

使用Oxygen编辑器的项目来做团队协作

▲ 搜索“大龙谈智能内容”关注公众号▲ 扫码见我视频号上的视频 今天,分享一种在Oxygen中使用项目文件进行团队协作的高效方法。这种方法不仅能帮助我们轻松共享文件和文件夹,还能确保团队成员使用统一的项目级别选项和发布配置,从而提高工…

【Git】第二课:git安装和配置

安装 我们伟大祖国有句古话叫巧妇难为无米之炊,还有句话叫工欲善其事必先利其器。所以,在正式的学习之前,我们需要先把git这把利器安装好。 Windows系统 下载安装包 打开Git - Downloading Package页面,根据系统类型32位还是6…

有ai写文案的工具吗?分享5款好用的工具!

在数字化时代,人工智能(AI)已渗透到我们生活的方方面面,包括内容创作领域。AI写文案的软件以其高效、便捷的特点,正逐渐受到广大内容创作者、营销人员、甚至普通用户的青睐。本文将为您盘点几款热门的AI写文案软件&…

Flume入门概述及安装部署

目录 一、Flume概述1.1 Flume定义1.2 Flume基础架构 二、Flume安装部署 一、Flume概述 1.1 Flume定义 Flume是Cloudera提供的一个高可用的,高可靠的,分布式的海量日志采集、聚合和传输的系统。Flume基于流式架构,灵活简单。 1.2 Flume基础…

粒子群算法 - 目标函数最优解计算

粒子群算法概念 粒子群算法 (particle swarm optimization,PSO) 由 Kennedy 和 Eberhart 在 1995 年提出,该算法模拟鸟群觅食的方法进行寻找最优解。基本思想:人们发现,鸟群觅食的方向由两个因素决定。第一个是自己当初飞过离食物…

windows查看局域网内所有已使用的IP IP扫描工具 扫描网段下所有的IP Windows环境下

推荐使用: Advanced IP Scanner 官网下载: https://www.advanced-ip-scanner.com/

动手做简易版俄罗斯方块

导读:让我们了解如何处理形状的旋转、行的消除以及游戏结束条件等控制因素。 目录 准备工作 游戏设计概述 构建游戏窗口 游戏方块设计 游戏板面设计 游戏控制与逻辑 行消除和计分 判断游戏结束 界面美化和增强体验 看看游戏效果 准备工作 在开始编码之前…

前端框架推荐 Arco Design

Arco Design - 企业级产品的完整设计和开发解决方案 预览地址:Arco Design Pro - 开箱即用的中台前端/设计解决方案 一 开发 有vue3、React版本。 文档地址:Arco Design - 企业级产品的完整设计和开发解决方案 还配有对应脚手架:GitHub -…

Scala--02--IDEA编写Hello World

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录 1.Scala 插件安装1)插件离线安装步骤2) 插件在线安装(推荐可选) 2.HelloWorld 案例1)打开 IDEA->点击…

刷题DAY27 | LeetCode 39-组合总和 40-组合总和II 131-分割回文串

39 组合总和(medium) 给你一个 无重复元素 的整数数组 candidates 和一个目标整数 target ,找出 candidates 中可以使数字和为目标数 target 的 所有 不同组合 ,并以列表形式返回。你可以按 任意顺序 返回这些组合。 candidates…

4 CUDA 环境搭建

4.1 简介 本章面向从未接触过CUDA的初学者。我们将依次介绍如何在不同操作系统上安装CUDA、有哪些可用的CUDA 工具以及CUDA如何编译代码,最后介绍应用程序接口提供的错误处理手段,并帮助读者识别CUDA代码和开发过程中必然碰到的应用程序接口报错。Windo…

二、typescript基础语法

一、条件语句 二、函数 1、有名函数 function add(x:number, y:number):number {return x y;}2、匿名函数 let add function (x:number, y:number):number {return x y;}函数可选参数 function buildName(firstname: string, lastname?:string) {if (lastname) {return fi…

MT2492 16V输入 600KHz 2A DCDC同步降压转换器 航天民芯一级代理

深圳市润泽芯电子有限公司为航天民芯一级代理 描述 MT2492是一款完全集成的高效率产品2A同步整流降压变换器。MT2492在一段时间内高效运行宽输出电流负载范围。该设备提供两种工作模式,即PWM控制和PFM模式切换控制在更宽的工作范围内实现高效率加载。MT2492需要…

k8s系列之十四安装Istio

Istio 是一个开源的服务网格(Service Mesh),用于连接、管理和保护微服务。它提供了一组功能强大的工具,包括流量管理、安全性、监控和跟踪等,以帮助在微服务架构中更好地管理服务之间的通信。 一些主要的 Istio 功能包…

【VTKExamples::Points】第五期 ExtractPointsDemo

很高兴在雪易的CSDN遇见你 VTK技术爱好者 QQ:870202403 公众号:VTK忠粉 前言 本文分享VTK样例ExtractPointsDemo,并解析接口vtkExtractPoints,希望对各位小伙伴有所帮助! 感谢各位小伙伴的点赞+关注,小易会继续努力分享,一起进步! 你的点赞就是我的动力(^U…

探讨Java代码混淆加固工具

摘要 本篇博客将介绍几种常用的Java代码混淆工具,如ProGuard、Allatori Java Obfuscator、VirboxProtector、ipaguard和DashO。我们将深入探讨它们的特点、功能以及在保护Java应用程序安全方面的作用。此外,还将强调在使用Java代码混淆工具时需要注意的…

正信法律:亲戚借了钱只有转账记录能要回吗

在中国传统文化中,亲情与金钱往往交织在一起,但当亲戚借钱多年不还,且没有借条时,这份纠结便显得尤为棘手。面对这样的情况,我们可以采取一些明智的做法来妥善处理。 沟通始终是解决问题的钥匙。尝试与亲戚进行坦诚的对…

Java开发建议——通用准则,基本类型,类、对象及方法,字符串,数组和集合,枚举和注解,多线程和并发,性能和效率

目录 引出通用的方法和准则建议1:不要在常量和变量中出现易混淆的字母建议2:莫让常量蜕变成变量建议3:三元操作符的类型务必一致建议4:避免带有变长参数的方法重载建议5:别让null值和空值威胁到变长方法 建议6&#xf…