K8s 部署prometheus

kube-prometheus 部署

kube-prometheus 是 github 上开源的整合了 prometheus alertmanager granfana 等监控工具的项目，github地址

如果github 访问不了的也可以选择 gitee 上搬运过来的项目仓库 gitee地址

部署时，根据对应k8s 选择对应版本

部署流程

默认的镜像基本上都是国外的源，国内访问不到，需要替换一下镜像id

sed -i 's/quay.io/quay.mirrors.ustc.edu.cn/g' prometheusOperator-deployment.yaml
sed -i 's/quay.io/quay.mirrors.ustc.edu.cn/g' prometheus-prometheus.yaml
sed -i 's/quay.io/quay.mirrors.ustc.edu.cn/g' alertmanager-alertmanager.yaml
sed -i 's/quay.io/quay.mirrors.ustc.edu.cn/g' kubeStateMetrics-deployment.yaml
sed -i 's/k8s.gcr.io/lank8s.cn/g' kubeStateMetrics-deployment.yaml
sed -i 's/quay.io/quay.mirrors.ustc.edu.cn/g' nodeExporter-daemonset.yaml
sed -i 's/quay.io/quay.mirrors.ustc.edu.cn/g' prometheusAdapter-deployment.yaml
sed -i 's/quay.io/quay.mirrors.ustc.edu.cn/g' blackboxExporter-deployment.yaml 
sed -i 's/k8s.gcr.io/lank8s.cn/g' prometheusAdapter-deployment.yaml


# 批量替换
sed -i 's/quay.io/quay.mirrors.ustc.edu.cn/g' `grep "quay.io" -rl *`

除此之外，还可以选择修改 prometheus、alertmanager、grafana 中的 spec.type 为 NodePort 方便测试访问

分别是 prometheus-service.yaml  alertmanger-service.yaml  grafana-service.yaml 三个文件

安装

kubectl apply --server-side -f manifests/setup   # 处理
kubectl wait \   
	--for condition=Established \
	--all CustomResourceDefinition \
	--namespace=monitoring
kubectl apply -f manifests/

配置 ingress

因为prometheus operator内部默认配置了NetworkPolicy, 所有不能直接通过 host:port 形式访问。

解决方案有两个

1. 删除对应的 networkpolicy

   kubectl delete -f manifests/prometheus-networkPolicy.yaml
   kubectl delete -f manifests/grafana-networkPolicy.yaml
   kubectl delete -f manifests/alertmanager-networkPolicy.yaml
   

2. 配置ingress

• prometheus-ingress.yaml

apiVersion: networking.k8s.io/v1
kind: Ingress
metadata:
  namespace: monitoring
  name: prometheus-ingress
spec:
  ingressClassName: nginx
  rules:
  - host: grafana.k8s-test.cn  # 访问 Grafana 域名
    http:
      paths:
      - path: /
        pathType: Prefix
        backend:
          service:
            name: grafana
            port:
              number: 3000
  - host: prometheus.k8s-test.cn  # 访问 Prometheus 域名
    http:
      paths:
      - path: /
        pathType: Prefix
        backend:
          service:
            name: prometheus-k8s
            port:
              number: 9090
  - host: alertmanager.k8s-test.cn  # 访问 alertmanager 域名
    http:
      paths:
      - path: /
        pathType: Prefix
        backend:
          service:
            name: alertmanager-main
            port:
              number: 9093

• 本地电脑配置hosts 后，就可以通过 域名访问了

172.26.25.71  grafana.k8s-test.cn  prometheus.k8s-test.cn  alertmanager.k8s-test.cn

卸载

kubectl delete --ignore-not-found=true -f manifests/ -f manifests/setup 

补充

此部署方案未实现数据持久化存储重启容器后就会重置。 可以通过添加storageClass 配置来实现 prometheus-prometheus.yaml 文件中的配置来实现持久化。同理 granfa 也可以，并且可以通过修改 granfa-config.yaml 文件来修改链接的数据库来保存数据