K8s 如何集成ChatGPT？

文章目录

1. 什么是K8s？
2. 集成K8s和大模型的效果
3. ChatGPT监测K8s集群Demo
4.可预想的实践用例
5. 结论

1. 什么是K8s？

熟悉云原生领域的朋友对 K8s 一定不会陌生。K8s（Kubernetes）是一个开源的容器编排平台，用于自动化容器化应用程序的部署、扩展和管理。它最初由 Google 开发，并在2014年开源。K8s 致力于解决容器化应用的运行和管理问题，使得应用可以跨不同的环境（如本地数据中心、云平台等）无缝运行。

K8s 作为一个强大的容器编排工具，已经成为现代云原生应用部署和管理的标准，通过自动化和高效的管理，极大地简化了复杂应用的运维工作。

一言以蔽之：一种容器编排工具，用于提升应用的运维效率！

2. 集成K8s和大模型的效果

这里的 ChatGPT 只是大模型的一个代表，可以平替为国内的 Qwen、GLM-4、文心一言等模型。国内外的大模型访问入口请参考《国内外大模型免费访问入口汇总》

ChatGPT 等大模型已经不仅仅是一个对话工具，通过对大模型进行特殊场景的应用可以实现一个一个的 AI Agent（智能体），类似于一个特定领域的专家。

将 K8s 与 ChatGPT 集成，可以利用 ChatGPT 强大的文本生成能力以 K8s 理解的方式与 K8s 进行通信（类似于生成代码能力）。

可以自动生成 K8s 集群部署相关的操作和任务配置文件。例如可以使用文本或语音命令与 K8s 无缝交互，从而更高效地执行复杂操作。

本质上，通过这种集成，您可以简化各种任务，例如；
（1）部署应用程序。简化并自动化操作流程，减少了人工干预的需要。

（2）解析异常信息。ChatGPT 可以尝试解答 K8s 抛出的错误问题，并提供排查问题思路。

（3）监控集群健康。将 K8s 的一系列指标丢给 ChatGPT 分析，可以反馈有关 K8s 集群和应用程序状态的实时信息，检测集群运行是否健康。

相信未来，无论是开发人员、系统管理员还是 DevOps 专业人员，集成 AI 的能力，可以彻底改变之前传统可观测性方式并简化工作流程。

3. ChatGPT监测K8s集群Demo

假设已经拥有适合集成的环境，包括：

（1）K8s 的安装。Mac 参考《Mac 安装 Minikube》。Linux 参考《K8s 的 kubeadm 巨细安装，亲操可行！！》

（2）用于 ChatGPT 访问的 OpenAI 帐户。

首先，在 OpenAI 平台上创建你的 API-keys ：

链接：https://platform.openai.com/account/api-keys

然后安装 chatgpt 库

pip install openai

下面是监测 K8s 集群简单代码示例：

import requests 
from kubernetes import client, config 
import openai


# 访问 ChatGPT，回答问题
def interagir_chatgpt(message):    
	# Get OpenAI API key at https://platform.openai.com/account/api-keys
	openai.api_key = "YOUR_API_KEY"

	completion = openai.ChatCompletion.create(
    	model="gpt-3.5-turbo",
    	messages=[{"role": "user", "content": massage}]
	)

	return completion.choices[0].message.content



# K8s的配置
config.load_kube_config() 
v1 = client.CoreV1Api() 

# K8s集群监测，收集集群指标、日志、event事件
def get_information_cluster():   
    # Logic for collecting Kubernetes cluster metrics  
    metrics = v1.list_node()      
 
    # Logic for collecting Kubernetes cluster logs   
    logs = v1.read_namespaced_pod_log("POD_NAME", "NAMESPACE")   
   
    # Logic for collecting Kubernetes cluster events   
    events = v1.list_event_for_all_namespaces()
    
    return metrics, logs, events 

# 根据收集的信息，聚合异常问题
def identify_problems(metrics, logs, events):   
    problems = []    

    # Logic to analyze metrics and identify issues   
    for metric in metrics.items:      
        if metric.status.conditions is None or metric.status.conditions[-1].type != "Ready":         
            problems.append(f"The node {metric.metadata.name} not ready.")   
   
    # Logic to analyze the logs and identify problems   
    if "ERROR" in logs:       
        problems.append("Errors were found in pod logs.")    

    # Logic to analyze events and identify problems   
    for evento in events.items:     
        if evento.type == "Warning":           
            problems.append(f"A warning event has been logged: {event.message}")    
   
    return problem

# 持续监测K8s集群
def monitoring_cluster_kubernetes():   
    while True:       
        metrics, logs, events = get_information_cluster()       
        problems = identify_problems(metrics, logs, events)       
 
        if problemas:           
            # Logic to deal with identified problems          
            for problem in problems:              
                # 有问题可以访问ChatGPT            
                print(f"Identified problem: {problem}")  
                resposta_chatgpt = interact_chatgpt(problem)
                print(f"ChatGPT response: {resposta_chatgpt}")
     
       # Logic to wait a time interval between checks      
        time.sleep(60)  # Wait for 1 minute before performing the next check


if __name__ == "__main__":  
    monitorar_cluster_kubernetes()