探索AI+k8s：如何使用Deepseek大模型增強k8s-dashboard

作者：冬子先生 2025-04-16 03:25:00

k8m 作為一款結合 AI 和 Kubernetes 的工具，展現了其簡潔高效的設計理念。從便捷的文件管理、日志診斷到智能化的 YAML 翻譯和故障排查，k8m 憑借其直觀的界面和 AI 支持，極大提升了 Kubernetes 的易用性和可操作性。

一、導讀

Kubernetes（簡稱K8s）的普及讓開發和運維工作變得更加高效，但它的復雜性卻讓許多人在使用時面臨挑戰。從網絡配置到故障排查，每一步都需要深入的技術積累。然而，隨著人工智能技術的迅猛發展，借助智能工具，我們可以將許多復雜問題簡單化。

本文將向您介紹一款將 AI 助手與 Kubernetes 管理相結合的輕量級工具——k8m。它將如何幫助開發者和運維人員高效管理集群資源，優化工作流程，讓繁瑣的 Kubernetes 操作變得更加輕松快捷？

二、k8m介紹

k8m 是一款集 AI 與 Kubernetes 于一體的輕量級控制臺工具，專為簡化集群管理設計。基于 AMIS 構建，并通過 kom 作為 Kubernetes API 客戶端，k8m 內置了 Qwen2.5-Coder-7B 模型交互能力，同時支持接入您自己的私有化大模型，比如deepseek模型。

三、安裝和運行

3.1 ChatGPT 配置指南

內置****GPT

從v0.0.8版本開始，將內置GPT，無需配置。如果您需要使用自己的GPT，請參考以下步驟。

環境變量配置

需要設置環境變量，以啟用ChatGPT。

export OPENAI_API_KEY="sk-XXXXX"export OPENAI_API_URL="https://api.siliconflow.cn/v1"
export OPENAI_MODEL="Qwen/Qwen2.5-7B-Instruct"

ChatGPT 狀態調試

如果設置參數后，依然沒有效果，請嘗試使用./k8m -v 6獲取更多的調試信息。會輸出以下信息，通過查看日志，確認是否啟用ChatGPT。

ChatGPT 開啟狀態:true
ChatGPT 啟用 key:sk-hl**********************************************, url:https: // api.siliconflow.cn/v1ChatGPT 使用環境變量中設置的模型:Qwen/Qwen2.5-Coder-7B-Instruc

ChatGPT 賬戶

本項目集成了github.com/sashabaranov/go-openaiSDK。國內訪問推薦使用硅基流動的服務。登錄后，在https://cloud.siliconflow.cn/account/ak創建API_KEY

3.2 二進制部署

下載從 GitHub 獲取最新版本。

項目地址:https://github.com/weibaohui/k8m/

運行在終端中運行以下命令啟動服務，并通過瀏覽器訪問：

./k8m
Usage of ./k8m:
      --admin-password string            管理員密碼 (default "123456")
      --admin-username string            管理員用戶名 (default "admin")
  -k, --chatgpt-key string               大模型的自定義API Key (default "sk-xxxxxxx")
  -m, --chatgpt-model string             大模型的自定義模型名稱 (default "Qwen/Qwen2.5-7B-Instruct")
  -u, --chatgpt-url string               大模型的自定義API URL (default "https://api.siliconflow.cn/v1")
  -d, --debug                            調試模式
      --in-cluster                       是否自動注冊納管宿主集群，默認啟用
      --jwt-token-secret string          登錄后生成JWT token 使用的Secret (default "your-secret-key")
  -c, --kubeconfig string                kubeconfig文件路徑 (default "/root/.kube/config")
      --kubectl-shell-image string       Kubectl Shell 鏡像。默認為 bitnami/kubectl:latest，必須包含kubectl命令 (default "bitnami/kubectl:latest")
      --log-v int                        klog的日志級別klog.V(2) (default 2)
      --login-type string                登錄方式，password, oauth, token等,default is password (default "password")
      --node-shell-image string          NodeShell 鏡像。 默認為 alpine:latest，必須包含`nsenter`命令 (default "alpine:latest")
  -p, --port int                         監聽端口 (default 3618)
      --sqlite-path string               sqlite數據庫文件路徑， (default "./data/k8m.db")
  -v, --v Level                          klog的日志級別 (default 2)

3.3 k8s中yaml部署

以下是k8m支持的環境變量設置參數及其作用的表格：

環境變量	默認值	說明
PORT	3618	監聽的端口號
KUBECONFIG	~/.kube/config	kubeconfig 文件路徑
OPENAI_API_KEY	""	大模型的 API Key
OPENAI_API_URL	""	大模型的 API URL
OPENAI_MODEL	Qwen/Qwen2.5-7B-Instruct	大模型的默認模型名稱，如需DeepSeek，請設置為deepseek-ai/DeepSeek-R1-Distill-Qwen-7B
LOGIN_TYPE	"password"	登錄方式（如 password, oauth, token）
ADMIN_USERNAME	"admin"	管理員用戶名
ADMIN_PASSWORD	"123456"	管理員密碼
DEBUG	"false"	是否開啟 debug 模式
LOG_V	"2"	log輸出日志，同klog用法
JWT_TOKEN_SECRET	"your-secret-key"	用于 JWT Token 生成的密鑰
KUBECTL_SHELL_IMAGE	bitnami/kubectl:latest	kubectl shell 鏡像地址
NODE_SHELL_IMAGE	alpine:latest	Node shell 鏡像地址
SQLITE_PATH	/data/k8m.db	持久化數據庫地址，默認sqlite數據庫，文件地址/data/k8m.db
IN_CLUSTER	"true"	是否自動注冊納管宿主集群，默認啟用

這些環境變量可以通過在運行應用程序時設置

注意：環境變量會被啟動參數覆蓋。

其中模型環境變量需要根據實際情況修改，yaml中的142,144,146行
yaml中的91行需要改成自己集群的sc名稱，主要是為了做持久化數據用

---
apiVersion:v1
kind:Namespace
metadata:
name:k8m
---
apiVersion:v1
kind:ServiceAccount
metadata:
labels:
    app:k8m
name:k8m
namespace:k8m
---
kind:Role
apiVersion:rbac.authorization.k8s.io/v1
metadata:
labels:
    app:k8m
name:k8m
namespace:k8m
rules:
-verbs:
      -"*"
    apiGroups:
      -"*"
    resources:
      -"*"
---
kind:ClusterRole
apiVersion:rbac.authorization.k8s.io/v1
metadata:
labels:
    app:k8m
name:k8m
rules:
-verbs:
      -"get"
      -"list"
      -"watch"
      -"pods/exec"
    apiGroups:
      -"*"
    resources:
      -"*"
-verbs:
      -"get"
      -"list"
      -"watch"
      -"pods/exec"
    nonResourceURLs:
      -"*"
---
apiVersion:rbac.authorization.k8s.io/v1
kind:RoleBinding
metadata:
labels:
    app:k8m
name:k8m
namespace:k8m
roleRef:
apiGroup:rbac.authorization.k8s.io
kind:Role
name:k8m
subjects:
-kind:ServiceAccount
    name:k8m
    namespace:k8m
---
apiVersion:rbac.authorization.k8s.io/v1
kind:ClusterRoleBinding
metadata:
name:k8m
roleRef:
apiGroup:rbac.authorization.k8s.io
kind:ClusterRole
name:k8m
subjects:
-kind:ServiceAccount
    name:k8m
    namespace:k8m
---
apiVersion:v1
kind:PersistentVolumeClaim
metadata:
name:k8m-pv-claim
namespace:k8m
labels:
    app.kubernetes.io/name:k8m
spec:
storageClassName:nfs-sc##這里需要改成自己集群的sc名稱
accessModes:
    -ReadWriteMany
resources:
    requests:
      storage:10Gi
---
apiVersion:v1
kind:Service
metadata:
name:k8m-nodeport
namespace:k8m
labels:
    app:k8m
spec:
ports:
    -name:http-k8m
      protocol:TCP
      port:3618
      targetPort:3618
      nodePort:31999
selector:
    app:k8m
type:NodePort
---
apiVersion:apps/v1
kind:Deployment
metadata:
name:k8m
namespace:k8m
labels:
    app:k8m
spec:
replicas:1
selector:
    matchLabels:
      app:k8m
template:
    metadata:
      labels:
        app:k8m
    spec:
      containers:
        -name:k8m
          image:registry.cn-hangzhou.aliyuncs.com/minik8m/k8m:0.0.66
          env:
            -name:DEBUG
              value:"false"
            -name:LOG_V
              value:"6"
            -name:OPENAI_API_KEY
              value:"sk-xxxx"
            -name:OPENAI_API_URL
              value:"http://xxxxxxx/deepseek-14b"
            -name:OPENAI_MODEL
              value:"deepseek-14b"
            -name:KUBECTL_SHELL_IMAGE
              value:bitnami/kubectl:latest
            -name:NODE_SHELL_IMAGE
              value:alpine:latest
            -name:SQLITE_PATH
              value:/app/data/k8m.db
            -name:IN_CLUSTER
              value:"false"
          ports:
            -containerPort:3618
              protocol:TCP
              name:http-k8m
          imagePullPolicy:IfNotPresent
          volumeMounts:
            -name:kubepi-persistent-storage
              mountPath:/app/data
      restartPolicy:Always
      serviceAccountName:k8m
      volumes:
        -name:kubepi-persistent-storage
          persistentVolumeClaim:
            claimName:k8m-pv-claim