當前位置：首頁 > 运维知识 > windows >内容正文

windows

K8s 里多容器 Pod 的健康检查探针工作机制分析

發(fā)布時間：2023/12/24 windows 36 coder

生活随笔收集整理的這篇文章主要介紹了 K8s 里多容器 Pod 的健康检查探针工作机制分析小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

1. 開篇
2. 聊啥
3. 結論（TL;DR）
4. 測試過程
- 4.1 準備測試用鏡像
- 4.2 準備 Deployment YAML
- 4.3 準備 Service YAML
- 4.4 準備第二個 Service YAML
- 4.5 測試過程
5. 結論
6. 結尾

1. 開篇

米娜桑，寶子們，ladies and 磚頭們…… 總之，我回來了！

你看這標題，沒錯，K8s 的。兜轉(zhuǎn)兩載，我還是決定從“DevOps 工程師”變回“機器學習平臺研發(fā)工程師”。直觀一點講，就是“云平臺開發(fā)”那點事配上 GPU 那點料，是不是很好理解？

Anyway，以后又有機會玩 K8s 了，所以接下來我會繼續(xù)更新和 K8s 或者“機器學習平臺”相關的內(nèi)容。總之總之，你們蹲了那么久的更新，來了！

2. 聊啥

今天有個同事問我：在1個 Pod 中跑多個 Container，如果其中一個掛了，另外一個會怎樣？

嗯…… 我記得大概，不過沒有確切的結論，這個取決于 probes 是怎么工作的，于是我實測了一下，發(fā)現(xiàn)和預期不是完全一致。

于是乎，今天和大伙分享下這個知識點。

3. 結論（TL;DR）

對，結論在開頭。畢竟，我知道你們都很忙。

一番操作猛如虎，然后我發(fā)現(xiàn)：

當1個 Pod 中包含2個 Containers 的時候，如果2個 Containers 分別對外暴露不同的端口（http 服務為例），當其中有1個 Container 的：

Liveness probe 失敗，則該 Container 會被 Kubelet 干掉，然后該 Container 重啟/重建（當然，你的重啟策略得是 Always），另外一個 Container 不會重啟（也就是不會發(fā)生 Pod 級別的重啟/重建，因此 Pod IP 也不會變化）；
Readiness probe 失敗，這時候 Pod 狀態(tài)里的 Ready 列自然是1/2，關鍵是 Service 會怎樣工作呢？
1. 當使用1個 Service 負載流量到這個 Pod 的2個端口時，Service 對應的 Endpoint 會變成 NotReady，導致 Pod 中 ready 的那個 Container 也不能通過 Service 地址訪問到；
2. 當使用2個不同的 Service 分別負載流量到這個 Pod 的2個端口時，很遺憾，對應的2個 Endpoint 均會變成 NotReady，而不是1個 Ready，一個 NotReady。（這是和我最開始的猜測不相符的）

4. 測試過程

你居然看到了這里，寶子，你是個求知欲很強的孩子啊！

4.1 準備測試用鏡像

我想用 NGINX 鏡像來完成這次 probes 特性測試，但是要讓2個 containers 在1個 Pod 里監(jiān)聽不同的端口，那就得重新打下鏡像，包一層了。

1. 首先，準備一個配置文件

default.conf

server {
    listen 8080;

    location / {
        root   /usr/share/nginx/html;
        index  index.html index.htm;
    }
}

2. 然后準備一個 Dockerfile

Dockerfile

FROM nginx

RUN rm /etc/nginx/conf.d/default.conf

COPY default.conf /etc/nginx/conf.d/

EXPOSE 8080

注意到這里我們將端口號指定成了8080。

3. 接著 build 一下

docker build -t my-nginx-8080:1.0 .

很酷，第一個鏡像有了。然后咱需要繼續(xù)搞一個監(jiān)聽8081端口的新鏡像。

4. 更新配置文件

default.conf

server {
    listen 8081;

    location / {
        root   /usr/share/nginx/html;
        index  index.html index.htm;
    }
}

5. 更新 Dockerfile

FROM nginx

RUN rm /etc/nginx/conf.d/default.conf

COPY default.conf /etc/nginx/conf.d/

EXPOSE 8081

6. build 第二個鏡像

docker build -t my-nginx-8081:1.0 .

OK，到這里2個鏡像就準備完成了。接著如何將鏡像丟到 K8s worker 節(jié)點，大家就各顯神通吧，通過鏡像倉庫也行，手動拷貝也罷。

4.2 準備 Deployment YAML

首先跑一個 probe 能過的版本，確保“1 Pod 2 Container”啟起來。

deploy.yaml

apiVersion: apps/v1
kind: Deployment
metadata:
  name: nginx-deployment
spec:
  replicas: 1
  selector:
    matchLabels:
      app: nginx
  template:
    metadata:
      labels:
        app: nginx
    spec:
      containers:
      - name: nginx-container1
        image: my-nginx-8080:1.0
        ports:
        - containerPort: 8080
        livenessProbe:
          httpGet:
            path: /
            port: 8080
          initialDelaySeconds: 5
          periodSeconds: 5
        readinessProbe:
          httpGet:
            path: /
            port: 8080
          initialDelaySeconds: 5
          periodSeconds: 5
      - name: nginx-container2
        image: my-nginx-8081:1.0
        ports:
        - containerPort: 8081
        livenessProbe:
          httpGet:
            path: /
            port: 8081
          initialDelaySeconds: 5
          periodSeconds: 5
        readinessProbe:
          httpGet:
            path: /
            port: 8081
          initialDelaySeconds: 5
          periodSeconds: 5

4.3 準備 Service YAML

然后準備一個 Service，用來測試 readinessProbe 相關行為。

svc.yaml

apiVersion: v1
kind: Service
metadata:
  name: my-nginx-service
spec:
  selector:
    app: nginx
  ports:
    - name: port1
      protocol: TCP
      port: 8080
      targetPort: 8080
    - name: port2
      protocol: TCP
      port: 8081
      targetPort: 8081

4.4 準備第二個 Service YAML

如果是分開的2個 Services 去轉(zhuǎn)發(fā)流量到 Pod 內(nèi)的2個 Containers 呢？也試一下：

svc-2.yaml

apiVersion: v1
kind: Service
metadata:
  name: my-nginx-service-1
spec:
  selector:
    app: nginx
  ports:
    - protocol: TCP
      port: 8080
      targetPort: 8080
---
apiVersion: v1
kind: Service
metadata:
  name: my-nginx-service-2
spec:
  selector:
    app: nginx
  ports:
    - protocol: TCP
      port: 8081
      targetPort: 8081

4.5 測試過程

Apply YAML 后，依次將 Deployment 配置里的 livenessProbe.httpGet.path 和 readinessProbe.httpGet.path 從正確的 / 改成會引發(fā)404的 /hehe，然后觀察 Pod 的狀態(tài)變化，Service/Endpoint 的狀態(tài)變化，就可以啦。

（對，不放截圖，顯得冗長，不是懶，真的不是懶！）

5. 結論

前面貼過結論了，復制粘貼一波：

當1個 Pod 中包含2個 Containers 的時候，如果2個 Containers 分別對外暴露不同的端口（http 服務為例），當其中有1個 Container 的：

Liveness probe 失敗，則該 Container 會被 Kubelet 干掉，然后該 Container 重啟/重建（當然，你的重啟策略得是 Always），另外一個 Container 不會重啟（也就是不會發(fā)生 Pod 級別的重啟/重建，因此 Pod IP 也不會變化）；

Readiness probe 失敗，這時候 Pod 狀態(tài)里的 Ready 列自然是1/2，關鍵是 Service 會怎樣工作呢？

當使用1個 Service 負載流量到這個 Pod 的2個端口時，Service 對應的 Endpoint 會變成 NotReady，導致 Pod 中 ready 的那個 Container 也不能通過 Service 地址訪問到；

當使用2個不同的 Service 分別負載流量到這個 Pod 的2個端口時，很遺憾，對應的2個 Endpoint 均會變成 NotReady，而不是1個 Ready，一個 NotReady。（這是和我最開始的猜測不相符的）

6. 結尾

沒看夠？別急嘛，關注微信公眾號“胡說云原生”，來日方長，see you tomorrow。

總結

以上是生活随笔為你收集整理的K8s 里多容器 Pod 的健康检查探针工作机制分析的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。