王誠強，荔枝微課基礎架構負責人。熱衷于基礎技術研發推廣，致力于提供穩定高效的基礎架構，推進了荔枝微課集群化從0到1的發展，云原生架構持續演進的實踐者。

本文根據2021年4月10日深圳站舉辦的【騰訊云原生技術開發日】 線下活動中，【荔枝微課】基礎架構負責人“王誠強”關于“基于kubernetes搭建分布式壓測系統”的演講整理而成。

關注【騰訊云原生】公眾號后臺回復【lzwk】，可獲得該演講PPT。

大家好，今天想和大家分享的主題是基于kubernetes搭建分布式壓測系統。 從背景、原理、實現、效果和未來方向5個方面講解了荔枝微課在基于 kubernetes 搭建分布式壓測系統上的實踐和思考。

背景

荔枝微課作為一個高速發展的平臺，面臨著業務流量越來越大的沖擊，特別是在去年疫情期間遭遇成倍流量增長的情況，是通過什么方式輕松渡過難關的？以我在荔枝微課落地云原生的經歷來說，為什么我們要去實踐云原生架構呢？只是因為是業內技術趨勢嗎？

其實這個是源于業務需要的，基礎架構最重要的是穩定高效，在我最早接手并負責荔枝微課基礎架構時，第一個季度的目標居然是應急響應，但我們都知道應急響應是治標不治本的，而要治本根治的話那么就要對改掉整個底層基礎架構，這也是為什么荔枝微課會去做云原生實踐的原因。

而在做這個實踐的時候，我們還需要一個工具來衡量，那就是分布式壓測系統。我們早期使用過本地壓測、CVM伸縮組壓測等方案，但是他們有著本地資源能力有限、伸縮組申請變更麻煩、伸縮速度較慢、壓測腳本和報告管理混亂，經常無存檔等缺點。于是我們采用了現在的基于 kubernetes的分布式壓測方案。

分布式壓測方案借助的三個技術

原理上來講，需要借助三方面的技術：

編程技術

這里我們選擇了我們團隊較熟悉的python，不同團隊可以有不同的選擇；

壓測引擎

我們用的是Locust，因為它是用python寫腳本，其實也可以更換成jmeter之類的其它壓測引擎，

kubernetes

主要利用它的服務編排技術來進行一個資源上的調度，經過我們測試，如果是普通集群，在需要彈出集群物理節點的情況下，全部就緒需要90秒，但是使用彈性集群，則可以壓縮到15~20秒，所以推薦使用彈性集群。 整個技術框架原理上，壓測節點分為主節點（master）、從節點 （slave）和監控節點（monitor）三種類型：

主節點

負責任務管理和數據采集聚合，本身不進行壓測任務

從節點

負責壓測任務

監控節點

從主節點將結果通過webhook傳遞給web服務處理端；

另外這些節點的狀態、日志都會通過k8s的api進行采集。 根據壓測任務里主從節點所申請的資源，集群將提前伸縮好節點，并將任務分配到不同節點，以達到動態提高壓測能力的目的。

壓測流程

右邊為用戶所感知到的過程，壓測集中包括多個壓測場景，通過編寫壓測腳本和配置壓測參數的方式生成壓測任務，并最終生成壓測報告。

左邊為python控制集群來生成任務的過程，具體是渲染生成不同任務的yaml文件后，生成相應的 job pod，然后持續將 pod 狀態 、日志和壓測曲線結果反饋在頁面上。

整個過程所使用的技術并沒有多高深，主要是在集群應用上的一種探索。

實現方法

使用yaml編排job服務，舉例slave節點來說，主要是聲明一個job類型的工作負載，將生成的任務從節點名以及任務生成的命名空間渲染上去，然后設置我們的壓測基礎鏡像以及啟動命令，這里我們用到了 kubernetes 的幾個技巧，一個是通過hostAliases進行內部解析，這樣可以對一些內網代理進行壓測，另一個是聲明申請資源CPU，以便在任務啟動前提前伸縮好物理節點提供資源，還有一個是通過configmap掛載可執行文件，這樣可以注入參數在變化的啟動命令，而不需要重新構建鏡像。

然后說一下我們的代碼框架，主要是分為這幾個模塊：

• k8s模塊，提供一些如創建銷毀命名空間或pod、查看狀態、拉取日志等api功能；
• 基礎鏡像，較為簡單，主要安裝了一些基礎通用的庫，然后開通了一些內部使用的端口；
• 任務編排聲明文件，包括了我上面說的幾種節點服務；
• 任務核心方法類，主要是將上述的流程代碼實現，提供了一些方法，這里限于篇幅就不具體展開了。

然后最后我們來看下效果：

這是我們壓測系統的管理界面，現在看到的是壓測集，方便集中管理。

這是創建壓測場景，并基于該場景編寫python壓測腳本，并可設置我們的任務參數。

這是壓測任務詳情頁，可以看到壓測參數、狀態以及節點情況和查看日志。

這是壓測過程中實時生成的圖表，可以基于圖表情況進行分析。

未來改進方向

• 引擎類型或版本允許選擇更換；
• 批量定時分階段的自動壓測計劃；
• 將所有涉及資源圖表關聯進來，形成更為詳盡的報告；
• 任務資源限制與使用審批；
• 報告分析結論存檔，相關問題追蹤處理結果存檔；
• 相同條件的多次壓測結果對比展示；
• 使用更為云原生的方式管理任務的生命周期；

Q&A環節

Q：這個壓測系統對于測試人員有什么要求嗎？

A：需要會使用編程語言編寫壓測腳本，并有一定的分析思考能力，通過進一步封裝的話也可以降低這部分的要求，但編程的話能力會更強更靈活，比如一些復雜條件或者像要動態使用賬號的情況。 ## Q：你們的壓測會需要多少資源呢，是怎么控制的呢？

A：我們這套系統，是根據任務需要自動申請資源的，任務結束時也就自動銷毀了，不會出現說一直占用消耗資源的情況。 ## Q：這個對于服務在哪個云有要求嗎?

A：雖然我剛才說到的集群是TKE的，但kubernetes作為一項開源的、通用的標準化技術，只要能提供該服務的云理論上都可以。 ## Q：你們壓測會壓生產嗎？大概多久壓一次？臟數據怎么辦？

A：我們壓測會在盡量不影響用戶的情況下定期進行線上壓測，大概是每月一次，新項目上線前也會在測試環境壓，也有專門的壓測集群來壓，臟數據的話也是要清的，我們有機器人用戶，可以針對這些用戶進行臟數據清理。 ## Q：我們公司已經有用幾臺服務器來壓測，想問下為什么要用kubernetes集群呢？

A：一方面我們當時剛好在做集群方面的實踐，另一方面呢，也考慮了集群資源管理上的優勢，比如資源隔離或限制，因為有的時候測試是不太清楚自己需要多少資源的，不加限制的話有的時候會占用比較多資源，還有就是任務狀態、日志的收集還有就是我前面提到的一些集群的特性。

【騰訊云原生】云說新品、云研新術、云游新活、云賞資訊，掃碼關注同名公眾號，及時獲取更多干貨！！

總結

以上是生活随笔為你收集整理的案例 | 荔枝微课基于 kubernetes 搭建分布式压测系统的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。