解密双十一小程序云背后毫秒级伸缩的Serverless计算平台:函数计算
自2017年第一批小程序上線以來,越來越多的移動端應用以小程序的形式呈現。小程序擁有觸手可及、用完即走的優點,這大大減少了用戶的使用負擔,使小程序得到了廣泛的傳播。在阿里小程序也被廣泛地應用在淘寶/支付寶/釘釘/高德等平臺上,例如今年雙11大家在淘寶/天貓上參加的活動,大部分都是通過小程序提供的。
一個小程序可以分為客戶端和服務端:客戶端包括界面的展示和交互邏輯,服務端則包括數據的處理和分析。為了支撐大量的小程序,平臺在服務端面臨的挑戰有:
針對小程序場景,阿里云提供了完整的小程序解決方案:小程序云。資源的有效利用和彈性伸縮,是小程序云提供的核心能力之一,而這背后依托的,就是阿里云函數計算服務。函數計算是一個全托管Serverless計算服務,讓開發者無需管理服務器等基礎設施,只需編寫和上傳代碼,就能夠構建可靠、彈性、安全的服務。下面就以雙11小程序場景為例,解析函數計算在彈性伸縮上的核心技術。
小程序架構
讓我們先來看一下淘寶小程序的技術架構是什么樣的:
用戶的函數代碼執行在小程序云中,用戶可以實現自定義的業務邏輯。利用小程序云提供的豐富的擴展能力,用戶可以方便地構建完整的電商應用
- 數據存儲:存儲結構化的數據
- 文件存儲:存儲文本/圖片/視頻等文件
- 電商服務:獲取用戶信息/創建支付交易
- 統計分析:自動統計小程序的使用信息及用戶分析,支撐商業決策
可以看到,函數是整個小程序的業務邏輯的核心,它將云端的基礎能力組合串聯起來,對客戶端提供服務能力。如果函數能力成為瓶頸,將影響整個小程序的運行。在這樣的架構下,要支撐大量的小程序,需要函數能夠做到一是隨時在線以支持小程序即開即用,二是彈性伸縮以應對小程序訪問突增。為了做到以上兩點,讓我們看一下函數計算的技術架構:
函數計算架構
其中幾個核心組件的功能如下:
基于這個架構,函數計算是如何解決上面提到的小程序平臺的挑戰呢?接下來我們逐一分析。
1. 冷啟動
當用戶創建函數上傳代碼時,函數計算只是將代碼包保存到OSS,并沒有分配計算資源,因此函數計算可以支撐海量的小程序。當函數第一次被調用時,函數計算會分配計算資源、下載函數代碼、加載并執行代碼。這一過程稱為冷啟動,函數計算通過大量的優化,將系統側的冷啟動時間優化到200ms以內。因此即使是冷的小程序,在初次調用時也能夠做到快速的即開即用。
2. 彈性伸縮
當小程序持續調用過程中,負載逐漸上升或者突然升高的情況下,函數計算是如何應對的?函數計算的“資源調度”模塊,會精確管理每個實例的狀態,當請求到來時,它首先檢查是否有空閑的實例可以服務,如果沒有請求就會進入等待隊列,當有空閑的實例釋放出來時,請求就能夠被及時處理。同時,調度器還會在后臺創建新的實例,當新的實例準備好后,也能夠服務請求。在這種策略下,能夠做到在負載以2倍的速度增長情況下,請求的P95延時是穩定的。優化細節可以參考我們在云棲社區的文章。
上面是某個淘寶小程序的調用量和延時監控數據。可以看到,在整點活動時,TPS出現了瞬間的高峰,但是P95延時卻沒有明顯的波動。這是因為函數計算在請求高峰來臨時,能夠快速地彈性伸縮創建新的實例,同時利用已有資源做一定的緩沖,使得整個攀升的過程能夠比較平滑。
3. 預留實例
對于一些“秒殺”的場景,要求瞬間提供大量的計算資源。此時靠實時的彈性伸縮是不夠的:一是冷啟動的時間即使是200ms,對于秒殺場景也太慢了;二是底層的計算資源在擴容時也會有流控。針對這種場景,函數計算提供了預留實例的功能。使用預留實例,用戶可以為一些可預測的活動提前預留好資源,徹底消除冷啟動。
和傳統的基于服務器的做法不同,用戶不需要按峰值來預留資源,而是可以結合預留實例和按量實例的混合模式:請求先被預留實例處理,當預留實例用滿時,會自動彈性伸縮出更多的按量實例來處理請求。由于有一定的資源基礎,結合調度優化,按量實例的冷啟動所產生的影響就被大大減小了。這就是利用函數計算的彈性伸縮能力,在性能和成本之間達到很好的平衡。
總結
小程序是輕量級的快速迭代的移動應用,對小程序開發者的開發效率有很高的要求。小程序上線后隨著訪問量的增加或者活動期間的訪問突增,對后端服務的穩定和彈性也是一個很大的考驗。函數計算上傳代碼即可運行,極大地提高了后端服務的開發效率;混合模式的彈性伸縮,輕松應對負載變化。這些特點使得函數計算成為支撐小程序平臺的最佳選擇。
原文鏈接
本文為云棲社區原創內容,未經允許不得轉載。
總結
以上是生活随笔為你收集整理的解密双十一小程序云背后毫秒级伸缩的Serverless计算平台:函数计算的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: MySQL8.0.17 - 初探 Clo
- 下一篇: 重磅开源|AOP for Flutter