FinTech:一个单体系统足以撑起银行持续交付全球大项目
劉華 Kenneth
DBAplus社群(dbaplus)
讀完需要
10
分鐘速讀僅需 4 分鐘
作者介紹
劉華(Kenneth),就職于世界500強銀行,負責基金服務業(yè)務軟件開發(fā)與交付,DevOps團隊負責人。敏捷、精益、DevOps領域專家,精通極限編程、Scrum、看板方法、測試驅動開發(fā)、持續(xù)集成、行為驅動開發(fā)、DevOps工具棧。著有《獵豹行動:硝煙中的敏捷轉型之旅》一書。
我們的核心系統(tǒng)是一個單體系統(tǒng),支撐全球多個國家和地區(qū)的業(yè)務。同時,業(yè)務部門近年生意紅火,接了幾個大客戶,針對這些大客戶的大型項目也在如火如荼地進行中。
由于生產環(huán)境只有一套,而且已經有業(yè)務在生產環(huán)境上跑,這些大項目最終也要在這套生產環(huán)境上上線。這套系統(tǒng)是糅合了各地、各不同業(yè)務的復雜系統(tǒng)。
之前,為了滿足各個客戶交付時間,每個項目都拉了一個獨立的分支進行開發(fā),減少各項目之間的依賴,但這也導致了每個項目各自為政,互不交流。一旦這些項目開發(fā)完成,要和生產環(huán)境的版本進行合并。這種巨型合并勢必帶來巨大風險,相互隔絕的開發(fā)模式也將帶來大量的合并沖突。
我們一直在思考如何降低這種合并風險,以及如何打破各大型項目各自為政的困局,實現產品化的敏捷交付。回歸測試成為實現這些使命的基礎。
使命——實現敏捷交付
前面提到,目前的開發(fā)模式是針對不同的大客戶,分別設立了不同的大型項目進行開發(fā)。這些項目的交付周期往往數以年計,交付周期長,風險大。
生產環(huán)境又只有一套,而且已經有業(yè)務在生產環(huán)境上跑,代碼合并困難,上線風險巨大。
我們希望能打破這種大型項目的交付形式,以產品化的思維進行管理。
具體實施的思路是:
合并——對各大型項目的現有代碼與生產環(huán)境的版本進行一次性的合并;
統(tǒng)一Backlog——各類需求(包括現在以大型項目形式服務的大客戶的需求)以用戶故事的形式進入到同一個Backlog;
Scrum——建立以Scrum為形式的持續(xù)交付機制,以一個月作為Sprint的周期,通過Sprint計劃會議敲定Sprint的交付計劃;
持續(xù)交付——每個Sprint完成計劃內各用戶故事的交付全流程,包括回歸測試和上線到生產環(huán)境。
要實現以上模式,上線前的回歸測試至關重要。而且由于一個Sprint內,也就是一個月內,要完成Sprint交付計劃內所有用戶故事的需求澄清、設計、開發(fā)、測試、用戶驗收和上線,時間非常緊,回歸測試也必須在一、兩天內完成。
如何實現既能充分保護生產環(huán)境,又能實現快速反饋的回歸測試,成為一個重要議題。
自動化大量功能測試不可行
對于如何設計和實施覆蓋率高、執(zhí)行穩(wěn)定而且快速的自動化回歸測試,一直是一個難題。
我們曾經的一個思路是把現有的功能測試用例進行自動化,但很快發(fā)現這個思路不可行,主要原因如下:
只能依賴UI測試——由于核心系統(tǒng)是供應商產品,開發(fā)是由供應商負責的,對我們來說就是個黑盒子,我們只能通過UI進行測試。眾所周知,UI的自動化測試,開發(fā)、維護成本高,脆弱而且執(zhí)行時間長;
無法快速反饋——通過功能進行覆蓋,要求不斷增加測試用例來提高覆蓋率,由于UI測試的執(zhí)行時間長,用例越多,整體執(zhí)行時間越長,如果執(zhí)行周期要數以天計,則無法達到快速反饋的目的;
性價比低——功能測試用例的覆蓋率其實是不可見的,即使把所有功能測試都自動化了,其實際覆蓋率依然不高,也就是說這個投入的性價比很低。
我們必須要尋找一種方法,以最小的投入獲取最大的保障。
我們對回歸測試自動化的預期進行了重新定位。我們進行回歸測試,就是要保護生產環(huán)境的關鍵業(yè)務可以照常進行。我們要防止的,是新的特性發(fā)布造成生產環(huán)境災難,也就是導致關鍵業(yè)務無法進行的大面積故障。對于非災難性的小故障,完全可以通過運維手段來處理。
因此,我們不應該把回歸測試定位為防止一切問題。
以不變應萬變
基于以上對回歸測試預期的重新定位,我們和業(yè)務部門協(xié)商,請他們列舉出當前在生產環(huán)境上最關鍵的業(yè)務過程有哪些。我們要保證的是,當新的特性上線后的首個交易日,原有的最關鍵的業(yè)務過程不會受到嚴重影響。
基于這個預期,我們以業(yè)務部門提供的關鍵業(yè)務過程作為測試用例,并形成以下的回歸測試思路:
準備階段:
在某個測試環(huán)境里,系統(tǒng)版本與生產環(huán)境版本相同;
備份環(huán)境數據;
以某個交易日為基準,執(zhí)行相應的測試用例;
備份輸入、輸出數據(包括生成的接口文件和報表)。
執(zhí)行階段:
在該測試環(huán)境里,導入在準備階段備份的環(huán)境數據;
升級系統(tǒng)到目標版本;
以準備階段相同的交易日和相同的輸入數據(在準備階段已備份)執(zhí)行相同的測試用例,生成相應的接口文件和報表;
與準備階段的輸出(接口文件和報表)進行比對;
如果目標版本的輸出與原版本的對比沒有非預期的差異,視為通過。
簡單總結,就是對比兩個系統(tǒng)版本在相同測試環(huán)境、相同環(huán)境數據、相同交易日、相同輸入的情況下,輸出是否有非預期的差異。
這個思路的最大特點是,以不變應萬變。生產環(huán)境的關鍵業(yè)務過程不會經常變化,也就是說測試用例基本上比較固定。通過反復運行固定的測試用例實現回歸測試的目標,保護生產環(huán)境上的關鍵業(yè)務過程,避免災難。以最少的用例實現最大的保護。
而且測試的結果驗證是通過比對不同版本的輸出,我們不必在乎具體的輸出內容,只需要關注輸出是否有非預期差異。
當然,一旦有新的大客戶上線,也就是有新的關鍵業(yè)務過程,這些過程也應該放入到回歸測試用例中,當然,用例的選擇還是以避免災難為準則。
在前面提到的功能測試思路里,我們需要不斷增加測試用例以增加測試覆蓋率,但是由于測試只能在UI進行,這樣無限增加功能測試用例是不可持續(xù)的。
通過實踐,我們發(fā)現要充分發(fā)揮這個新思路的價值,要注意以下幾點:
專屬環(huán)境——由于這套環(huán)境需要反復整理環(huán)境數據和升級,一定要為這個回歸測試準備一套專屬的測試環(huán)境,不要在共享的環(huán)境里進行;
明確檢查點——由于執(zhí)行測試輸出的接口文件、報表里一定有時間戳、自增ID等每次執(zhí)行都會變化的信息,不能簡單通過文件來比對。在擬定測試用例時,就應該明確這些接口文件、報表里的有哪些數據需要檢查。在每個版本交付時,開發(fā)人員也應該明確告知哪些數據檢查點會有預期差異。否則對比工作將耗費大量的時間和精力;
變更范圍要小——如果對比的兩個系統(tǒng)版本的變更范圍太大,會導致輸出有大量差異,比對意義不大。因此這個方法不太適合大的合并,比較適合落實了敏捷交付后,由于每個Sprint的變更范圍較小,兩個系統(tǒng)版本間的輸出差異不多,比對較容易。
以這個思路建立了回歸測試框架,我們便可以著手執(zhí)行過程的自動化,從而提升其執(zhí)行的效率。
總結
我們的核心系統(tǒng)是一套單體復雜系統(tǒng),支撐全球多個國家和地區(qū)不同的業(yè)務。
為了實現敏捷交付,我們希望打破目前以大型項目為形式的各自為政,把各項目的所有需求放在統(tǒng)一的Backlog通過Scrum的方法進行持續(xù)交付。
要實現這一點,我們需要在每個Sprint都進行有效的回歸測試,以保護生產環(huán)境的關鍵業(yè)務在新特性上線后不會有災難性的故障。
通過對比兩個系統(tǒng)版本在相同測試環(huán)境、相同環(huán)境數據、相同交易日、相同輸入的情況下,執(zhí)行關鍵業(yè)務過程的有限的測試用例,輸出是否有非預期的差異的回歸測試方法,以少勝多,以不變應萬變,持續(xù)保護生產環(huán)境的核心業(yè)務,為持續(xù)交付保駕護航。
從DevOps到AIOps,想突破運維轉型困局,讓Gdevops全球敏捷運維峰會北京站給你更多新思路:
《建設敏捷型消費金融中臺及云原生下的DevOps實踐》中郵消費金融總經理助理 李遠鑫
《浙江移動AIOps實踐》浙江移動云計算中心NOC及AIOps負責人 潘宇虹
《數據智能時代:構建能力開放的運營商大數據DataOps體系》中國聯通大數據基礎平臺負責人/資深架構師 尹正軍
《銀行日志監(jiān)控系統(tǒng)優(yōu)化手記》中國銀行DevOps負責人 付大亮和中國銀行&高級軟件工程師 李曉寧
《民生銀行智能運維平臺實踐之路》民生銀行智能運維平臺負責人/應用運維專家 張舒?zhèn)?/p>
讓我們在技術浪潮的沖擊下站穩(wěn)腳跟,攀登運維高峰!2020年9月11日,我們在北京不見不散。
如果喜歡本文
歡迎?在看丨留言丨分享至朋友圈?三連
?
Java線程池實現原理及其在美團業(yè)務中的實踐
?
CTO丟給我中臺總結:阿里的“數據+業(yè)務”雙中臺架構
?
數據中臺建設五步法(文末贈書)
?
中臺設計和實踐:海量并發(fā)業(yè)務中臺,新業(yè)務秒級接入交易中臺
中生代技術社區(qū)提供內推服務,對應BAT,網易,頭條等大廠對接到用人部門,
有需求請?zhí)砑尤汉匣锶?strong>大白的微信
申請備注(姓名+公司+技術方向)才能通過哦!
? ?END ? ?? #接力技術,鏈接價值#快長按二維碼▲關注我啊魂淡
總結
以上是生活随笔為你收集整理的FinTech:一个单体系统足以撑起银行持续交付全球大项目的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: nyoj-483--Nightmare-
- 下一篇: 重要提醒!人脸识别一定要穿上衣服!