QPS/TPS/并发量/系统吞吐量概念和公式
1、概念
我們在日常工作中經(jīng)常會聽到QPS/TPS這些名詞,也會經(jīng)常被別人問起說你的系統(tǒng)吞吐量有多大。一個系統(tǒng)的吞度量(承壓能力)與request對CPU的消耗、外部接口、IO等等緊密關(guān)聯(lián),單個reqeust 對CPU消耗越高,外部系統(tǒng)接口、IO影響速度越慢,系統(tǒng)吞吐
能力越低,反之越高。這個問題從業(yè)務(wù)上來講,可以理解為應(yīng)用系統(tǒng)每秒鐘最大能接受的用戶訪問量或者每秒鐘最大能處理的請求數(shù)。系統(tǒng)吞吐量的幾個重要參數(shù):QPS(TPS)、并發(fā)數(shù)、響應(yīng)時間。
? QPS: 每秒鐘處理完請求的次數(shù);注意這里是處理完。具體是指發(fā)出請求到服務(wù)器處理完成功返回結(jié)果。可以理解在server中有個counter,每處理一個請求加1,1秒后counter=QPS。
? TPS:每秒鐘處理完的事務(wù)次數(shù),一般TPS是對整個系統(tǒng)來講的。一個應(yīng)用系統(tǒng)1s能完成多少事務(wù)處理,一個事務(wù)在分布式處理中,可能會對應(yīng)多個請求,對于衡量單個接口服務(wù)的處理能力,用QPS比較多。
? 并發(fā)量:系統(tǒng)能同時處理的請求/事務(wù)數(shù)。
? RT:響應(yīng)時間,處理一次請求所需要的平均處理時間
2、計算關(guān)系
? QPS = 并發(fā)量 / 平均響應(yīng)時間
? 并發(fā)量 = QPS * 平均響應(yīng)時間
3、補充
系統(tǒng)吞吐量:通常由QPS(TPS)、并發(fā)數(shù)兩個因素決定,每套系統(tǒng)這兩個值都有一個相對極限值,在應(yīng)用場景訪問壓力下,只要某一項達到系統(tǒng)最高值,系統(tǒng)的吞吐量就上不去了,如果壓力繼續(xù)增大,系統(tǒng)的吞吐量反而會下降,原因是系統(tǒng)超負(fù)荷工作,上下
文切換、內(nèi)存等等其它消耗導(dǎo)致系統(tǒng)性能下降。
系統(tǒng)響應(yīng)時間:我們做項目要排計劃,可以多人同時并發(fā)做多項任務(wù),也可以一個人或者多個人串行工作,始終會有一條關(guān)鍵路徑,這條路徑就是項目的工期。 而系統(tǒng)一次調(diào)用的響應(yīng)時間跟項目計劃一樣,也有一條關(guān)鍵路徑,這個關(guān)鍵路徑是就是系統(tǒng)影響時
間; 關(guān)鍵路徑是有CPU運算、IO、外部系統(tǒng)響應(yīng)等因素組成。
轉(zhuǎn)載于:https://www.cnblogs.com/zhangwuji/p/9361302.html
總結(jié)
以上是生活随笔為你收集整理的QPS/TPS/并发量/系统吞吐量概念和公式的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 业务分析之--权限管理
- 下一篇: VS扩展开发 一 导航