并发请求多 服务器响应慢 post,从服务端视角看高并发问题
所謂服務器大流量高并發(fā)指的是：在同時或極短時間內(nèi)，有大量的請求到達服務端，每個請求都需要服務端耗費資源進行處理，并做出相應的反饋。
服務端看高并發(fā)
服務端處理請求需要耗費服務端的資源，比如能同時開啟的進程數(shù)、能同時運行的線程數(shù)、網(wǎng)絡連接數(shù)、cpu、I/O、內(nèi)存等等，由于服務端資源是有限的，那么服務端能同時處理的請求也是有限的。高并發(fā)問題的本質(zhì)就是：資源的有限性
高并發(fā)帶來的問題
服務端的處理和響應會越來越慢，甚至會丟棄部分請求不予處理，更嚴重的會導致服務端崩潰。
高并發(fā)處理的基本思路
1)從客戶端看
盡量減少請求數(shù)量，比如：依靠客戶端自身的緩存或處理能力。
盡量減少對服務端資源的不必要耗費，比如：重復使用某些資源，如連接池客戶端處理的基本原則就是：能不訪問服務端就不要訪問
2)從服務端看
增加資源供給，比如：更大的網(wǎng)絡帶寬，使用更高配置的服務器，使用高性能的Web服務器，使用高性能的數(shù)據(jù)庫
請求分流，比如：使用集群,分布式的系統(tǒng)架構(gòu)
應用優(yōu)化，比如：使用更高效的編程語言,優(yōu)化處理業(yè)務邏輯的算法,優(yōu)化訪問數(shù)據(jù)庫的SQL
基本原則：分而治之，并提高單個請求的處理速度
高并發(fā)處理的基本手段
1)客戶端發(fā)出請求層面，常見的手段有：
l 盡量利用瀏覽器的緩存功能，減少訪問服務端，比如：js、css、圖片等
l 可以考慮使用壓縮傳輸?shù)墓δ?#xff0c;減少網(wǎng)絡流量，也會提高傳輸速度
l 考慮使用異步請求，分批獲取數(shù)據(jù)
2)前端接收客戶端請求層面，常見的手段有：
l 動靜分離，部分靜態(tài)資源可以直接從Nginx返回
l 按請求的不同，分發(fā)到不同的后端進行處理，比如：負載均衡、業(yè)務拆分訪問等
l 前面再加上一層來做多個Nginx的負載均衡，比如：LVS、F5等
l 還可以在更前面使用CDN服務
l 還可以對動態(tài)內(nèi)容進行緩存，盡量減少訪問后端服務
3)Web服務器層面，常見的手段有：
l 使用最新的JVM，并進行配置優(yōu)化
l 對Web服務器進行配置優(yōu)化，比如：調(diào)整內(nèi)存數(shù)量、線程數(shù)量等
l 提供多個能提供相同服務的Web服務器，以實現(xiàn)負載均衡
l 仔細規(guī)劃Web服務器上部署的應用規(guī)模
l 對Web服務器進行集群
4)Web應用層面，常見的手段有：
l 動態(tài)內(nèi)容靜態(tài)化
l Java開發(fā)優(yōu)化
l 優(yōu)化處理業(yè)務邏輯的算法
l 合理高效的利用緩存
l 優(yōu)化訪問數(shù)據(jù)庫的Sql，可以考慮利用存儲過程等數(shù)據(jù)庫的能力
l 合理使用多線程，加快業(yè)務處理
l 部分業(yè)務可以考慮內(nèi)存數(shù)據(jù)庫，或者是進行純內(nèi)存處理
l 盡量避免遠程調(diào)用、大量I/O等耗時的操作
l 合理規(guī)劃事務等較為耗資源的操作
l 合理使用異步處理
l 對部分業(yè)務考慮采用預處理或者預計算的方式，減少實時計算量
l 內(nèi)部系統(tǒng)間的業(yè)務盡量直接調(diào)用、直接處理，減少WebService、工作流等
總結(jié)
以上是生活随笔為你收集整理的并发请求多 服务器响应慢 post,从服务端视角看高并发问题的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： PAT乙级1033
- 下一篇： 微信小程序 控制台报错net::ERR_