-? ? ?為什么要資源隔離??? -

常見的資源,例如磁盤、網(wǎng)絡、CPU等等,都會存在競爭的問題,在構(gòu)建分布式架構(gòu)時,可以將原本連接在一起的組件、模塊、資源拆分開來,以便達到最大的利用效率或性能。資源隔離之后,當某一部分組件出現(xiàn)故障時,可以隔離故障,方便定位的同時,阻止傳播,避免出現(xiàn)滾雪球以及雪崩效應。

常見的隔離方式有:

• 線程隔離

• 進程隔離

• 集群隔離

• 機房隔離

• 讀寫隔離

• 動靜隔離

• 爬蟲隔離

• 等等

-? ? ?線程隔離? ? -

網(wǎng)絡上很多帖子,大多是從框架開始聊的,這兒說人話其實就是對線程進行治理,把核心業(yè)務線程與非核心業(yè)務線程隔開,不同的業(yè)務需要的線程數(shù)量不同,可以設(shè)置不同的線程池,來舉一些框架中應用的例子,例如Netty中的主從多線程、Tomcat請求隔離、Dubbo線程模型。

-? ? ?Netty 主從程模型? ? -

主線程負責認證，連接，成功之后交由從線程負責連接的讀寫操作，大致如下代碼：

EventLoopGroup bossGroup = new NioEventLoopGroup(1); EventLoopGroup workerGroup = new NioEventLoopGroup();ServerBootstrap b = new ServerBootstrap(); b.group(bossGroup, workerGroup);

主線程是一個單線程，從線程是一個默認為cpu*2個數(shù)的線程池，可以在我們的業(yè)務handler中做一個簡單測試：

public void channelRead(ChannelHandlerContext ctx, Object msg) {System.out.println("thread name=" + Thread.currentThread().getName() + " server receive msg=" + msg); }

服務端在讀取數(shù)據(jù)的時候打印一下當前的線程：

thread name=nioEventLoopGroup-3-1 server receive msg="..."

可以發(fā)現(xiàn)這里使用的線程其實和處理io線程是同一個；

-? ? ?Dubbo 線程隔離模型? ? -

Dubbo的底層通信框架其實使用的就是Netty，但是Dubbo并沒有直接使用Netty的io線程來處理業(yè)務，可以簡單在生產(chǎn)者端輸出當前線程名稱：

thread name=DubboServerHandler-192.168.1.115:20880-thread-2,...

可以發(fā)現(xiàn)業(yè)務邏輯使用并不是nioEventLoopGroup線程，這是因為Dubbo有自己的線程模型，可以看看官網(wǎng)提供的模型圖：

由圖可以知道,Dubbo服務端接收到請求后,通過調(diào)度器(Dispatcher)分發(fā)到不同的線程池，也簡單做一些關(guān)于調(diào)度器(Dispatcher)總結(jié):

Dispatcher調(diào)度器可以配置消息的處理線程：

• all 所有消息都派發(fā)到線程池，包括請求，響應，連接事件，斷開事件，心跳等。

• direct 所有消息都不派發(fā)到線程池，全部在 IO 線程上直接執(zhí)行。

• message 只有請求響應消息派發(fā)到線程池，其它連接斷開事件，心跳等消息，直接在 IO 線程上執(zhí)行。

• execution 只有請求消息派發(fā)到線程池，不含響應，響應和其它連接斷開事件，心跳等消息，直接在 IO 線程上執(zhí)行。

• connection 在 IO 線程上，將連接斷開事件放入隊列，有序逐個執(zhí)行，其它消息派發(fā)到線程池。

通過看源碼可以知道,Dubbo默認使用的線程池是FixedThreadPool，線程數(shù)默認為200；

-? ? ?Tomcat 請求線程隔離? ? -

Tomcat是Servelet的具體實現(xiàn),在Tomcat請求支持四種請求處理方式分別為:BIO、AIO、NIO、APR。

BIO模式：阻塞式I/O操作，表示Tomcat使用的是傳統(tǒng)Java。I/O操作(即Java.io包及其子包)。Tomcat7以下版本默認情況下是以bio模式運行的，由于每個請求都要創(chuàng)建一個線程來處理，線程開銷較大，不能處理高并發(fā)的場景，在幾種模式中性能也最低。

NIO模式：
同步非阻塞I/O操作，是一個基于緩沖區(qū)、并能提供非阻塞I/O操作的API，它擁有比傳統(tǒng)I/O操作具有更好的并發(fā)性能。關(guān)于NIO,可以參考我這篇博客:NIO非阻塞網(wǎng)絡編程原理。

在Tomcat7版本之后,Tomcat把連接介入和業(yè)務處理拆分成兩個線程池來處理，即:

可以使用獨立的線程池來維護servlet的創(chuàng)建。連接器connector能介入的請求肯定比業(yè)務復雜的servlet處理的個數(shù)要多，在中間，Tomcat加入了隊列，來等待servlet線程池空閑。這兩步是Tomcat內(nèi)核完成的，在一階段無法區(qū)分具體業(yè)務或資源，所以只能在連接介入，servlet初始化完成后我們根據(jù)自己的業(yè)務線去劃分獨立的連接池。

這樣做,獨立的業(yè)務或資源中如果出現(xiàn)崩潰，不會影響其他的業(yè)務線程，從而達到資源隔離和服務降級的效果。

在使用了servlet3之后，系統(tǒng)線程隔離變得更靈活了?？梢詣澐趾诵臉I(yè)務隊列和非核心業(yè)務隊列:

-? ? ?線程隔離小總結(jié)? ? -

資源一旦出現(xiàn)問題，雖然是隔離狀態(tài)，想要讓資源重新可用，很難做到不重啟jvm。

線程池內(nèi)部線程如果出現(xiàn)OOM、FullGC、cpu耗盡等問題也是無法控制的

線程隔離，只能保證在分配線程這個資源上進行隔離，并不能保證整體穩(wěn)定性

-? ?? 進程隔離? ? -

進程隔離這種思想其實并不陌生，Linux操作系統(tǒng)中，利用文件管理系統(tǒng)將各個進程的虛擬內(nèi)存與實際的物理內(nèi)存映射起來，這樣做的好處是避免不同的進程之間相互影響，而在分布式系統(tǒng)中，線程隔離不能完全隔離故障避免雪崩，例如某個線程組耗盡內(nèi)存導致OOM，那么其他線程組勢必也會受影響，所以進程隔離的思想是，CPU、內(nèi)存等等這些資源也通過不同的虛擬機來做隔離。

具體操作是,將業(yè)務邏輯進行拆分成多個子系統(tǒng)(拆分原則可以參考:Redis集群拆分原則之AKF)，實現(xiàn)物理隔離，當某一個子系統(tǒng)出現(xiàn)問題，不會影響到其他子系統(tǒng)。

-? ? ?集群隔離? ? -

如果系統(tǒng)中某個業(yè)務模塊包含像搶購、秒殺、存儲I/O密集度高、網(wǎng)絡I/o高、計算I/O高這類需求的時候，很容易在并發(fā)量高的時候因為這種功能把整個模塊占有的資源全部耗盡，導致響應編碼甚至節(jié)點不可用。像上圖的的拆分之后,如果某一天購物人數(shù)瞬間暴增,電商交易功能模塊可能受影響,損壞后導致電商模塊其他的瀏覽查詢也無法使用,因此就要建立集群進行隔離,具體來說就是繼續(xù)拆分模塊,將功能微服務化。

解決方案

• 獨立拆分模塊

• 微服務化

可以使用hystrix在微服務中隔離分布式服務故障。他可以通過線程和信號量進行隔離。

-? ? ?線程池隔離與信號量隔離對比? ? -

這兒同上面的線程隔離,不多贅述,簡單敘述一下hystrix的兩種隔離方式的區(qū)別:

說人話就是,很多線程涌過來,要去獲得信號量,獲得了才能繼續(xù)執(zhí)行,否則先進入隊列等待或者直接fallback回調(diào)：

最重要的是，信號量的調(diào)用是同步的，也就是說，每次調(diào)用都得阻塞調(diào)用方的線程，直到結(jié)果返回。這樣就導致了無法對訪問做超時（只能依靠調(diào)用協(xié)議超時，無法主動釋放）。

官網(wǎng)對信號量隔離的描述建議：

• Generally the only time you should use semaphore isolation for?HystrixCommands is when the call is so high volume (hundreds per second, per instance) that the overhead of separate threads is too high; this typically only applies to non-network calls.

理解下兩點：

隔離的細粒度太高，數(shù)百個實例需要隔離，此時用線程池做隔離開銷過大

通常這種都是非網(wǎng)絡調(diào)用的情況下

-? ? ?機房隔離??? -

機房隔離主要目的有兩個,一方面是將不同區(qū)域的用戶數(shù)據(jù)隔離到不同的地區(qū),例如湖北的數(shù)據(jù)放在湖北的服務器,浙江的放在浙江服務器,等等,這樣能解決數(shù)據(jù)容量大，計算密集，i/o（網(wǎng)絡）密集度高的問題,相當于將流量分在了各個區(qū)域。

另一方面,機房隔離也是為了保證安全性,所有數(shù)據(jù)都放在一個地方,如果發(fā)生自然災害或者爆炸等災害時,數(shù)據(jù)將全都丟失,所以把服務建立整體副本（計算服務、數(shù)據(jù)存儲），在多機房內(nèi)做異地多活或冷備份、是微服務數(shù)據(jù)異構(gòu)的放大版本。

如果機房層面出現(xiàn)問題的時候，可以通過智能dns、httpdns、負載均衡等技術(shù)快速切換,讓區(qū)域用戶盡量不收影響。

-? ? ?數(shù)據(jù)讀寫隔離? ? -

通過主從模式，將mysql、redis等數(shù)據(jù)存儲服務集群化，讀寫分離，那么在寫入數(shù)據(jù)不可用的時候，也可以通過重試機制臨時通過其他節(jié)點讀取到數(shù)據(jù)。

多節(jié)點在做子網(wǎng)劃分的時候，除了異地多活，還可以做數(shù)據(jù)中心，所有數(shù)據(jù)在本地機房crud 異步同步到數(shù)據(jù)中心，數(shù)據(jù)中心再去分發(fā)數(shù)據(jù)給其他機房,那么數(shù)據(jù)臨時在本地機房不可用的時候，就可以嘗試連接異地機房或數(shù)據(jù)中心。

-? ? ?靜態(tài)隔離??? -

主要思路是將一些靜態(tài)資源分發(fā)在邊緣服務器中,因為日常訪問中有很多資源是不會變的,所以沒必要每次都想從主服務器上獲取,可以將這些數(shù)據(jù)保存在邊緣服務器上降低主服務器的壓力。

-? ? ?爬蟲隔離? ? -

建立合適的規(guī)則,將爬蟲請求轉(zhuǎn)移到另外的集群。

目前我們開發(fā)的都是API接口，并且多數(shù)都是開放的API接口。也就是說，只要有人拿到這個接口，任何人都可以通過這個API接口獲取數(shù)據(jù)。

如果是網(wǎng)絡爬蟲請求速度快，獲取的數(shù)據(jù)多，不僅會對服務器造成影響，不用多久，爬蟲方完全可以用我們API的接口來開發(fā)一個同樣的網(wǎng)站，開放平臺的API接口調(diào)用需要限制其頻率，以節(jié)約服務器資源和避免惡意的頻繁調(diào)用，在大型互聯(lián)網(wǎng)項目中，對于web服務和網(wǎng)絡爬蟲的訪問流量能達到5:1，甚至更高，有的系統(tǒng)有時候就會因為爬蟲流量過高而導致資源耗盡，服務不可用。

解決策略大致兩個方面:

一是限流，限制訪問的頻率;

二是將爬蟲請求轉(zhuǎn)發(fā)到固定地方。

爬蟲限流

• 登錄/會話限制

• 下載限流

• 訪問頻率

• ip限制，黑白名單

想要分辨出來一個訪問是不是爬蟲，可以簡單的使用nginx來分析ua處理。

-? ? ?UA 介紹? ? -

User Agent 簡稱UA，就是用戶代理。通常我們用瀏覽器訪問網(wǎng)站，在網(wǎng)站的日志中，我們的瀏覽器就是一種UA。

禁止特定UA訪問,例如最近有個網(wǎng)站A抄襲公司主站B的內(nèi)容，除了域名不同，內(nèi)容、圖片等都完全是我們主站的內(nèi)容。出現(xiàn)這種情況，有兩種可能:

一種是：它用爬蟲抓取公司主站B的內(nèi)容并放到自己服務器上顯示；

另一種是：通過將訪問代理至公司主站B，而域名A是盜用者的，騙取流量。

無論怎樣，都要禁止這種行為的繼續(xù)。有兩種方法解決：

1）禁止IP

2）禁止UA

從nginx日志觀察，訪問者的代理IP經(jīng)常變，但是訪問UA卻是固定的，因而可以禁止UA。

nginx不僅可以處理ua來分離流量，還可以通過更強大的openresty來完成更復雜的邏輯，實現(xiàn)一個流量網(wǎng)關(guān)，軟防火墻。

作者：等不到的口琴

來源：

www.cnblogs.com/Courage129/p/14421585.html

精彩文章推薦：

美團技術(shù)：到店結(jié)算平臺實踐（膠片）

美團技術(shù)：到店供應鏈及商品平臺建設(shè)實踐（膠片）

美團技術(shù)：CRM平臺建設(shè)實踐（膠片）

美團技術(shù)：交易平臺建設(shè)實踐（膠片）

拼夕夕訂單超時未支付自動關(guān)閉實現(xiàn)方案！

Serverless實戰(zhàn)之路

中生代技術(shù)

推送有營養(yǎng)的技術(shù)干貨文章；

總覆蓋會員100000+人；資深架構(gòu)、總監(jiān)等職位以上3000+人。

定期在線分享超過100期，線下技術(shù)沙龍超過70次、覆蓋20多個等城市！

關(guān)注技術(shù)架構(gòu)、研發(fā)管理、互聯(lián)網(wǎng)金融、電商、大數(shù)據(jù)、區(qū)塊鏈、人工智能等方向！

加入中生代技術(shù)群聊，投稿等請?zhí)砑影酌魑⑿?#xff1a;zsdwyq，注明姓名、職稱和技術(shù)方向，通過后加入中生代技術(shù)群，和群友們共同學習成長！

新人創(chuàng)作打卡挑戰(zhàn)賽發(fā)博客就能抽獎！定制產(chǎn)品紅包拿不停！

總結(jié)

以上是生活随笔為你收集整理的12 种经典亿级流量架构之资源隔离思想与方法论的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。