日韩无码专区无码一级三级片|91人人爱网站中日韩无码电影|厨房大战丰满熟妇|AV高清无码在线免费观看|另类AV日韩少妇熟女|中文日本大黄一级黄色片|色情在线视频免费|亚洲成人特黄a片|黄片wwwav色图欧美|欧亚乱色一区二区三区

RELATEED CONSULTING
相關咨詢
選擇下列產品馬上在線溝通
服務時間:8:30-17:00
你可能遇到了下面的問題
關閉右側工具欄

新聞中心

這里有您想知道的互聯(lián)網(wǎng)營銷解決方案
聊聊高并發(fā)之隔離術

隔離是指將系統(tǒng)或資源分割開,系統(tǒng)隔離是為了在系統(tǒng)發(fā)生故障時能限定傳播范圍和影響范圍,即發(fā)生故障后不會出現(xiàn)滾雪球效應,從而保證只有出問題的服務不可用,其他服務還是可用的;而資源隔離有臟數(shù)據(jù)隔離、通過隔離后減少資源競爭提升性能等。我遇到的比較多的隔離手段有線程隔離、進程隔離、集群隔離、機房隔離、讀寫隔離、動靜隔離、爬蟲隔離等。而出現(xiàn)系統(tǒng)問題時可以考慮負載均衡路由、自動/手動切換分組或者降級等手段來提升可用性。

在安陸等地區(qū),都構建了全面的區(qū)域性戰(zhàn)略布局,加強發(fā)展的系統(tǒng)性、市場前瞻性、產品創(chuàng)新能力,以專注、極致的服務理念,為客戶提供網(wǎng)站設計制作、成都網(wǎng)站建設 網(wǎng)站設計制作按需網(wǎng)站開發(fā),公司網(wǎng)站建設,企業(yè)網(wǎng)站建設,高端網(wǎng)站設計,全網(wǎng)營銷推廣,成都外貿網(wǎng)站建設公司,安陸網(wǎng)站建設費用合理。

線程隔離

線程隔離主要有線程池隔離,在實際使用時我們會把請求分類,然后交給不同的線程池處理,當一種業(yè)務的請求處理發(fā)生問題時,不會將故障擴散到其他線程池,從而保證其他服務可用。

我們會根據(jù)服務等級劃分兩個線程池,以下是池的抽象:

 
 
  1.  
  2.      
  3.      
  4.      
  5.      
  6.  
  7.  
  8.      
  9.      
  10.      
  11.      
  12.  

進程隔離

在公司發(fā)展初期,一般是先進行從0到1,不會一上來就進行系統(tǒng)的拆分,這樣就會開發(fā)出一些比較大而全的系統(tǒng),系統(tǒng)中的一個模塊/功能出現(xiàn)問題,整個系統(tǒng)就不可用了。首先想到的解決方案是通過部署多個實例,然后通過負載均衡進行路由轉發(fā),但是這種情況無法避免某個模塊因BUG而出現(xiàn)如OOM導致整個系統(tǒng)不可用的風險。因此此種方案只是一個過渡,較好的解決方案是通過將系統(tǒng)拆分為多個子系統(tǒng)來實現(xiàn)物理隔離。通過進程隔離使得某一個子系統(tǒng)出現(xiàn)問題不會影響到其他子系統(tǒng)。

集群隔離

隨著系統(tǒng)的發(fā)展,單實例服務無法滿足需求了,此時需要服務化技術,通過部署多個服務,形成服務集群來提升系統(tǒng)容量,如下圖所示

隨著調用方的增多,當秒殺服務被刷會影響到其他服務的穩(wěn)定性,此時應該考慮為秒殺提供單獨的服務集群,即為服務分組,從而當某一個分組出現(xiàn)問題不會影響到其他分組,從而實現(xiàn)了故障隔離,如下圖所示

比如注冊生產者時提供分組名:

 
 
  1.  

消費時使用相關的分組名即可:

 
 
  1.  

機房隔離

隨著對系統(tǒng)可用性的要求,會進行多機房部署,每個機房的服務都有自己的服務分組,本機房的服務應該只調用本機房服務,不進行跨機房調用;其中一個機房服務發(fā)生問題時可以通過DNS/負載均衡將請求全部切到另一個機房;或者考慮服務能自動重試其他機房的服務從而提升系統(tǒng)可用性。

一種辦法是根據(jù)IP(不同機房IP段不一樣)自動分組,還一種較靈活的辦法是通過在分組名中加上機房名解決:

 
 
  1.  
  2.  

讀寫隔離

如下圖所示,通過主從模式將讀和寫集群分離,讀服務只從從Redis集群獲取數(shù)據(jù),當主Redis集群出現(xiàn)問題時,從Redis集群還是可用的,從而不影響用戶訪問;而當從Redis集群出現(xiàn)問題時可以進行其他集群的重試。

--先讀取從

 
 
  1. status, resp = slave_get(key) 
  2. if status == STATUS_OK then 
  3.     return status, value 
  4. end 

如果從獲取失敗了,從主獲取

 
 
  1. status, resp = master_get(key) 

動靜隔離

當用戶訪問如結算頁時,如果JS/CSS等靜態(tài)資源也在結算頁系統(tǒng)中時,很可能因為訪問量太大導致帶寬被打滿導致出現(xiàn)不可用。

因此應該將動態(tài)內容和靜態(tài)資源分離,一般應該將靜態(tài)資源放在CDN上,如下圖所示

爬蟲隔離

在實際業(yè)務中我們曾經統(tǒng)計過一些頁面型應用的爬蟲比例,爬蟲和正常流量的比例能達到5:1,甚至更高。而一些系統(tǒng)是因為爬蟲訪問量太大而導致服務不可用;一種解決辦法是通過限流解決;還一種解決辦法是在負載均衡層面將爬蟲路由到單獨集群,從而保證正常流量可用,爬蟲流量盡量可用。

比如最簡單的使用Nginx可以這樣配置:

 
 
  1. set $flag 0;  
  2. if ($http_user_agent ~* "spider") {  
  3.     set $flag "1";  
  4. }  
  5. if($flag = "0") { 
  6.     //代理到正常集群 
  7. if ($flag = "1") {  
  8.     //代理到爬蟲集群 

實際場景我們使用了Openresty,不僅僅對爬蟲user-agent過濾,還會過濾一些惡意IP(統(tǒng)計IP訪問量,配置閥值),將他們分流到固定分組。還有一種辦法是種植Cookie,訪問特殊服務前先種植Cookie,訪問服務時驗證該Cookie,如果沒有或者不對可以考慮出驗證碼或者分流到固定分組。

熱點隔離

秒殺、搶購屬于非常合適的熱點例子;對于這種熱點是能提前知道的,所以可以將秒殺和搶購做成獨立系統(tǒng)或服務進行隔離,從而保證秒殺/搶購流程出現(xiàn)問題不影響主流程。

還存在一些熱點可能是因為價格或突發(fā)事件引起的;對于讀熱點我使用多級緩存搞定;而寫熱點我們一般通過緩存+隊列模式削峰,可以參考《前端交易型系統(tǒng)設計原則》。

資源隔離

最常見的資源如磁盤、CPU、網(wǎng)絡;對于寶貴的資源都會存在競爭問題。

在《構建需求響應式億級商品詳情頁》中我們使用JIMDB數(shù)據(jù)同步時要dump數(shù)據(jù),SSD盤容量用了50%以上,dump到同一塊磁盤時遇到了容量不足的問題,我們通過單獨掛一塊SAS盤來專門同步數(shù)據(jù)。還有如使用Docker容器時,有的容器寫磁盤非常頻繁,因此要考慮為不同的容器掛載不同的磁盤。

默認CPU的調度策略在一些追求***性能的場景下可能并不太適合,我們希望通過綁定CPU到特定進程來提升性能。如我們一臺機器會啟動很多個Redis實例,通過將CPU通過taskset綁定到Redis實例上可以提升一些性能;還有Nginx提供了worker_processes和worker_cpu_affinity來綁定CPU。還有如系統(tǒng)網(wǎng)絡應用比較繁忙的話,可以考慮綁定網(wǎng)卡IRQ到指定的CPU來提升系統(tǒng)處理中斷的能力,從而提升性能。

還有如大數(shù)據(jù)計算集群、數(shù)據(jù)庫集群應該和應用集群隔離到不同的機架,并盡量隔離網(wǎng)絡;因為大數(shù)據(jù)計算或數(shù)據(jù)庫同步時時會有比較大的網(wǎng)絡帶寬,可能擁塞網(wǎng)絡導致應用響應慢。

還有一些其他類似的隔離術,如環(huán)境隔離(測試環(huán)境、預發(fā)布環(huán)境/灰度環(huán)境、正式環(huán)境)、壓測隔離(真實數(shù)據(jù)、壓測數(shù)據(jù)隔離)、ABTest(為不同的用戶提供不同版本的服務)、緩存隔離(有些系統(tǒng)混用緩存,而有些系統(tǒng)會扔大字節(jié)值到如Redis,造成Redis慢查詢)、查詢隔離(簡單、批量、復雜條件查詢分別路由到不同的集群)等。通過隔離后可以將風險降低到***、性能提升至***。

【本文是專欄作者張開濤的原創(chuàng)文章,作者微信公眾號:開濤的博客( kaitao-1234567)】


本文題目:聊聊高并發(fā)之隔離術
當前URL:http://www.5511xx.com/article/dhogioc.html