建站
咨詢
售后
建站咨詢
新聞中心
什么是負(fù)載均衡?
負(fù)載均衡(Load Balance)是分布式系統(tǒng)架構(gòu)設(shè)計(jì)中必須考慮的因素之一，它通常是指，將請(qǐng)求/數(shù)據(jù)均勻分?jǐn)偟蕉鄠€(gè)操作單元上執(zhí)行，負(fù)載均衡的關(guān)鍵在于均勻。
常見的負(fù)載均衡方案有哪些?
常見互聯(lián)網(wǎng)分布式架構(gòu)如上，分為：
- 客戶端層
- 反向代理層
- 站點(diǎn)層
- 服務(wù)層
- 數(shù)據(jù)層
可以看到，每一個(gè)下游都有多個(gè)上游調(diào)用，只需要做到，每一個(gè)上游都均勻訪問每一個(gè)下游，就能實(shí)現(xiàn)整體的均勻分?jǐn)偂?/p>
***層：客戶端層到反向代理層
客戶端層到反向代理層的負(fù)載均衡，是通過“DNS輪詢”實(shí)現(xiàn)的。
DNS-server對(duì)于一個(gè)域名配置了多個(gè)解析ip，每次DNS解析請(qǐng)求來訪問DNS-server，會(huì)輪詢返回這些ip，保證每個(gè)ip的解析概率是相同的。這些ip就是nginx的外網(wǎng)ip，以做到每臺(tái)nginx的請(qǐng)求分配也是均衡的。
第二層：反向代理層到站點(diǎn)層
反向代理層到站點(diǎn)層的負(fù)載均衡，是通過“nginx”實(shí)現(xiàn)的。
畫外音：nginx是反向代理的泛指。
修改nginx.conf，可以實(shí)現(xiàn)多種均衡策略：
(1) 請(qǐng)求輪詢：和DNS輪詢類似，請(qǐng)求依次路由到各個(gè)web-server;
(2) 最少連接路由：哪個(gè)web-server的連接少，路由到哪個(gè)web-server;
(3) ip哈希：按照訪問用戶的ip哈希值來路由web-server，只要用戶的ip分布是均勻的，請(qǐng)求理論上也是均勻的，ip哈希均衡方法可以做到，同一個(gè)用戶的請(qǐng)求固定落到同一臺(tái)web-server上，此策略適合有狀態(tài)服務(wù)，例如session;
畫外音：站點(diǎn)層可以存儲(chǔ)session，但強(qiáng)烈不建議這么做，站點(diǎn)層無狀態(tài)是分布式架構(gòu)設(shè)計(jì)的基本原則之一，session***放到數(shù)據(jù)層存儲(chǔ)。
(4) …
第三層：站點(diǎn)層到服務(wù)層
站點(diǎn)層到服務(wù)層的負(fù)載均衡，是通過“服務(wù)連接池”實(shí)現(xiàn)的。
上游連接池會(huì)建立與下游服務(wù)多個(gè)連接，每次請(qǐng)求會(huì)“隨機(jī)”選取連接來訪問下游服務(wù)。除了負(fù)載均衡，服務(wù)連接池還能夠?qū)崿F(xiàn)故障轉(zhuǎn)移、超時(shí)處理、限流限速、ID串行化等諸多功能。
第四層：訪問數(shù)據(jù)層
在數(shù)據(jù)量很大的情況下，由于數(shù)據(jù)層(db/cache)涉及數(shù)據(jù)的水平切分，所以數(shù)據(jù)層的負(fù)載均衡更為復(fù)雜一些，它分為“數(shù)據(jù)的均衡”，與“請(qǐng)求的均衡”。
- 數(shù)據(jù)的均衡是指：水平切分后的每個(gè)服務(wù)(db/cache)，數(shù)據(jù)量是均勻的。
- 請(qǐng)求的均衡是指：水平切分后的每個(gè)服務(wù)(db/cache)，請(qǐng)求量是均勻的。
業(yè)內(nèi)常見的水平切分方式有這么幾種：
一、按照range水平切分
每一個(gè)數(shù)據(jù)服務(wù)，存儲(chǔ)一定范圍的數(shù)據(jù)：
- user0服務(wù)：存儲(chǔ)uid范圍1-1kw
- user1服務(wù)：存儲(chǔ)uid范圍1kw-2kw
這個(gè)方案的好處是：
- 規(guī)則簡(jiǎn)單，service只需判斷一下uid范圍就能路由到對(duì)應(yīng)的存儲(chǔ)服務(wù)
- 數(shù)據(jù)均衡性較好
- 比較容易擴(kuò)展，可以隨時(shí)加一個(gè)uid[2kw,3kw]的數(shù)據(jù)服務(wù)
不足是：
- 請(qǐng)求的負(fù)載不一定均衡，一般來說，新注冊(cè)的用戶會(huì)比老用戶更活躍，大range的服務(wù)請(qǐng)求壓力會(huì)更大
二、按照id哈希水平切分
每一個(gè)數(shù)據(jù)服務(wù)，存儲(chǔ)某個(gè)key值hash后的部分?jǐn)?shù)據(jù)：
- user0服務(wù)：存儲(chǔ)偶數(shù)uid數(shù)據(jù)
- user1服務(wù)：存儲(chǔ)奇數(shù)uid數(shù)據(jù)
這個(gè)方案的好處是：
- 規(guī)則簡(jiǎn)單，service只需對(duì)uid進(jìn)行hash能路由到對(duì)應(yīng)的存儲(chǔ)服務(wù)
- 數(shù)據(jù)均衡性較好
- 請(qǐng)求均勻性較好
不足是：
- 不容易擴(kuò)展，擴(kuò)展一個(gè)數(shù)據(jù)服務(wù)，hash方法改變時(shí)候，可能需要進(jìn)行數(shù)據(jù)遷移
總結(jié)
負(fù)載均衡(Load Balance)是分布式系統(tǒng)架構(gòu)設(shè)計(jì)中必須考慮的因素之一，它通常是指，將請(qǐng)求/數(shù)據(jù)均勻分?jǐn)偟蕉鄠€(gè)操作單元上執(zhí)行，其的關(guān)鍵在于均勻：
- 反向代理層的負(fù)載均衡，是通過“DNS輪詢”實(shí)現(xiàn)的
- 站點(diǎn)層的負(fù)載均衡，是通過“nginx”實(shí)現(xiàn)的
- 服務(wù)層的負(fù)載均衡，是通過“服務(wù)連接池”實(shí)現(xiàn)的
- 數(shù)據(jù)層的負(fù)載均衡，要考慮“數(shù)據(jù)的均衡”與“請(qǐng)求的均衡”兩個(gè)點(diǎn)，常見的方式有“按照范圍水平切分”與“hash水平切分”
希望大家有收獲。
【本文為專欄作者“58沈劍”原創(chuàng)稿件，轉(zhuǎn)載請(qǐng)聯(lián)系原作者】
新聞名稱：關(guān)于負(fù)載均衡的一切
本文路徑：http://www.5511xx.com/article/cdeijgp.html
