日韩无码专区无码一级三级片|91人人爱网站中日韩无码电影|厨房大战丰满熟妇|AV高清无码在线免费观看|另类AV日韩少妇熟女|中文日本大黄一级黄色片|色情在线视频免费|亚洲成人特黄a片|黄片wwwav色图欧美|欧亚乱色一区二区三区

RELATEED CONSULTING
相關咨詢
選擇下列產(chǎn)品馬上在線溝通
服務時間:8:30-17:00
你可能遇到了下面的問題
關閉右側工具欄

新聞中心

這里有您想知道的互聯(lián)網(wǎng)營銷解決方案
從底層原理分析Nginx為什么這么快

 Nginx 的進程模型

Nginx 服務器,正常運行過程中:

  1. 多進程:一個 Master 進程、多個 Worker 進程
  2. Master 進程:管理 Worker 進程
  3. 對外接口:接收外部的操作(信號)
  4. 對內轉發(fā):根據(jù)外部的操作的不同,通過信號管理 Worker
  5. 監(jiān)控:監(jiān)控 worker 進程的運行狀態(tài),worker 進程異常終止后,自動重啟 worker 進程
  6. Worker 進程:所有 Worker 進程都是平等的
  7. 實際處理:網(wǎng)絡請求,由 Worker 進程處理;
  8. Worker 進程數(shù)量:在 nginx.conf 中配置,一般設置為核心數(shù),充分利用 CPU 資源,同時,避免進程數(shù)量過多,避免進程競爭 CPU 資源,增加上下文切換的損耗。

思考:

請求是連接到 Nginx,Master 進程負責處理和轉發(fā)?

如何選定哪個 Worker 進程處理請求?請求的處理結果,是否還要經(jīng)過 Master 進程?

HTTP 連接建立和請求處理過程:

  1. Nginx 啟動時,Master 進程,加載配置文件
  2. Master 進程,初始化監(jiān)聽的 socket
  3. Master 進程,fork 出多個 Worker 進程
  4. Worker 進程,競爭新的連接,獲勝方通過三次握手,建立 Socket 連接,并處理請求

Nginx 高性能、高并發(fā):

  1. Nginx 采用:多進程 + 異步非阻塞方式(IO 多路復用 epoll)
  2. 請求的完整過程:
  3. 建立連接
  4. 讀取請求:解析請求
  5. 處理請求
  6. 響應請求
  7. 請求的完整過程,對應到底層,就是:讀寫 socket 事件

Nginx 的事件處理模型

request:Nginx 中 http 請求。

基本的 HTTP Web Server 工作模式:

  • 接收請求:逐行讀取請求行和請求頭,判斷段有請求體后,讀取請求體
  • 處理請求
  • 返回響應:根據(jù)處理結果,生成相應的 HTTP 請求(響應行、響應頭、響應體)

Nginx 也是這個套路,整體流程一致。

模塊化體系結構

nginx的模塊根據(jù)其功能基本上可以分為以下幾種類型:

  • event module: 搭建了獨立于操作系統(tǒng)的事件處理機制的框架,及提供了各具體事件的處理。包括ngx_events_module, ngx_event_core_module和ngx_epoll_module等。nginx具體使用何種事件處理模塊,這依賴于具體的操作系統(tǒng)和編譯選項。
  • phase handler: 此類型的模塊也被直接稱為handler模塊。主要負責處理客戶端請求并產(chǎn)生待響應內容,比如ngx_http_static_module模塊,負責客戶端的靜態(tài)頁面請求處理并將對應的磁盤文件準備為響應內容輸出。
  • output filter: 也稱為filter模塊,主要是負責對輸出的內容進行處理,可以對輸出進行修改。例如,可以實現(xiàn)對輸出的所有html頁面增加預定義的footbar一類的工作,或者對輸出的圖片的URL進行替換之類的工作。
  • upstream: upstream模塊實現(xiàn)反向代理的功能,將真正的請求轉發(fā)到后端服務器上,并從后端服務器上讀取響應,發(fā)回客戶端。upstream模塊是一種特殊的handler,只不過響應內容不是真正由自己產(chǎn)生的,而是從后端服務器上讀取的。
  • load-balancer: 負載均衡模塊,實現(xiàn)特定的算法,在眾多的后端服務器中,選擇一個服務器出來作為某個請求的轉發(fā)服務器。

常見問題剖析

Nginx vs. Apache

網(wǎng)絡 IO 模型:

  • nginx:IO 多路復用,epoll(freebsd 上是 kqueue )
  • 高性能
  • 高并發(fā)
  • 占用系統(tǒng)資源少
  • apache:阻塞 + 多進程/多線程
  • 更穩(wěn)定,bug 少
  • 模塊更豐富

場景:

處理多個請求時,可以采用:IO 多路復用 或者 阻塞 IO +多線程

  • IO 多路服用:一個 線程,跟蹤多個 socket 狀態(tài),哪個就緒,就讀寫哪個;
  • 阻塞 IO + 多線程:每一個請求,新建一個服務線程

思考:IO 多路復用 和 多線程 的適用場景?

  • IO 多路復用:單個連接的請求處理速度沒有優(yōu)勢,適合 IO 密集型 場景,事件驅動
  • 大并發(fā)量:只使用一個線程,處理大量的并發(fā)請求,降低上下文環(huán)境切換損耗,也不需要考慮并發(fā)問題,相對可以處理更多的請求;
  • 消耗更少的系統(tǒng)資源(不需要線程調度開銷)
  • 適用于長連接的情況(多線程模式長連接容易造成線程過多,造成頻繁調度)
  • 阻塞IO + 多線程:實現(xiàn)簡單,可以不依賴系統(tǒng)調用,適合 CPU 密集型 場景
  • 每個線程,都需要時間和空間;
  • 線程數(shù)量增長時,線程調度開銷指數(shù)增長

Nginx 最大連接數(shù)

基礎背景:

  • Nginx 是多進程模型,Worker 進程用于處理請求;
  • 單個進程的連接數(shù)(文件描述符 fd),有上限(nofile):ulimit -n
  • Nginx 上配置單個 worker 進程的最大連接數(shù):worker_connections 上限為 nofile
  • Nginx 上配置 worker 進程的數(shù)量:worker_processes

因此,Nginx 的最大連接數(shù):

  1. Nginx 的最大連接數(shù):Worker 進程數(shù)量 x 單個 Worker 進程的最大連接數(shù)
  2. 上面是 Nginx 作為通用服務器時,最大的連接數(shù)
  3. Nginx 作為反向代理服務器時,能夠服務的最大連接數(shù):(Worker 進程數(shù)量 x 單個 Worker 進程的最大連接數(shù))/ 2。
  4. Nginx 反向代理時,會建立 Client 的連接和后端 Web Server 的連接,占用 2 個連接

思考:

  • 每打開一個 socket 占用一個 fd
  • 為什么,一個進程能夠打開的 fd 數(shù)量有限制?

IO 模型

場景:

處理多個請求時,可以采用:IO 多路復用 或者 阻塞 IO +多線程

  • IO 多路服用:一個 線程,跟蹤多個 socket 狀態(tài),哪個就緒,就讀寫哪個;
  • 阻塞 IO + 多線程:每一個請求,新建一個服務線程

思考:IO 多路復用 和 多線程 的適用場景?

  • IO 多路復用:單個連接的請求處理速度沒有優(yōu)勢
  • 大并發(fā)量:只使用一個線程,處理大量的并發(fā)請求,降低上下文環(huán)境切換損耗,也不需要考慮并發(fā)問題,相對可以處理更多的請求;
  • 消耗更少的系統(tǒng)資源(不需要線程調度開銷)
  • 適用于長連接的情況(多線程模式長連接容易造成線程過多,造成頻繁調度)
  • 阻塞IO + 多線程:實現(xiàn)簡單,可以不依賴系統(tǒng)調用。
  • 每個線程,都需要時間和空間;
  • 線程數(shù)量增長時,線程調度開銷指數(shù)增長

select/poll 和 epoll 比較

詳細內容,參考:

  • select poll epoll三者之間的比較

select/poll 系統(tǒng)調用:

 
 
 
 
  1. // select 系統(tǒng)調用 
  2. int select(int maxfdp,fd_set *readfds,fd_set *writefds,fd_set *errorfds,struct timeval *timeout);  
  3. // poll 系統(tǒng)調用 
  4. int poll(struct pollfd fds[], nfds_t nfds, int timeout); 

select:

  • 查詢 fd_set 中,是否有就緒的 fd,可以設定一個超時時間,當有 fd (File descripter) 就緒或超時返回;
  • fd_set 是一個位集合,大小是在編譯內核時的常量,默認大小為 1024

特點:

  • 連接數(shù)限制,fd_set 可表示的 fd 數(shù)量太小了;
  • 線性掃描:判斷 fd 是否就緒,需要遍歷一邊 fd_set;
  • 數(shù)據(jù)復制:用戶空間和內核空間,復制連接就緒狀態(tài)信息

poll:

  • 解決了連接數(shù)限制:
  • poll 中將 select 中的 fd_set 替換成了一個 pollfd 數(shù)組
  • 解決 fd 數(shù)量過小的問題
  • 數(shù)據(jù)復制:用戶空間和內核空間,復制連接就緒狀態(tài)信息

epoll: event 事件驅動

  • 事件機制:避免線性掃描
  • 為每個 fd,注冊一個監(jiān)聽事件
  • fd 變更為就緒時,將 fd 添加到就緒鏈表
  • fd 數(shù)量:無限制(OS 級別的限制,單個進程能打開多少個 fd)

select,poll,epoll:

  1. I/O多路復用的機制;
  2. I/O多路復用就通過一種機制,可以監(jiān)視多個描述符,一旦某個描述符就緒(一般是讀就緒或者寫就緒),能夠通知程序進行相應的讀寫操作。
  3. 監(jiān)視多個文件描述符
  4. 但select,poll,epoll本質上都是同步I/O:
  5. 用戶進程負責讀寫(從內核空間拷貝到用戶空間),讀寫過程中,用戶進程是阻塞的;
  6. 異步 IO,無需用戶進程負責讀寫,異步IO,會負責從內核空間拷貝到用戶空間;

Nginx 的并發(fā)處理能力

關于 Nginx 的并發(fā)處理能力:

并發(fā)連接數(shù),一般優(yōu)化后,峰值能保持在 1~3w 左右。(內存和 CPU 核心數(shù)不同,會有進一步優(yōu)化空間)


文章標題:從底層原理分析Nginx為什么這么快
URL網(wǎng)址:http://www.5511xx.com/article/ccdsgid.html