Nginx

Nginx (“engine x”) 是一個高性能的 HTTP 和反向代理伺服器，也是一個 IMAP/POP3/SMTP 代理伺服器。

Nginx 特點是佔有內存少，並發能力強，nginx 的並發能力在同類型的網頁伺服器中表現較好。

Nginx 的簡單架構：

Nginx 的架構設計

Nginx 的架構設計採用的是模塊化的，基於事件驅動、非同步、單線程且非阻塞（epoll 模型）

Nginx 使用多路復用和事件通知，Nginx 啟動後，在後台以 daemon 的方式在系統中運行，其中會包括一個主（master）進程，n（n≥1）個工作（worker）進程。

所有的進程都是單線程（即只有一個主線程）的，進程間通信主要使用共享內存的方式。

其中，master 進程用於接收外部的請求，發送信號給 worker 進程，同時監控 worker 進程的工作狀態。

worker 進程用來處理外部請求信息，請求只能在一個 worker 進程中被處理，一個 worker 進程只有一個主線程，同時只能處理一個請求。

Nginx 負載均衡是對七層網路通信模型中的應用層（HTTP，HTTPS）進行的。

Nginx 是以反向代理的方式進行負載均衡

Nginx 的 upstream 目前支持 6 種演算法分配方式：

輪詢

最基本的配置方法，它是 upstream 模塊默認的負載均衡默認策略。每個請求會按時間順序逐一分配到不同的後端伺服器。

有如下參數：

在 30 秒內錯誤次數超過 2 次，就認為伺服器已經不能訪問了，下次就不會訪問該機器

server 10.168.226.1:8080 max_fails=2 fail_timeout=30s;

server 10.168.226.2:8080 max_fails=2 fail_timeout=30s;

weight

權重方式，在輪詢策略的基礎上指定輪詢的幾率

server 10.168.226.1:8080 weight=1 ;

server 10.168.226.2:8080 weight=2;

注意：

ip_hash

指定負載均衡器按照基於客戶端 IP 的分配方式，這個方法確保了相同的客戶端的請求一直發送到相同的伺服器，以保證 session 會話。

這樣每個訪客都固定訪問一個後端伺服器，可以解決 session 不能跨伺服器的問題。

ip_hash; # 保證每個訪客固定訪問一個後端伺服器

server 10.168.226.1:8080 weight=1 ;

server 10.168.226.2:8080 weight=2;

注意：

ip_hash在nginx1.3版本之後才有的 ip_hash不能與backup同時使用這種策略適合有狀態服務，比如session 當有伺服器需要剔除，必須手動down掉。

least_conn

把請求轉發給連接數較少的後端伺服器，輪詢演算法是把請求平均的轉發給各個後端服，使它們的負載大致相同。

但是，有些請求佔用的時間很長，會導致所在的後端負載較高，這種情況下，least_conn這種方式就可以達到更好的負載均衡效果least_conn;

server 10.168.226.1:8080 weight=1;

server 10.168.226.2:8080 weight=2;

注意：

這種負載均衡策略適合請求處理時間長短不一致造成伺服器過載的情況

第三方策略

第三方的負載均衡策略的實現需要安裝第三方插件（upstream_fair)

fair安裝伺服器端響應時間來分配請求，響應時間段的優先分配fair；server 10.168.226.1:8080 weight=1;
server 10.168.226.2:8080 weight=2;
url_hash按訪問 URL 的 hash 結果來分配請求，是每個 URL 定向知道同一個後端伺服器，要配合緩衝命中來使用同一個資源多次求，可能會到達不同的伺服器上，導致不必要的多次下載，緩存命中率不高以及一些資源時間的浪費。而使用 url_hash，可以使得同一個 URL 會到達同一台伺服器，一段緩存了資源，再次請求的時候，就可以從緩存中讀取，需要 hash 軟體包