1.什么是負載均衡

為了提升web應用的各方面能力，我們一般會把多臺機器組成一個集群對外提供服務。然而，我們的網站對外提供的訪問入口都是一個的，比如www.baidu.com，那么當用戶在瀏覽器輸入www.baidu.com的時候如何將用戶的請求分發到集群中不同的機器上呢，這就是負載均衡在做的事情。

負載均衡(Load Balance)，意思是將負載(工作任務，訪問請求)進行平衡、分攤到多個操作單元(服務器，組件)上進行執行。是解決高性能，單點故障 (高可用)，擴展性(水平伸縮)的終極解決方案。

負載均衡服務器在決定將請求轉發到具體哪臺真實服務器的時候，是通過負載均衡算法來實現的。

負載均衡算法是一個負載均衡服務器的核心。

負載均衡算法可以分為兩類:

• 靜態負載均衡算法
• 動態負載均衡算法

靜態負載均衡算法包括:輪詢，比率，優先權

動態負載均衡算法包括: 最少連接數,最快響應速度，觀察方法，預測法，動態性能分配，動態服務器補充，服務質量，服務類型，規則模式。

2.負載均衡的分類

想要實現負載均衡，其實有很多種做法，在深入介紹負載均衡之前，要先介紹一個概念，那就是OSI七層網絡模型

OSI是一個開放性的通信系統互連參考模型，他是一個定義得非常好的協議規范

OSI模型有7層結構，每層都可以有幾個子層。 OSI的7層從上到下分別是

• 7、應用層;
• 6、表示層;
• 5、會話層;
• 4、傳輸層;
• 3、網絡層;
• 2.數據鏈路層;
• 1.物理層;

其中高層(即7、6、5、4層)定義了應用程序的功能，下面3層(即3、2、1層)主要面向通過網絡的端到端的數據流。

在這七層模型種，高層次都是依賴于低層次的。層次越高，使用起來越方便

• telnet、HTTP、FTP、NFS、SMTP、DNS等屬于第七層應用層的概念
• TCP、UDP、SPX等屬于第四層傳輸層的概念。
• IP、IPX等屬于第三層網絡層的概念。
• ATM、FDDI等屬于第二層數據鏈路層的概念

了解了網絡協議的七層模型以后，再來看看負載均衡。我們可以很明確的一點是，負載均衡是要在網絡傳輸中做文章的。而要在網絡傳輸過程搞事情，那么這七層模型就勢必躲不開。

所以，根據負載均衡技術實現在OSI七層模型的不同層次，是可以給負載均衡分類的。

常見的實現方式中，主要可以在應用層、傳輸層、網絡層和數據傳輸層做文章。

所以，工作在應用層的負載均衡我們通常稱之為七層負載均衡、工作在傳輸層的我們稱之為四層負載均衡。

大致可以分為以下幾種，其中最常用的是四層和七層負載均衡:

2.1 二層負載均衡

負載均衡服務器對外依然提供一個VIP (虛IP)，集群中不同的機器采用相同IP地址，但是機器的MAC地址不一樣。當負載均衡服務器接受到請求之后，通過改寫報文的目標MAC地址的方式將請求轉發到目標機器實現負載均衡。

2.2 三層負載均衡

和二層負載均衡類似，負載均衡服務器對外依然提供一個VIP(虛IP)，但是集群中不同的機器采用不同的IP地址,當負載均衡服務器接受到請求之后，根據不同的負載均衡算法，通過IP將請求轉發至不同的真實服務器。

2.3 四層負載均衡

四層負載均衡工作在OSI模型的傳輸層，由于在傳輸層，只有TCP/UDP協議，這兩種協議中除了包含源IP、目標IP以外，還句含源端口號及目的端口號。

四層負載均衡服務器在接受到客戶端請求后，以后通過修改數據句的地址信息 (IP+端口號)將流量轉發到應用服務器

2.4 七層負載均衡

七層負載均衡工作在OS模型的應用層，應用層協議較多，常用http、radius、dns等。七層負載就可以基于這些協議來負載。這些應用層協議中會包含很多有意義的內容。比如同一個Web服務器的負載均衡，除了根據IP加端口進行負載外，還可根據七層的URL、瀏覽器類別、語言來決定是否要進行負載均衡。

3.負載均衡工具

市面上有很多開源的負載均衡的工具或軟件，基本都是基于前面提到的方案實現的，大多數是工作在第七層和第四層的。Nginx/LVS/HAProxy是目前使用最廣泛的三種負載均衡軟件。

3.1 LVS

LVS (Linux Virtual Server)，也就是Linux虛擬服務器。

使用LVS技術要達到的目標是: 通過LVS提供的負載均衡技術和Linux操作系統實現一個高性能、高可用的服務器群集，它具有良好可靠性、可擴展性和可操作性。從而以低廉的成本實現最優的服務性能。

LVS主要用來做四層負載均衡

3.2 Nginx

Nginx (發音同engine x) 是一個網頁服務器，它能反向代理HTTP,HTTPS,SMTP,POP3,IMAP的協議鏈接，以及一個負載均衡器和一個HTTP緩存。

Nginx主要用來做七層負載均衡.

3.3 HAProxy

HAProxy是一個使用C語言編寫的自由及開放源代碼軟件，其提供高可用性、負載均衡，以及基于TCP和HTTP的應用程序代理。

HAProxy主要用來做七層負載均衡

4.常見負載均衡算法

負載均衡服務器在決定將請求轉發到具體哪臺真實服務器的時候，是通過負載均衡算法來實現的。負載均衡算法是一個負載均衡服務器的核心。

負載均衡算法可以分為兩類:靜態負載均衡算法和動態負載均衡算法

靜態負載均衡算法包括:輪詢，比率，優先權

動態負載均衡算法包括: 最少連接數,最快響應速度，觀察方法，預測法，動態性能分配，動態服務器補充，服務質量，服務類型，規則模式

• 輪詢(Round Robin): 順序循環將請求一次順序循環地連接每個服務器。當其中某個服務器發生第二到第7層的故障，BIG-IP 就把其從順序循環隊列中拿出，不參加下一次的輪詢，直到其恢復正常。
• 比率(Ratio): 給每個服務器分配一個加權值為比例，根據這個比例，把用戶的請求分配到每個服務器。當其中某個服務器發生第二到第7 層的故障，BIG-P 就把其從服務器隊列中拿出，不參加下一次的用戶請求的分配，直到其恢復正常。
• 優先權 (Priority): 給所有服務器分組,給每個組定義優先權，BIG-P 用戶的請求，分配給優先級最高的服務器組(在同一組內，采用輪詢或比率算法，分配用戶的請求);當最高優先級中所有服務器出現故障，BIG-IP才將請求送給次優先級的服務器組。這種方式，實際為用戶提供一種熱備份的方式。
• 最少的連接方式(Least Connection): 傳遞新的連接給那些進行最少連接處理的服務器。當其中某個服務器發生第二到第7 層的故障，BIG-IP 就把其從服務器隊列中拿出，不參加下一次的用戶請求的分配。直到其恢復正常。
• 最快模式(Fastest):傳遞連接給那些響應最快的服務器。當其中某個服務器發生第二到第7 層的故障BIG-IP 就把其從服務器隊列中拿出，不參加下一次的用戶請求的分配，直到其恢復正常。
• 觀察模式 (Observed): 連接數目和響應時間以這兩項的最佳平衡為依據為新的請求選擇服務器。當其中某個服務器發生第二到第7層的故障，BIG-IP就把其從服務器隊列中拿出，不參加下一次的用戶請求的分配，直到其恢復正常
• 預測模式 (Predictive): BIG-P利用收集到的服務器當前的性能指標，進行預測分析，選擇一臺服務器在下一個時間片內，其性能將達到最佳的服務器相應用戶的請求。(被BIG-IP 進行檢測)
• 動態性能分配(Dynamic Ratio-APM):BIG-IP 收集到的應用程序和應用服務器的各項性能參數，動態調整流量分配。
• 動態服務器補充(Dynamic Server Act.):當主服務器群中因故障導致數量減少時，動態地將備份服務器補充至主服務器群。
• 服務質量(QOS) :按不同的優先級對數據流進行分配
• 服務類型(ToS): 按不同的服務類型 (在Type of Field中標識)負載均衡對數據流進行分配
• 規則模式: 針對不同的數據流設置導向規則，用戶可自行。

5.面試回答模板

負載均衡主要是將用戶的請求均勻的分配到多臺機器上，避免單臺服務器過載，按照層次劃分，負載均衡主要分為四層和七層，其中四層主要在網絡傳輸層，由于網絡傳輸層只有TCP/UDP協議，這兩種協議中除了包含源IP、目標IP以外，還句含源端口號及目的端口號，所以其負載均衡是基于IP和端口實現，像LVS它只看請求的 IP 和端口（比如 TCP/UDP 協議），適合處理簡單的流量分發，比如數據庫連接、視頻流媒體。而七層的網絡協議主要在應用層，比如 Nginx、HAProxy，它能識別 HTTP 請求中的 URL、Host、Cookie 等內容，適合更復雜的路由規則，比如用戶訪問 /api/v1 的接口，負載均衡器可以識別到這是 API 請求，直接轉發到專門的 API 服務器；而訪問 /static/ 的靜態資源，就轉發到 CDN 或靜態服務器。負載均衡的轉發策略主要基于負載均衡算法實現，如輪詢、權重、隨機、最小連接數等策略。