LVS-DR數據包的流向分析
1.客戶端發送請求到負載均衡器,請求的數據報文到達內核空間;
2.負載均衡服務器和正式服務器在同一個網絡中,數據通過二層數據鏈路層來傳輸;
3.內核空間判斷數據包的目標IP是本機VIP,此時IP虛擬服務器比對數據包請求的服務是否是集群服務,是、則重新封裝數據包;修改源MAC地址為負載均衡服務器的MAC地址,目標MAC地址為真實服務器的MAC地址,源IP地址和目標IP地址不變,然后將數據包發送給真實服務器
4.如果到達真實服務器的請求報文的MAC地址是自身的MAC地址,就接收此報文;數據包重新封裝報文(源 IP 地址為 VIP,目標 IP 為 CIP),將響應報文通過 lo 接口傳送給物理網卡然后向外發出
5.真實服務器直接將響應報文傳送到客戶端
????Clint向目標VIP發出請求,Director(負載均衡器)接收
?? ?IP包頭及數據幀頭部信息
LVS-DR中的ARP故障
1.ARP通信紊亂
防止網關路由器發送ARP廣播時調度器和節點都進行響應,導致ARP通信紊亂;
可以不對非本地物理網卡的arp請求進行響應,使用虛擬接口lo:0承載VIP地址
????????在LVS-DR負載均衡群集中,負載均衡器與節點服務器都要配置相同的VIP地址,在局域網中具有相同的IP地址,會造成各服務器ARP通信的紊亂;
????????當ARP廣播發送到LVS-DR集群時,因為負載均衡器和節點服務器都是連接到相同的網絡上,它們都會接收到ARP廣播;現實應該只有前端的負載均衡器進行響應,其他節點服務器不應該響應ARP廣播。
對節點服務器進行處理,使其不響應針對VIP的ARP請求:
????????使用虛擬接口lo:0承載VIP地址
? ? ? ? 設置內核參數arp_ignore=1:代表系統只響應目的IP為本地IP的ARP請求
2.ARP_announce-2
系統不使用響應數據的源IP地址(VIP)來作為本機進行的arp請求報文的源IP地址,
而是使用發送報文的物理網卡的IP地址作為ARP請求報文的源IP地址,
這樣可以防止網關路由器接收到源IP地址為VIP的ARP請求,報文后的又去更新ARP緩存表,導致外網再去發送請求時,數據包無法到達調度器
RS返回報文(源IP是VIP)經路由器轉發,重新封裝報文時,需要想獲取路由器的MAC地址,發送ARP請求時,Linux默認使用IP包的源IP地址(即VIP)作為ARP請求包中的源IP地址,此時路由器的路由表進行更新,VIP的MAC地址由原先的均衡器變為節點服務器,路由器根據ARP表項,會將新來的請求報文轉發給節點服務器,導致均衡器的VIP失效,又會造成VIP的紊亂
解決辦法:
????????對節點服務器進行處理,設置內核參數arp_announce=2:代表不使用IP包的源地址來設置ARP請求的源地址,而選擇發送ens33接口的IP地址
修改/etc/sysctl.conf文件
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce =2
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce =2
LVS-DR的特性
1.負載均衡服務器(DS)和真實服務器(RS)必須在同一個物理網絡中
2.RS可以使用私有地址,也可以使用公網地址,如果使用公網地址,可以通過互聯網對RIP直接進行訪問
3.DS作為群記得訪問入口,但不作為網關使用
4.所有請求報文經由DS,但回復響應報文不能經過DS
5.RS的網關不允許指向DS IP,即RS發送的數據包不允許經過DS
6.RS上的lo接口配置VIP的IP地址
LVS的優點:負載均衡器只負責將請求包分發給物理服務器,而物理服務器將響應包直接發送給用戶,所以負載均衡器能處理很巨大的請求流量;這種方式,一臺負載均衡能為超過100M的物理服務器服務,負載均衡器不再是系統瓶頸;使用LVS-DR方式,如果你的負載均衡器擁有100M全雙工網卡的話,使用LVS就能達到1G甚至更高的吞吐量
5萬以內用Nginx,5-10萬使用
LVS的缺點:所有的調度器和節點服務器在同一個廣播域,必須在同一個物理網絡中,不支持異地容災
.
LVS-DR負載均衡群集部署
流程圖:(待修改ing)
設備準備:
DR 服務器:192.168.220.130
Web 服務器1:192.168.220.111
Web 服務器2:192.168.220.112
vip:192.168.220.135
NFS共享存儲:192.168.220.131
1.配置負載調度器(192.168.220.130)
#關閉防火墻和安全機制
systemctl stop firewalld.service
setenforce 0#安裝加載ip_vs
modprobe ip_vs
cat /proc/net/ip_vs
#安裝ipvsadm服務
yum -y install ipvsadm
(1)配置虛擬 IP 地址(VIP:192.168.220.135)?
cd /etc/sysconfig/network-scripts/
cp ifcfg-ens33 ifcfg-ens33:0vim ifcfg-ens33:0
DEVICE=ens33:0
ONBOOT=yes
IPADDR=192.168.220.135
NETMASK=255.255.255.255#啟動虛擬網卡ens33:0
ifup ens33:0
#查看虛擬網卡ens33:0當前狀態
ifconfig ens33:0#ifup 與 ifdown 會直接到 /etc/ sysconfig/network-scripts 目錄下搜索對應的配置文件,進行啟動與關閉
(2)調整 proc 響應參數
#由于 LVS 負載調度器和各節點需要共用 VIP 地址,需要關閉 icmp 的重定向,不充當路由器。
vim /etc/sysctl.confnet.ipv4.ip_forward = 0
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0#刷新
sysctl -p
(3)配置負載分配策略
#保存重定向,開啟ipvsadm
ipvsadm-save > /etc/sysconfig/ipvsadm
systemctl restart ipvsadmipvsadm -C #清空所有規則
ipvsadm -A -t 192.168.220.135:80 -s rr #配置虛擬IP;rr為普通輪詢
ipvsadm -a -t 192.168.220.135:80 -r 192.168.220.111:80 -g #-g表示DR模式;若隧道模式,-g替換為-i
ipvsadm -a -t 192.168.220.135:80 -r 192.168.220.112:80 -g#啟動ipvsadm
ipvsadm
#查看節點狀態,Route代表 DR模式
ipvsadm -ln
2.部署共享存儲(NFS服務器:192.168.220.131)
systemctl stop firewalld.service
setenforce 0yum -y install nfs-utils rpcbind
mkdir /opt/kgc /opt/benet
chmod 777 /opt/kgc /opt/benetvim /etc/exports
/usr/share *(ro,sync)
/opt/kgc 192.168.220.0/24(rw,sync)
/opt/benet 192.168.220.0/24(rw,sync)systemctl start nfs.service
systemctl start rpcbind.service
3.配置節點服務器(192.168.220.111、192.168.220.112)
#此地址僅用作發送 Web響應數據包的源地址,并不需要監聽客戶機的訪問請求(改由調度器監聽并分發)。因此使用虛接口 lo∶0 來承載 VIP 地址,并為本機添加一條路由記錄,將訪問 VIP 的數據限制在本地,以避免通信紊亂。
systemctl stop firewalld.service
setenforce 0
(1)配置虛擬 IP 地址(VIP:192.168.220.135)
cd /etc/sysconfig/network-scripts/
cp ifcfg-lo ifcfg-lo:0
vim ifcfg-lo:0
DEVICE=lo:0
ONBOOT=yes
IPADDR=192.168.220.135
NETMASK=255.255.255.255 #注意:子網掩碼必須全為 1
#開啟虛擬網卡lo:0,查看虛擬網卡lo:0的狀態
ifup lo:0
ifconfig lo:0
#添加規則
route add -host 192.168.220.135 dev lo:0vim /etc/rc.local
/sbin/route add -host 192.168.220.135 dev lo:0#給文件執行權限
chmod +x /etc/rc.d/rc.local
(2)調整內核的 ARP 響應參數以阻止更新 VIP 的 MAC 地址,避免發生沖突
vim /etc/sysctl.confnet.ipv4.conf.lo.arp_ignore = 1 #系統只響應 目的IP為本地IP的ARP請求
net.ipv4.conf.lo.arp_announce = 2 #系統不使用IP包的源地址來設置ARP請求的源地址,而選擇發送接口的IP地址
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2#刷新
sysctl -pyum -y install nfs-utils rpcbind httpd
systemctl start rpcbind
systemctl start httpd
--192.168.220.111---
#掛載
mount.nfs 192.168.220.111:/opt/kgc /var/www/html
echo 'this is kgc web!' > /var/www/html/index.html
--192.168.220.112---
#掛載
mount.nfs 192.168.220.112:/opt/benet /var/www/html
echo 'this is benet web!' > /var/www/html/index.html
4.測試 LVS 群集
在客戶端使用瀏覽器訪問 http://192.168.220.135