Nginx+Tomcat负载均衡、动静分离集群
目录
1.Nginx负载均衡
1.1 负载均衡概念
1.2 负载均衡原理
1.3 Nginx配置反向代理
1.3.1 反向代理概念
1.3.2 反向代理主要参数
2.Nginx动静分离
2.1 动静分离的概念
2.2 Nginx 静态处理优势
2.3 动静分离原理
3. Nginx+Tomcat动静分离的实验设计
3.1 准备三台虚拟机
3.2 准备动态页面
3.3 配置Nginx服务器实现动静分离
3.4 浏览器验证
4.Nginx反向代理类型
4.1 七层反向代理
4.2 四层反向代理配置
4.2.1 准备虚拟机
4.2.2 配置另一台Nginx服务器实现动静分离
4.2.3 配置Nginx负载均衡器用作四层代理
4.2.4 浏览器验证
4.2.5 四层代理与七层代理总结
5.Nginx的负载均衡模式(调度模式、调度算法、调度策略)
6.Nginx负载均衡会话保持
6.1 Nginx会话保持实现方式
6.1.1 ip_hsah
6.1.3 使用后端服务器自身通过相关机制保持session同步
1.Nginx负载均衡
1.1 负载均衡概念
通过反向代理实现,还可以将nginx接收到的请求转发给多个后端应用服务器处理
1.2 负载均衡原理
Nginx实现负载均衡是通过反向代理实现Nginx服务器作为前端,Tomcat服务器作为后端,web页面请求由Nginx服务来进行转发。 但是不是把所有的web请求转发,而是将静态页面请求Nginx服务器自己来处理,动态页面请求,转发给后端的Tomcat服务器来处理。据了解,Tomcat是属于轻量级的应用服务器,可接受访问量可能会不足,所以我们需要多台Tomcat服务器。并且Tomcat并发量处理能力弱(约Nginx的六分之一),所以需要Nginx方向代理时,进行合理的调用分配。
1.3 Nginx配置反向代理
1.3.1 反向代理概念
将nginx接收到的请求转发给其他应用服务器处理
1.3.2 反向代理主要参数
- upstream 服务池名 { }
- 作用:配置后端服务器池,以提供响应数据
upstream框架中,指令中涉及多个参数,各个参数含义说明如下:
参数 | 含义 |
weight | 服务访问的权重,默认是1 |
max_conns | server的最大并发连接数,仅作用于单worker进程,默认是0,表示没有限制 |
max _fails | 在fail timeout时间段内,最大的失败次数,当达到最大失败时,会在failtimeout秒内这台server不允许再次被选择 |
fail timeout | 单位为秒,默认10秒 |
- proxy_pass http:// 服务池名
- 作用:配置将访问请求转发给后端服务器池的服务器处理
2.Nginx动静分离
2.1 动静分离的概念
静态页面请求由nginx自行处理并响应;动态页面请求由nginx通过反向代理转发给后端应用服务器处理。
2.2 Nginx 静态处理优势
Nginx 静态处理优势:Nginx 处理静态页面的效率远高于 Tomcat 的处理能力若 Tomcat 的请求量为1000次,则 Nginx 的请求量为6000次Tomcat 每秒的吞吐量为0.6M,Nginx 的每秒吞吐量为3.6MNginx 处理静态资源的能力是 Tomcat 处理的6倍
2.3 动静分离原理
服务端接收来自客户端的请求中,既有静态资源也有动态资源,静态资源由 Nginx 提供服务,动态资源由 Nginx 转发至后端。
3. Nginx+Tomcat动静分离的实验设计
3.1 准备三台虚拟机
192.168.9.120做nginx服务器
192.168.9.210做tomcat服务器(内含tomcat:8080、tomcat2:8081、tomcat3:8082)
192.168.9.140做tomcat服务器(tomcat:8080)
3.2 准备动态页面
192.168.9.210服务器:
192.168.9.140服务器:
3.3 配置Nginx服务器实现动静分离
192.168.9.120服务器:
编写静态测试页面
3.4 浏览器验证
静态页面
动态页面(浏览器页面使用F5刷新切换)http://192.168.9.120/xy101/test.jsp
4.Nginx反向代理类型
4.1 七层反向代理
概念:基于http、https、mail等七层应用协议的代理转发(根据用户访问请求的URL路径来转发请求),通常用于动静分离应用场景。
配置总结:
1)在http配置块中使用upstream定义后端服务器列表名称和节点参数
http {
upstream 服务器列表名称 {
server IP1:PORT1 weight=1;
server IP2:PORT2 weight=1;
......
}
2)在server配置块中使用location匹配用户请求的动态页面的URL路径,使用 proxy_pass 基于协议代理转发
server {
......
location ~ .*\.jsp$ {
proxy_pass http://服务器列表名称;
#用于为后端服务器获取真实的客户端地址
proxy_set_header HOST $host;
proxy_set_header X_Real_IP $remote_addr;
proxy_set_header X_Forwarded_For $proxy_add_x_forwarded_for;
}
......
}
......
}
4.2 四层反向代理配置
概念:基于IP和端口实现的代理转发(根据IP和端口来转发请求),通常用于做网关访问入口的负载均衡器等应用场景。
4.2.1 准备虚拟机
192.168.9.120做nginx服务器(用作七层代理)
192.168.9.150做nginx服务器(用作七层代理,本机为yum安装的nginx)
192.168.9.111做负载均衡器(用作四层代理)
192.168.9.210做tomcat服务器(内含tomcat:8080、tomcat2:8081、tomcat3:8082)
192.168.9.140做tomcat服务器(tomcat:8080)
4.2.2 配置另一台Nginx服务器实现动静分离
192.168.9.150nginx服务器
vim /etc/nginx/conf.d/default.conf
配置静态页面
网页测试
静态页面
动态页面
4.2.3 配置Nginx负载均衡器用作四层代理
为方便测试需关闭两个nginx服务器长连接
192.168.9.120
vim /usr/local/nginx/conf/nginx.confsystemctl restart nginx
192.168.9.150
vim /etc/nginx/nginx.conf
systemctl restart nginx
重新取一台虚拟机安装nginx作为负载均衡器
192.168.9.111虚拟机(使用yum安装nginx)
useradd -M -s /sbin/nologin nginx
./configure --prefix=/usr/local/nginx --user=nginx --group=nginx --with-http_stub_status_module --with-http_ssl_module --with-stream #配置
make -j2 && make install #编译安装
对负载均衡器进行配置
192.168.9.111虚拟机
vim /usr/local/nginx/conf/nginx.conf
4.2.4 浏览器验证
静态页面
动态页面
配置总结:
1)编译安装时需要添加 stream 四层代理模块 ./configure --with-stream
2)在 http 配置块同层级,一般在 http 配置块上面添加 stream 配置块,在 stream 配置块里使用upstream定义后端服务器列表名称和节点参数以及使用server配置块定义监听端口和转发配置
stream {
upstream 服务器列表名称 {
server IP1:PORT1 weight=1;
server IP2:PORT2 weight=1;
......
}
server {
listen IP:PORT;
proxy_pass 服务器列表名称;
}
}
http {....}
4.2.5 四层代理与七层代理总结
四层反向代理比七层反向代理转发性能更高,七层反向代理比四层反向代理转发功能更多、更灵活。
5.Nginx的负载均衡模式(调度模式、调度算法、调度策略)
在upstream配置块里进行设置
轮询(round robin、rr) | 是nginx的默认调度模式,按照时间顺序逐一分配请求 |
加权轮询(weight round、wrr) | 使用weight参数设置权重,weight值越高的节点被分配请求的概率越大 |
least_conn(最少链接、最小连接) | 优先将请求分配给当前连接数最少的节点 |
ip_hash(源地址哈希) | 根据客户端IP做hash缓存调度,会将请求分配给固定的一个节点 |
url_hash(目的地址哈希) | 根据客户端请求访问的URL路径做hash缓存调度,会将请求分配给固定的一个节点。需要另外安装第三方模块支持 |
fdir | 优先将请求分配给响应时间最少的节点,需要另外安装第三方模块支持 |
random | 随机分配请求 |
hash nginx全局变量 consistent | 一致性hash算法,根据nginx全局变量的值来做hash缓存调度 (比如 hash $remote_addr consistent 根据客户端IP做hash缓存调度,是IP_hash的加强版) |
6.Nginx负载均衡会话保持
作用:简单说就是优化用户体验,降低网络开销
如果有一个用户访问请求被分配到服务器A,并且在服务器A登录了,并且在很短的时间,这个用户又发出了一个请求,如果没有会话保持功能的话,这个用户的请求很有可能会被分配到服务器B去,这个时候在服务器B上是没有登录的,所以你要重新登录,但是用户并不知道自己的请求被分配到了哪里,用户的感觉就是登录了怎么又要登录,用户体验很不好上。
会话保持都会有时间的限制(映射到固定某一台的服务器除外工如:ip_hash),各种负载均衡工具都会提供这种会话保持时间的设置,LVS,apache等。连php语言都提供了会话保持时间的设定session.gc_maxlifetime会话保持时间的设定要大于session生存时间的设定,这样可以减少需要同步session的情况,但是不能杜绝。所以同步session还是要做的。
6.1 Nginx会话保持实现方式
6.1.1 ip_hsah
一致性客户端地址hash算法,基于客户端IP做hash缓存将请求发送给同一个节点服务器来实现会话保持,但是容易导致负载失衡问题。
ip_hash语法:
upstream backend {
ip hash:
server backendl.example.com:
server backend2.example.com,
server backend3.example.com down:
server backend4.example.com:
}
6.1.2 sticky_cookie_insert
基于cookie来来判断实现会话保持
语法::
upstream backend {
server backendl.example.com:
server backend2.example.com!
sticky cookie insert srv id expires=lh domain=3evip.cn path=/:
}
说明:
设置浏览器中保持cookie的时间expires.
domain:定义cookie的域
path:为cookie定义路径
6.1.3 使用后端服务器自身通过相关机制保持session同步
通过缓存数据库做session同步复制,使用后端节点服务器自身配置通过相关机制保持session同步来实现会话保持