前言
上一篇文章分享了单机模式下,websocket的基本使用方法,但在实际的业务中,通常是不会这样使用的,大部项目都是分布式部署的,一个工程布署了多个服务节点,前端并不直接请求具体服务节点,而是先到nginx或其他代理服务器,通过nginx的负载均衡机制再转发到具体的服务节点。这种场景下,产生了几个问题:
第一,前端发起websocket连接时,是应该先连接到nginx,再由nginx转发到具体的节点?还是直接连接到具体的服务节点?
第二,nginx作为后端服务节点的代理者,nginx如何配置才能实现websocket协议的连接请求的转发?
第三,同一浏览器端发起的同一个websocket请求的session如何在多个服务节点之间实现共享?
这篇文章来和大家分享一下,实际业务开发中如何解决上述问题。
分布式场景下的websocket的工作流程
实际业务开发中,大部分项目都是采用前后端分离的开发方式和部署方式,对于http请求来说,通常是浏览器端作为客户端向服务器端发起http请求,http请求会先到nginx,经过nginx的负载均衡机制处理后,最终会把http请求转发到众多服务节点中的一个,完成业务逻辑处理后,把结果响应到客户端,客户端收到数据后渲染在浏览器中。
而对于websocket协议来说,分布式场景下的工作流程和http也比较类似,只是协议本身来说各有各的不同,前端浏览器在向服务器端发起websocket连接时,连接请求也是先到nginx上,由nginx来完转发,最终会有一个服务节点与浏览器端建立websocket连接;
浏览器端与服务器端建立websocket连接后,浏览器端和服务器端就之间操持了一个真正的长连接,浏览器端可以给服务器端发送消息,服务器端也可以给浏览器端发送消息了;
nginx与websocket
nginx从1.3版本开始是支持websocket协议的,虽然websocket协议与http协议不同,但是websocket建立连接前的握手与http是兼容的,HTTP升级机制使用Connection头Upgrade将连接从http升级到websocket;
如果nginx要实现分布式场景下websocket连接的转发,需要额外的配置,实现浏览器端和服务器端之间建立隧道,额外的配置即Upgrade的相关配置,nginx.conf的配置如下:
worker_processes 1;
events {
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
sendfile on;
keepalive_timeout 65;
upstream lezu{
#模拟的服务节点1
server 127.0.0.1:8080 weight=1;
#模拟的服务节点2
server 127.0.0.1:8081 weight=1;
}
server {
listen 80;
server_name localhost;
location / {
root html;
index index.html index.htm;
proxy_pass http://lezu;
# 重点的两行配置
# 将nginx的请求头从http升级到websocket.
proxy_set_header Upgrade $http_upgrade;
#进行nginx连接websocket
proxy_set_header Connection "upgrade";
}
error_page 500 502 503 504 /50x.html;
location = /50x.html {
root html;
}
}
}
浏览器端在发起websocket连接请求时,请求的服务器端地址是nginx的代理地址,连接建立后的消息发送、接收以及连接关闭等具体的使用方法和单机模式下是一模一样的;
<!DOCTYPE HTML>
<html lang="en">
<head>
<title>websocket测试</title>
<meta charset="UTF-8">
<script src="https://code.jquery.com/jquery-3.1.1.min.js"></script>
</head>
<body>
<input type="button" name="" id="open" value="建立连接"/>
<input type="button" name="" id="close" value="关闭连接">
<input type="button" name="" id="send" value="发送信息">
<div id="message"></div>
</body>
<script type="text/javascript">
var websocket = null;
$("#open").click(function () {
if (websocket != null) {
if (websocket.readyState == 1) {
throw "连接已建立!"
}
}
//判断当前浏览器是否支持WebSocket
if ('WebSocket' in window) {
//nginx的代理地址
websocket = new WebSocket("ws://172.18.229.61/websocket/gaox2");
} else {
alert('Not support websocket')
}
//连接发生错误的回调方法
websocket.onerror = function () {
document.getElementById('message').innerHTML += ("发生错误") + '<br/>';
};
//连接成功建立的回调方法
websocket.onopen = function (event) {
document.getElementById('message').innerHTML += ("建立连接") + '<br/>';
console.log("建立连接");
}
//接收到消息的回调方法
websocket.onmessage = function (event) {
console.log(event.data);
document.getElementById('message').innerHTML += event.data + '<br/>';
}
//连接关闭的回调方法
websocket.onclose = function () {
document.getElementById('message').innerHTML += ("关闭连接") + '<br/>';
console.log("关闭连接");
}
//监听窗口关闭事件,当窗口关闭时,主动去关闭websocket连接,防止连接还没断开就关闭窗口,server端会抛异常。
window.onbeforeunload = function () {
alert("已关闭连接");
websocket.close();
}
})
var i = 0;
$("#send").click(function () {
for (let j = 0; j < 100; j++) {
i = i + 1;
websocket.send("hello" + i);
}
})
$("#close").click(function () {
websocket.close();
i=0;
})
</script>
</html>
session共享
通过nginx的关于websocket协议的相关配置后,浏览器端与服务器端一个具体的服务节点建立了websocket连接,但这里需要特别注意的是,如果服务器端主动发消息给浏览器端就会用到session,这个session是javax.websocket.Session,是不能序列化的,所以不能像http请求中把session放入到缓存中间件中来实现共享,这样就会出现下面的情况:两个浏览器端用户A和B可能会连接到两个不同的服务节点上,这个时候如果用户A想给用户B发一个消息就有问题了,用户A的websocket连接的session在服务节点1,用户B的websocket连接的session在服务节点2,session又是jvm级别的,无法实现共享,那么用户A和B之间是无法通信的。
解决这个问题的思路也很简单,实际上是没有太好的办法了,具体就是:
1、在上一篇文章里,浏览器端与服务器端成功建立websocket连接后,会把连接信息包含session缓存起来;
2、用户A的消息发送到服务器端的服务节点1时,服务节点1利用第三方的消息中间件的发布订阅模式,这里以redis为例,对其他节点广播该消息;
3、所有的服务节点都订阅这个主题的消息,收到订阅消息的服务节点,再根据消息的接收方身份标识查找接收方与服务器端的session,如果接收方与服务器端的连接没有中断,一定可以找到用户B与服务器端的websocke连接的session,找到之后就可以把消息发送给用户B了;
WebSocket业务场景
基于websocket的通信特点,大概的应用场景有:
1、在线聊天,实时消息发送;
2、视频弹幕实时更新;
3、重要通知、资讯的实时更新;
当然,实际的业务场景不止这些,有的场景需要考虑websocket session共享的问题,有的则不需要,但是在设计相关业务功能实现方案的时候,一定得考虑到websocket session共享的问题;
总结
至此,websocket的使用方法以及如何应用到实际的业务开发中的坑算是填平了。在这两篇文章的输出过程中,除了websocket本身,我get到了两点:
1、学习是一个循序渐进的过程,先学会基本使用,再深入研究更高级的用法,会比较容易且符合自然的思考逻辑;
2、任何一个相对比较新的东西,如果没有正式应用到生产的经验,则一定要根据实际业务场景反复思考、认证、测试,做出最合理的设计;
其实这篇文章还有另外一个坑未真,那就是只考虑了session共享的问题,还未考虑实际业务场景中高并发高可用情况下,websocket资源消耗与评估的问题,这个坑就靠开发和测试的同学在做压力测试的时候填上了。