百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

websocket连接太多导致服务器卡顿怎么办?一招轻松实现横向扩展

haoteby 2025-01-13 14:05 4 浏览

前言

项目中有即时聊天的需求,经过调研我们采用了socket.io自己实现了一个聊天服务器。

开始的一段时间由于用户不是很多,消息的发送接收都还算流畅,最近随着在线用户数量飙升,每过一段时间就会发生发送消息卡顿和接收消息延时的问题,最后只能通过重启socket服务来暂时解决问题。

那有没有办法从根本上解决这个问题呢?

目录

  1. 什么是socket.io
  2. socket.io实现一个简易的即时聊天应用
  3. socket.io支持分布式部署吗?
  4. 总结

什么是socket.io?

在介绍什么是socket.io之前,不得不先提一下WebSocket

我们都知道HTTP协议是一种单向的网络通信协议,服务端只能被动响应来自客户端的请求,却不能主动向客户端推送数据。

WebSocket技术没有出现之前,如果要开发一个需要实时获取服务端数据的Web应用,常见有以下两种方式:ajax轮询Long Polling。

  • ajax轮询的原理其实很简单,就是让客户端每隔一小段时间就主动向服务端发送一次请求,如果有新数据客户端就把它显示出来。
  • 可以看出不管有没有新数据,ajax轮询都会定时向服务端发起请求,这会导致服务端不必要的性能消耗,Long Polling就是对ajax轮询的一种改进。客户端向服务端发送请求,服务端不会立即就响应客户端而是会先保持住此次连接,直到有新的数据时才会返回,客户端接收到数据之后再立即发送一个新的请求给服务端,并不断得重复这一过程。

可以看出这两种方式都需要不断的建立连接,但是建立连接是一个比较消耗性能的操作,这个时候如果有一个新的通信协议可以支持客户端和服务端双向通信就好了,所以WebSocket应运而生。

WebSocket是HTML5新增的一种通信协议。WebSocket协议是一种支持双向通信的协议,它和HTTP协议一样通过TCP来进行数据传输,但是WebSocket又不同于HTTP:

  • WebSocket是一种支持双向通信的协议,双方在建立连接后都能主动向对方发送或接收数据。
  • 客户端和服务端要想进行WebSocket通信必须先握手交换信息,成功之后才能进行通信。

说了这么多,那么WebSocket跟socket.io又是什么关系呢?

一直以来我都以为socket.io只是WebSocket协议的一种实现而已,深入之后才发现这种观点不完全正确。

socket.io是一个基于Node.js技术和WebSocket协议开发的实时的,可双向通信的和基于事件的的开源通信框架

WebSocke是HTML5新推出的协议,主流浏览器对它的支持还不是很完善,所以socket.io不仅仅实现了WebSocket协议,除此之外它还支持一些其他的通信方式,比如前面我们提到的ajax轮询和Long Polling等,可以根据浏览器的支持程度切换不同的通信方式。

用socket.io实现一个简易的即时聊天应用

接下来我们就是使用socket.io来实现一个简易的即时聊天的web应用。

先来看一下效果:

下面简单介绍一下实现方式,主要分为客户端和服务端两个部分。

服务端核心代码:

服务端主要定义了3个监听事件,分别用来监听客户端的加入群聊、发送消息和离开群聊事件,服务端在监听到事件后会再通过broadcast.emit方法将消息向全体用户广播。

客户端核心代码:

主要流程:

  1. 向socket服务端请求连接;
  2. 自己向服务端发送加入群聊请求;
  3. 监听服务端广播的其他用户加入群聊消息;
  4. 监听服务端广播的用户聊天信息;
  5. 监听服务端广播的用户离开群聊消息;

socket.io支持分布式部署吗?

socket服务端维护连接是一个十分消耗性能的操作,那么大量的连接必然会给服务器带来非常大的性能压力,当单台socket服务器支撑不了时该怎么办呢?

解决方案其实也很简单:分而治之,我们可以将多个socket服务端组成负载均衡集群,再将连接平均分配到每个服务端。

有人也许会提出疑问:多个socket服务端之间怎么通信?比如用户1连接到了socket服务端1,用户2连接到了socket服务端2,那么用户1发的消息怎么广播到socket服务端2呢?

这里就需要提一下Redis了,对你没看错,就是那个用作缓存的Redis。

其实Redis除了当作缓存使用之外,它还有一个非常厉害的功能:发布/订阅

Redis的发布订阅机制包括三个部分:发布者、订阅者和频道。 发布者将消息发送到某个频道,那么Redis服务器就会主动将消息推送到订阅了这个频道的所有订阅者。

socket.io正式利用Redis的发布订阅机制来支持分布式部署的:

当客户端1通过emit触发了一个事件到socket服务端1,socket服务端1将这个消息发送到Redis的某个频道,订阅了这个频道的socket服务端2就会收到这个消息,socket服务端2再向连接它的用户广播就行了。

代码增加reidssocket.io-redis模块:

总结

socket.io是一个基于Node.js技术和WebSocket协议开发的实时的,可双向通信的和基于事件的的开源通信框架。除此之外它还兼容ajax轮询和Long Polling等前后端通信方式,我们可以根据浏览器的支持程度进行自由切换。

socket.io非常适合客户端和服务端需要进行实时通信的场景,它利用Redis的发布订阅机制可以实现分布式部署,这让socket服务端横向扩展变得很加容易。

“分享知识,收获快乐”

我是一名程序员,喜欢我的文章欢迎 关注 及 转发,我会经常与大家分享一些工作当中的编程技巧与经验。

相关推荐

百度首席技术官王海峰:飞桨已拥有750万名开发者 文心一言将逐步开放插件生态

【百度首席技术官王海峰:飞桨已拥有750万名开发者文心一言将逐步开放插件生态】《科创板日报》6日讯,2023世界人工智能大会上,百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰表示,截至...

那些不得不装的浏览器插件,日英文视频自动翻译、广告、沉浸阅读

这年头各种浏览器层出不穷,要说使用量最大的还是基于chromium内核的吧。MicrosoftEdge、360、QQ……哪个厂商不说它香!chromium系的强大扩展性让我们浏览网页的体验越来越爽了...

百度站长平台:论坛搜索功能升级 推论构化数据插件

站长之家(Chinaz.com)3月26日消息近日,百度站长平台站内搜索功能针对论坛站点新增了搜版块和搜用户功能。此外,还推出了新版的论坛结构化数据插件,分为兼容版和完整版两个版本。注意,兼容版无法开...

警惕!利用百度推广实施的诈骗!(百度推广真的有用吗)

...

百度王海峰:文心3.5效果全面提升 将发布更多百度官方和第三方插件

中证网讯(记者彭思雨)7月6日,2023世界人工智能大会在上海开幕。百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰表示,文心大模型3.5效果、功能、性能全面提升,实现了基础模型升级、精...

WORDPRESS好用的seo插件:生成百度站点地图

BaiduSitemapGenerator是何方大神?BaiduSitemapGenerator是一个wordpress插件,BaiduSitemapGenerator可以生成格式化sit...

你能容忍百度不经过允许给用户下载插件吗?

文/懒人先生(首发头条)最近,百度又摊上事儿了,这次找事儿的可不是个人,而是网友整个团体啊,事情的缘起是因为有一个网友在网上反映百度地图会自动在后台下载一些热门的音频文件,这样做的后果就是有可能网友们...

提升工作效率的三款excel插件推荐,相信你总会得到有价值的东西

本内容来源于@什么值得买SMZDM.COM|生活家被演南非有这样的一句话“会excel的比会word的挣得多,会ppt的比会excel的挣得多”但我看来,office三件套word、excel、pp...

工具 | 直接在网页上做标记?这些插件简直不要太赞

哈喽,大家好。好久不见啊!!!2021年的第一篇推文来啦~有小伙伴在后台留言:浏览网页时如何做标记?所以这篇推文就来介绍一下~之前的推文中有介绍过,浏览网页时如何快速定位关键词,其实也算是做标记的一种...

良心合集!Adobe Audition常用插件免费下载

八月了时间很快...

用上这几个脚本,多家网盘下载不限速

下载别人分享的文件需要用到各种网盘,有的网盘下载一个小文件也需要转存才能下载,或是需要客户端与会员等操作,在日常使用的时候不是很方便,百度网盘相关的下载工具已经介绍过很多了。今天就来给大家推荐几个其他...

论坛站站长的福音 百度DZ插件跨越式升级

站长之家(chinaz.com)3月31日消息:百度站长平台今日跨越式升级discuz百度结构化数据提交插件,此次跨越式升级提升了收录时效性,而且支持提交有关用户和版块数据。如果你是使用Discuz!...

百度CTO王海峰:文心大模型3.5新增插件机制 使其具备生成实时准确信息的能力

【百度CTO王海峰:文心大模型3.5新增插件机制使其具备生成实时准确信息的能力】《科创板日报》27日讯,百度首席技术官王海峰表示,文心大模型3.5最大的一个变化是新增了插件机制,默认的内置插件“百度...

flutter集成 百度地图 ^2.0.1版本 | 绕坑必备

我之前在flutter中使用高德地图,发现没有引入,总是编译错误,后面我选择了使用flutter_map;flutter_map有一个局限是使用瓦片渲染。且只能渲染;要想效果好一点就用mapbox的...

百度文心一言新增搜索、图表生成等5大原生插件

【百度文心一言新增搜索、图表生成等5大原生插件】《科创板日报》16日讯,今日,文心一言发布五个原生插件:百度搜索、览卷文档(基于文档的交互)、E言易图(数据洞察图表生成)、说图解画(基于图片的交互)、...