百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

分库分表实现方式Client和Proxy,性能和维护性该怎么选?

haoteby 2025-06-08 21:13 3 浏览

大家好,我是【架构摆渡人】,一只十年的程序猿。这是分库分表系列的第一篇文章,这个系列会给大家分享很多在实际工作中有用的经验,如果有收获,还请分享给更多的朋友。

其实这个系列有录过视频给大家学习,但很多读者反馈说看视频太慢了。也不好沉淀为文档资料,希望能有一系列文字版本的讲解,要用的时候可以快速浏览关键的知识点。那么它就来了,我再花点时间写成几篇连续的文章供大家学习。

分库分表的手段

手动路由

如果没有复杂的操作,手动路由相对来说是简单的方式。比如你的操作只根据分片键操作,那么通过分片键你可以计算出这条数据的库和表,从而将你的SQL路由到指定的库进行执行。

这里主要是要在执行SQL的时候,动态获取对应的数据源,获取到数据源之后就用这个数据源进行SQL的执行。至于SQL在哪张表即SQL拼接的时候就已经知道了。

这也是最简单的实现分库分表的方式,但是实际业务中,我们不可能只根据分片键进行查询,假设有非分片键的查询,就还涉及到数据聚合,分页的问题,如果每个业务都要自己处理,这复杂度就太高了,所以我们需要一款中间件来支撑分库分表的需求。

中间件

分库分表中间件的出现,降低了分库分表的门槛,也极大的提升了开发效率。中间件内部会回SQL进行校验,解析,路由,聚合等逻辑。同时也会考虑到可用性,易用性等方面。

目前中间件主要分为两种类型,一种是Client方式的中间件,比如Sharding-JDBC,Ctrip DAL,TSharding等优秀的中间件。

一种是Proxy方式的中间件,比如ShardingSphere,Mycat等优秀的中间件。

Client和Proxy方式对比

Client方式是指分库分表的逻辑都在应用本地进行控制,应用本地会直连多个数据库进行操作,然后本地进行数据的聚合汇总等操作逻辑。

Proxy方式是指挥有一个独立的应用,这个应用实现了Mysql的协议,可以对外提供服务。业务方的应用不需要直接连接数据库,而是连接这个Proxy的应用,把这个Proxy就当做一个数据库使用。Proxy会将Sql分发到具体的数据库进行执行,并返回结果。

性能方面比较

从性能这块去比较多的话,Client方式性能更好。Client方式采用的是应用直连数据库的形式,一条SQL直达数据库,拿到结果直接就可以用了,基本上跟我们没分库分表之前差不了多少。

Proxy方式在性能方法会有一点损耗,因为中间多了一次路由操作。就是SQL由应用到Proxy,Proxy再将SQL路由到具体的数据库,拿到结果,再响应给应用。

内存方面比较

从内存占用这块去比较的话,Client方式不是很好。Client方式拿到数据库响应的内容后要在应用本地进行聚合操作,内存,cpu等都是占用当前应用的资源。

Proxy方式也是会占用内存,但是它的内存不是当前应用的内存,而是Proxy这个应用的内存,Proxy应用是单独部署的,所以是隔离的状态。同时Proxy是会集群部署的,所以会更好点。

连接数方面比较

Client方式在连接数方面会占用的比较多,每个应用都会直接连接每个库,每个库也就是一个连接池。

Proxy方式连接数会相对较少一点,每个库只需要一个连接池即可。应用连接Proxy占用的就不是数据库的连接了。当然如果Proxy集群的节点多的话,连接数也是会相应的增多。

架构复杂度比较

Client方式在架构方面比较简单,通常是依赖一个Jar包,不会出现单点故障问题。

Proxy方式需要单独部署一个独立的服务,并且这个服务也要考虑高可用,整体的架构复杂度还是比较高的,所以小团队建议大家用Client方式。

从升级方面比较

Client方式每个项目都要依赖Jar包,一但版本有什么问题,出了新的修复版本,所有项目都得跟着升级。小公司还好,就那么几个项目,大公司的项目成百上千,而且都是属于不同团队下的,这种中间件是属于基础架构团队的,要推动业务团队升级其实很困难的,没个半年基本上很难全部都升级完。

Proxy方式在这方面的优势就提现出来了,有什么新功能或者修复了什么Bug,只需要Proxy集群重新发布一遍即可,使用方完全不需要关心,也就不存在推动升级的问题了。但是需要做好一点:发布过程中必须无损。这边应用时刻都在执行SQL,你发布不能导致应用执行SQL报错。

统一管控方面比较

Client方式要做统一管控,必须得进行升级,但是升级又是一个很耗时的推动过程。

Proxy方式在统一管控方式就容易的多,比如对SQL的限流,监控,告警等管控,是不需要客户端关心的。除了这些管控,还有一些其他的管控,比如异地多活场景下的禁写,禁读操作,都是管控的点。如果用Client方式确实不太好统一处理。

总结

今天主要给大家介绍了如何进行分库分表中间件的选型,不同的阶段其实适合不同的中间件。规模不大时建议用Client方式的中间件,使用简单,也没什么维护成本。规模大了后建议用Proxy方式的中间件,更方便统一管控和维护。

原创:架构摆渡人(公众号ID:jiagoubaiduren),欢迎分享,转载请保留出处。

本文已收录至学习网站 http://cxytiandi.com/ ,里面有Spring Boot, Spring Cloud,分库分表,微服务,面试等相关内容。

相关推荐

“你的朋友宁愿听你吐槽,也不想参加你的葬礼”

来源:这里是美国嗨,最近过得还好吗?美国君今天在逛论坛时刷到了一条很热的帖子,了解完背后的故事后顿时觉得很治愈,想分享给大家~今天立冬,希望这些也可以温暖到你们的冬天这是一个组织在伦敦一座桥上立的一块...

浏览器代理插件Proxy SwitchyOmega安装与使用

个人博客:无奈何杨(wnhyang)个人语雀:wnhyang共享语雀:在线知识共享Github:wnhyang-OverviewProxySwitchyOmega轻松快捷地管理和切换多个代理设置...

可靠的IP代理网站大盘点,你用过哪些?

在互联网时代,IP代理成为了很多企业和个人必不可少的工具。无论是为了提升网络安全,还是进行数据抓取,选择一个可靠的IP代理服务至关重要。本文将为大家盘点几家可靠的IP代理网站。1.711Proxy...

三层交换机Super vlan技术Arp-proxy转发收藏

一、作用隔离广播风暴防止病毒攻击控制端口二层互访二、用户需求用户多vlan多IP地址是同一个网段,实现彼此之间二层隔离个别VLAN之间有互访的需求(需要用到对应的subvlan开启ARP代理)...

Docker设置http proxy代理(dockerfile 代理)

需求...

ShardingSphere-Proxy分库分表以及多租户安装使用

需求:你提供SAAS服务,你有你有2个租户(商户),各自的数据进各自的库,而你不希望你的微服务java里默认配置多个租户数据源,数据连接池太多,而且后面动态增加也不方便,诸如此类很多问题。...

nginx proxy_pass 头信息处理(nginxproxypass原理)

简介有些应用需要验证请求和响应的头部信息。而现在的架构基本都会在前端使用nginx进行转发。如果没有处理头部信息,就会导致信息丢失,无法通过验证,出现403等请求异常的情况。...

对话面试官:动态代理是如何实现的?JDK Proxy 和 CGLib 有啥区别?

推荐学习...

Proxy-Lite实战:3步部署+2个案例,轻松掌握轻量级网页自动化

大家好,我是何三,80后老猿,独立开发者一、Proxy-Lite模型概述...

Telegram代理指南:好处及设置步骤

Telegram是一款广受欢迎的通讯软件,它能让你和世界各地的用户进行交流。然而想要访问Telegram却受到限制怎么办?Telegram代理是一个完美的解决方案,它不仅能帮助用户绕过地理限制,还能提...

会Python?那么你一定要试一试mitmproxy

mitmproxy是一款工具,也可以说是python的一个包,使用这个工具可以在命令行上进行抓包(现在也可以在web页面上查看上抓的数据包了),还可以对所抓到的包进行脚本处理,非常有用。和...

IP地址与DNS是什么?搞懂它们,网络再也不卡!

今天聊聊很多人都会遇到的一个基础问题:IP地址和DNS。虽然这两个名词在我们日常上网时经常听到,但很多人可能对它们的具体含义和作用并不清楚。别担心,看完这篇文章你就能搞懂它们的区别和作用!IP地址,简...

十五张图带你快速入门 shardingsphere-proxy

ApacheShardingSphere是一款分布式的数据库生态系统,它包含两大产品:...

好玩的Docker之“NginxProxyManager”自动申请SSL证书教程

本内容来源于@什么值得买APP,观点仅代表作者本人|作者:BIGWEI1992前言:本人一个非著名不专业的业余玩家,也是靠着经常看各种大佬的视频教程学习进步。把自己学习到的一些知识,利用业余时间出一...

Proxy 与 Object.defineProperty 优劣对比?

答:1:Proxy的优势:Proxy可以代理整个对象,而Object.defineProperty只能代理对象的某个属性...