网易首页 > 网易号 > 正文 申请入驻

深度解读OceanBase CTO杨传辉雄文:我们很牛逼!竞争对手们不行不行的!

0
分享至

  最近好几个粉丝给我转了这篇发表在公众号OceanBase上的OceanBase CTO的雄文: OceanBase CTO 杨传辉: 下一代企业级分布式数据库的一体化设计 ,希望我能够帮忙解读一下。

  这篇文章写的很有意思,值得深入解读一下。 特别是对比市面上的竞争对手们的架构解读,就更有意思了。

  文章里面第一个观点是关于存储计算分离的看法。

  业界有三种存储计算分离方案:

  第一种本质是基于中间件分库分表,后端的数据库表示存储,中间件表示计算,这种方案是真正的存储计算分离吗? 显然不是,我也把这种方案叫做“伪存储计算分离”;

  第二种把系统划分为 SQL、事务和分布式 KV 层,分布式 KV 表示存储,SQL 和事务表示计算,存储和计算采用松耦合设计,这种方案能够解决可扩展的 SQL 处理问题,但每次操作都涉及到计算和存储之间的远程访问,且事务相关元数据存储到分布式 KV 表格中,增加了事务处理的额外开销,牺牲了性能;

  第三种采用紧耦合设计,SQL、事务和 KV 表示计算,KV 层数据块依赖的分布式文件系统表示存储。 这种方案来自于经典数据库的 IOE 架构,SQL、事务和 KV 层表示计算,底层依赖 EMC 的 SAN 存储。 Amazon Aurora 借鉴了经典数据库的存储计算分离架构,并在云原生环境下发扬光大,成为最终的事实标准。

  为了追求极致性能, 我认为,企业级分布式数据库应该向经典数据库学习原生存储计算分离技术 ,我推荐第三种方案。

  第二种最经典的代表是开源的TiDB数据库。下面是开源的TiKV,上面是SQL层,存储用KV,这样一来scale out的解决方案就会很方便。同样经典的就是TiDB模仿的对象,谷歌的Spanner,下面用的是BigTable上面再构建起Spanner层。

  这种做法最大的好处就是scale out做起来很好。最大的坏处,就是单节点性能不行。客户是不是愿意牺牲单节点性能,从而获得更好的scale out,我想这个问题见仁见智。每个人可能会有不同的观点。

  OceanBase CTO杨传辉是不赞同这种方式的,他觉得类似Aurora这样的计算存储分离才是应该追求的目标。OceanBase显然是冲着这条路去的。

  但是最开始的Aurora版,底下是一个大磁盘,上面是计算层。这个大磁盘同时具备了Log merge的能力,这样的做法性能是不是可以做到单节点极致其实也存疑。

  至于阿里巴巴另外一个数据库PolarDB,下面一个大磁盘接上单机MySQL,根本就没办法谈Scale out的事情了。PolarDB-X倒是更可能Scale out。但是早年的PolarDB-X上面三节点备份,下面文件系统再做三备份,一个记录写9份的骚操作,我没有在第二个数据库里见过。至于现在PolarDB-X演化的怎么样了,我也不好判断。

  OceanBase实际上怎么做的,技术细节也没有公布出来,所以我也很难下一个结论说,OceanBase的实际实现,能够同时满足单节点性能最优和很好的Scale out能力。这两者本身就是需要互相妥协的。做好了,需要极高的工程能力。

  下面是OceanBase CTO关于Paxos和Raft的看法:

  Raft 协议是 Paxos 协议的一种简化,原理是在 Paxos 协议基础上增加了一个限制,要求按顺序投票,也就意味着数据库 redo 日志顺序同步。Raft 协议的好处是实现简单,但每个分区只能顺序同步,并发同步性能较差,在弱网环境下事务卡顿现象概率较高;Paxos 协议支持乱序同步,虽然实现更加复杂,但并发同步性能好,在弱网环境下事务卡顿现象概率较低。Raft 类系统发明了一个概念叫:Multi-Raft,指的是每个分片运行一个 Raft 协议。这个概念和经典的 Multi-Paxos 是不对等的,Multi-Paxos 指的是一个分片内做并发,Multi-Raft 指的是多个分片之间做并发,如果单个分片写入量很大,仍然是会产生性能瓶颈的。

  Paxos 和 Raft 两种协议都是合理的做法,我个人建议采用并发性能更高的原生 Paxos 协议,这也是顶尖互联网公司在大规模分布式存储系统的主流做法,包括 Google Spanner,Microsoft Azure,Amazon DynamoDB,OceanBase 等等。

  
简单总结, Raft不如Paxos,因为并发性能高。顶尖互联网公司都用Paxos。这也很有意思。

  我们知道目前有两个数据库产品用了Raft,一个是阿里云的PolarDB。它用了自己改进的Paralle Raft协议。另外一个是TiDB。其他的数据库产品,尤其是顶尖互联网公司的,我知道的都是Paxos协议。

  这当然有历史原因,Raft出来的比较晚。但是也有现实的原因,Paxos协议的实现有很多很难的地方,一不小心就栽坑。我自己亲自经历的就看到过几个大Bug,导致数据丢失,都是Paxos协议实现细节上不对导致的。要实现一个好的Raft,估计难度上会相对容易一些。这当然也会成为某些项目的选择。

  有关HTAP的观点如下:

  HTAP 也是分布式数据库领域的一个热门概念。有两种做法:

  第一种是主备库物理隔离,主库做 OLTP,备库做 OLAP,主备库之间通过 redo 日志做同步,备库与主库之间有一定的延迟。第二种是在同一套引擎实现 OLTP 和 OLAP 混合负载,区分 OLTP 和 OLAP 请求所在的资源组,对资源组进行逻辑隔离。

  第一种方案实现相对简单,但由于产生了更多数据冗余,性价比较低;第二种方案实现相对复杂,但采用一体化设计,性价比更高。第二种方案来自经典数据库,例如 Oracle、SQL Server。

  我认为,企业级分布式数据库应该学习 HTAP 技术,采用第二种方案。

  HTAP就是一套数据库同时做两件事情,同时做TP和AP。这当然并不是什么新概念。在早先版本的TiDB里面,Raft增加了单纯的listener,作为备库,备库是列式的存储。有别于基于KV的OLTP workload的存储。

  TiDB的AP引擎是魔改ClickHouse得来的。主要利用列存进行AP处理。但是也可以在有必要的时候从行存中读取。总体来说,还是两套引擎。TiDB 5.0版本,据说引入了类似GreenPlum的MPP架构,使得其对OLAP的处理更上一层楼。

  当然总的来说,我还是不太清楚现在两套引擎各自为政,还是说已经开始融合了。但是不管怎么样,融合MySQL和ClickHouse这种事情,我这点Engineer水平是不敢去随波尝试的。

  PolarDB本身的AP能力很一般。PolarDB-X的最新版本,搞的有点像GreenPlum那样的MPP架构,但是从已经知道的细节来看,我也无法分辨这OLTP/OLAP是一套引擎还是两套引擎。

  OceanBase的理念和观点,在这篇文章里已经阐述的比较清楚了。但是我还是想等一篇公开发表在顶级会议上的论文,通过阅读论文可以让我有更好的理解和判断,现在OceanBase的架构到底怎么样。OceanBase CTO这篇技术雄文里面描述的东西是不是真的实现了,又是怎么样实现的。不然的话,我也不好判断,到底是不是真牛逼。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
研究发现:食用油一换,每年癌死少一半,提倡吃3种油,建议看看

研究发现:食用油一换,每年癌死少一半,提倡吃3种油,建议看看

路医生健康科普
2026-07-07 10:46:37
有性生活的注意!男人感染HPV后,身体有3个表现,教你一眼看出来

有性生活的注意!男人感染HPV后,身体有3个表现,教你一眼看出来

健康之光
2026-07-09 19:40:05
热议中国男篮再次开启超长集训:媒体人吐槽严重与世界脱轨

热议中国男篮再次开启超长集训:媒体人吐槽严重与世界脱轨

狼叔评论
2026-07-09 20:06:05
37℃高温来了,重庆最大露天赶场地汪家堡,食品安全谁来兜底!

37℃高温来了,重庆最大露天赶场地汪家堡,食品安全谁来兜底!

据说说娱乐
2026-07-10 03:41:35
老佛爷硬刚穆里尼奥!皇马两大重磅目标全泡汤,夏窗引援彻底崩盘

老佛爷硬刚穆里尼奥!皇马两大重磅目标全泡汤,夏窗引援彻底崩盘

奶盖熊本熊
2026-07-09 08:06:34
腾讯搬离“第一加班楼”后,科兴科学园租金回调40%,深圳科技新贵们接盘扩租

腾讯搬离“第一加班楼”后,科兴科学园租金回调40%,深圳科技新贵们接盘扩租

金融界
2026-07-09 09:25:08
幸好没卖红旗-9,美国五代机技术,没给韩国,却给了土耳其

幸好没卖红旗-9,美国五代机技术,没给韩国,却给了土耳其

风干迷茫人
2026-07-09 17:36:18
1975年“75·8”板桥水库溃坝事件完整详细经过

1975年“75·8”板桥水库溃坝事件完整详细经过

喜欢唱歌的老登
2026-07-07 18:00:08
影坛大姐大施南生传病重!5月露面消瘦拄拐杖…张艾嘉凝重奔医院

影坛大姐大施南生传病重!5月露面消瘦拄拐杖…张艾嘉凝重奔医院

ETtoday星光云
2026-07-09 10:38:42
约旦参战,一出手就击落五枚伊朗导弹

约旦参战,一出手就击落五枚伊朗导弹

烽火观天下
2026-07-09 12:45:10
水均益女婿CBA猛将,年薪百万夫妻美国逍遥

水均益女婿CBA猛将,年薪百万夫妻美国逍遥

精彩背后
2026-07-10 01:01:53
带老外插队被拘!北京这导游卑躬屈膝的样子,暴露了多少人的奴性

带老外插队被拘!北京这导游卑躬屈膝的样子,暴露了多少人的奴性

从零到一研究所
2026-07-09 14:01:28
有没有肠息肉,吃饭知道?医生:肠道有息肉的人,吃饭常有5异常

有没有肠息肉,吃饭知道?医生:肠道有息肉的人,吃饭常有5异常

芹姐说生活
2026-07-07 23:44:51
王刚没料到,离婚25年,成方圆会以这种方式,给自己上了生动一课

王刚没料到,离婚25年,成方圆会以这种方式,给自己上了生动一课

不似少年游
2026-06-10 16:52:44
名媛碎尸案近况:蔡母诈骗2745万逃匿,两任丈夫疑似恋爱关系!

名媛碎尸案近况:蔡母诈骗2745万逃匿,两任丈夫疑似恋爱关系!

BenSir本色说
2026-07-09 01:19:52
特朗普回国突然换掉新专机!伊朗官员:本可以直接打他,看在邻居面子上没动手

特朗普回国突然换掉新专机!伊朗官员:本可以直接打他,看在邻居面子上没动手

听心堂
2026-07-09 17:07:22
罗马里奥:不能让安帅继续执教巴西队,若我在足协会叫他滚蛋

罗马里奥:不能让安帅继续执教巴西队,若我在足协会叫他滚蛋

懂球帝
2026-07-09 22:01:06
李想官宣理想i9将于9月上市 外观图放出 还有Home版

李想官宣理想i9将于9月上市 外观图放出 还有Home版

CNMO科技
2026-07-09 18:14:06
世界杯决赛后10天举行!MLS公布全明星阵容:梅西+佛得角国脚

世界杯决赛后10天举行!MLS公布全明星阵容:梅西+佛得角国脚

全景体育V
2026-07-09 19:23:11
海军中尉、飞行员石少勇同志壮烈牺牲,年仅25岁,被评定为烈士

海军中尉、飞行员石少勇同志壮烈牺牲,年仅25岁,被评定为烈士

上观新闻
2026-07-08 06:53:29
2026-07-10 06:40:49
飞总聊IT incentive-icons
飞总聊IT
互联网技术与商业分析
2597文章数 15404关注度
往期回顾 全部

科技要闻

字节杀回来了!深度实测Seedream 5.0 Pro

头条要闻

法国2-0摩洛哥进四强 姆巴佩失点后传射登贝莱破门

头条要闻

法国2-0摩洛哥进四强 姆巴佩失点后传射登贝莱破门

体育要闻

信哈兰德吃小孩,还是信非洲足球会魔法?

娱乐要闻

陈翔发文“苍天饶过谁”登热搜,旧事再引关注

财经要闻

中国房地产十年

汽车要闻

悦己更悦人 阿维塔07L加长了更加上了豪华

态度原创

数码
教育
本地
健康
公开课

数码要闻

长城商逸R68机箱首发116元:网孔侧板、支持240mm水冷

教育要闻

“弯道超车”!华中师范大学推出在职研究生免联考项目

本地新闻

重庆人有自己的避暑桃花源 | 夏天就去「酉」风的地方!

三高、肥胖人群能吃粘食吗?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版