网易首页 > 网易号 > 正文 申请入驻

博客数据库连接Elasticsearch用MySQL还是MongoDB更合适

0
分享至

若进行博客等文本类数据的读写以及搜索引擎连接的解决方案对比,这就包括了搜索引擎数据同步,文章属性、文章内容、文章内图片以及图片属性的存储和查询,可以肯定的下结论:MongoDB的解决方案中要远远好于MySQL的解决方案。

一、从开发工序角度

MySQL的文章读写方式

方式一:文章标题、作者、标签、时间和内容存关系表,图片存OSS,地址存关系表

上述方式因为OSS和MySQL没有事务关系,因此需要编辑文章过程中存储图片和存储草稿都是分开设计,后台写入是分开执行,查询过程更适合前端异步获取图片,另外OSS需要额外的访问授权。

最最关键的问题是OSS收费!

方式2:文章标题、作者、标签、时间和内容存关系表,图片存本地,地址存关系表,Nginx作为图片查询代理

上图中实线为写入过程,虚线为查询过程。写入本地文件的过程依然无法保证事务,因此仍需要后台分开执行,查询过程Nginx的业务授权非常麻烦,需要引入Openresty和授权服务器的对接,而且文件的存储存在文件数超过操作系统最大限制的可能,图片缺乏可靠性备份机制。

唯一的好处就是图片存储本地不用额外付费。

我们再看看MongoDB文章读写方式

如上图方式一:整存整取,MongoDB可以将文章标题、作者、标签、时间和内容,图片存在一个集合中,那么图片为BSON格式,形成整存整取,若文章+图片的完整文档不超过16M,是BSON比较合适。 若文档因为图过大,超过16M,就使用方式二,使用MongoDB提供的GridFS插件存取。

方式一:从开发工序上最简单,但不适合太大图片,导致文档整体超过16M。

方式二:相当于需要访问不同的MongoDB数据库,从代码复杂度上就要更高,而且一致性控制不如方式一好。

其他优势:这两种方式都可以得到MongoDB的统一访问控制保护。这两种方式都使图片通过副本集实现可靠性备份。

但最最关键的是没有MySQL变扭的超出技术范围的架构考虑,到底用OSS要收费,还是用Http代理的免费模式,容忍可靠性、复杂性及安全性问题超级大的情况。

二、从性能角度看

1、文章插入性能

从目前MongoDB4实测情况看,给定时间段内数据写入量级越大,MongoDB的完成时间就比MySQL的完成时间越短。因此博客网站平台或者博客爬虫系统,写入的数据量特别大的情况下,MongoDB可以提供更优越的负载能力。

2、伸缩性

MongoDB和MySQL都可以进行数据库级的内存缓存,但是MongoDB可以将文档最大可能的缓存在内存中,得到最优的性能表现。若内存不够的情况出现就会溢出到磁盘中,那么性能就会减弱,这个时候可以通过水平分区,实现更好的内存表现。

MySQL的分片必须通过自研或引入第三方的分片应用实现手动分片,即一张数据表迁移到不同MySQL库中,按照数据记录进行分表,最终达到分片应用对多库实现负载均衡的目的,这种方式的缺点就是实现分片的过程非常复杂和麻烦。

MongoDB的分片属于其核心架构之一,也是NoSQL天然所擅长的能力,因此MongoDB可以在用户不干预的情况下实现集合分片,这比MySQL的手动分片不知道要轻松多少。

上图中Mongos路由器作为接口,连接整个集群,将所有的读写请求指引到合适的分片上,配置服务器持久化分片集群的元数据,以及数据在分片之间进行迁移的历史信息,而且配置服务器本身也是高可靠的。

三、与Elasticsearch连接角度看

MySQL连接Elasticsearch

一种方式可以通过CDC(数据变更捕获)工具抓取binglog到Kafka,再由Kafka管道输出到Elasticsearch

另一种方式通过JDBC“轮询”数据库,再推送Elasticsearch

第一种方式在引入CDC抓取工具,例如debezium后,会让整个流程非常复杂,经历的环节过多,仍要控制好Kafka的按键分区和折叠模式,数据管道也要解决关系结构向文档结构的ETL过程。

当然方式一也可以不用Kafka,直接走Logstash管道的过滤通道,但是第三方CDC抓取工具就要再考虑一层与Logstash的对接过程。

第二种方式虽然简单,不过JDBC轮询对MySQL有不小的影响,而且业务表需要提供变化日志表,再有Logstash等清洗程序再做ETL合并同步,这个过程也不容易。

我们再看MongoDB连接Elasticsearch

通过mongo-connector可以轻松实现MongoDB到Elasticsearch的数据实时同步

mongo-connector通过监听oplog,非常类似MySQL CDC工具对binglog的监听,实时对数据进行采集并直接同步到Elasticsearch中,因为MongoDB和Elasticsearch都是无模式的文档型数据库,因此ETL过程可以由mongo-connector工具实现MongoDB集合向ES索引的无缝写入,会省去ETL过程很大的麻烦。

四、总结

从上面的架构描述上,其实已经强有力地论证了MongoDB无论作为存储文档型的博客文章也好,还是与其他专有搜索引擎同步也好,相对于MySQL,是更好的解决方案。

我是“读字节”,来自西安的技术创业者,专注大数据技术和分布式架构的解读、创作、咨询

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
英国首相苏纳克就污染血丑闻公开致歉

英国首相苏纳克就污染血丑闻公开致歉

新华社
2024-05-21 12:07:06
这个社会到底怎么了!

这个社会到底怎么了!

顾礼先生
2024-05-20 15:00:19
医院通知退核酸检测费市民怀疑是诈骗,医院回应:是真的

医院通知退核酸检测费市民怀疑是诈骗,医院回应:是真的

观威海
2024-05-21 09:48:29
伊朗总统直升机坠毁原因引关注

伊朗总统直升机坠毁原因引关注

环球时报国际
2024-05-21 08:08:17
断崖式专利差!6G技术美国占了35.2%,日本9.9%,中国是多少?

断崖式专利差!6G技术美国占了35.2%,日本9.9%,中国是多少?

莫将离
2024-05-20 22:36:28
刘和平:赖清德鬼扯!狡诈!猥琐!

刘和平:赖清德鬼扯!狡诈!猥琐!

直新闻
2024-05-20 20:23:53
女市委书记高速路上被警车别停,两名便衣下车对其进行搜身揩油

女市委书记高速路上被警车别停,两名便衣下车对其进行搜身揩油

神奇的锤子
2024-05-19 14:16:07
“凌晨都在接待购房人”,楼市新政后,部分楼盘“人山人海”,有楼盘周末开盘卖了近15亿元

“凌晨都在接待购房人”,楼市新政后,部分楼盘“人山人海”,有楼盘周末开盘卖了近15亿元

每日经济新闻
2024-05-21 00:18:15
周鸿祎探访京东总部感叹:刘强东是农村出来的苦孩子 吃过苦

周鸿祎探访京东总部感叹:刘强东是农村出来的苦孩子 吃过苦

快科技
2024-05-20 18:31:31
汪峰520官宣,森林北骑马炫耀,披5千围巾,女粉丝却集体取关

汪峰520官宣,森林北骑马炫耀,披5千围巾,女粉丝却集体取关

红大娘娱乐
2024-05-20 18:30:55
权力抓着店铺招牌不放,不仅增加了制度成本,还破坏了营商环境

权力抓着店铺招牌不放,不仅增加了制度成本,还破坏了营商环境

火星宏观
2024-05-21 06:30:02
伊朗总统刚出事,中美俄之间的差别就显现出来了,普京办事可真绝

伊朗总统刚出事,中美俄之间的差别就显现出来了,普京办事可真绝

天择杂谈
2024-05-21 00:10:55
799克黄金被制成挎包链条入境被查,网友:神操作

799克黄金被制成挎包链条入境被查,网友:神操作

三月柳
2024-05-20 15:20:54
李嘉诚:内地刚推最强救市政策就降价1/3卖房,判断房价从未失误

李嘉诚:内地刚推最强救市政策就降价1/3卖房,判断房价从未失误

大风文字
2024-05-21 06:28:30
87年打工我睡火车站,醒来身边躺个姑娘,离开时她塞给我一张纸条

87年打工我睡火车站,醒来身边躺个姑娘,离开时她塞给我一张纸条

小月文史
2024-05-20 17:21:54
泽连斯基说:曾饱受俄罗斯侵略的大国,居然在积极的支持俄罗斯!

泽连斯基说:曾饱受俄罗斯侵略的大国,居然在积极的支持俄罗斯!

翻开历史和现实
2024-05-20 12:47:08
赵丽颖古早黑历史曝光,惊人往事让人不敢相信,疑似没文化还当三

赵丽颖古早黑历史曝光,惊人往事让人不敢相信,疑似没文化还当三

花哥扒娱乐
2024-04-18 22:17:33
历史重演..李哥曾因无力偿还3200万失去米兰所有权,结束中资时代

历史重演..李哥曾因无力偿还3200万失去米兰所有权,结束中资时代

直播吧
2024-05-21 11:46:16
曝45岁伏明霞离婚,净身出户原因揭晓,71岁百亿丈夫只说6个字

曝45岁伏明霞离婚,净身出户原因揭晓,71岁百亿丈夫只说6个字

深度知局
2024-05-20 19:25:53
总结中国社会的四个潜规则:术不贱卖、道不轻传、师不顺路、医不叩门

总结中国社会的四个潜规则:术不贱卖、道不轻传、师不顺路、医不叩门

老郭在学习
2024-05-20 18:53:44
2024-05-21 15:02:44
读字节
读字节
大数据,软件架构的深度解读
11文章数 85关注度
往期回顾 全部

科技要闻

理想业绩下滑:纯电车跳票 好日子告一段落

头条要闻

检察官自称诬陷了一名公安局副局长 致其获刑2年6个月

头条要闻

检察官自称诬陷了一名公安局副局长 致其获刑2年6个月

体育要闻

兄弟们,为了我,拿下冠军吧!

娱乐要闻

杨洋乔欣聊天记录曝光!还牵扯张天爱

财经要闻

重营销轻研发 “扫地茅”股价已跌去78%

汽车要闻

四排八座纯电MPV/续航超过800km 翼真L380开启预订

态度原创

手机
游戏
艺术
教育
公开课

手机要闻

HTC One X怀旧体验:这款手机就就像是HTC命运的缩影

彭昱畅PK管泽元余霜:DNF手游微综艺今晚高能来袭!

艺术要闻

挖掘艺术界未来的璀璨星辰 | 莱俪青年艺术奖获奖艺术家邓启鹏

教育要闻

【李自然说】穿越回去当自己的爹会发生什么?

公开课

近视只是视力差?小心并发症

无障碍浏览 进入关怀版