网易首页 > 网易号 > 正文 申请入驻

在实时场景,该用时序数据库实时数据库还是实时数仓你分得清吗?

0
分享至

以下文章来源于ITPUB,作者祁国辉

时序数据库, 实时数据库, 实时数据仓库, 此三者,差之毫厘,失之千里。若弄不清楚它们之间的差别,实时场景中与客户交流, 就容易出现鸡同鸭讲,驴唇不对马嘴。

为满足实时响应而生的实时数据库

实时数据库(Real-time Database)是一种能够实时处理数据查询和更新的数据库。这类数据库的目标是在数据产生或更新后尽快地提供数据访问。实时数据库具有低延迟和高并发性能,通常应用于需要实时查询和数据分析的场景,如交通控制系统、在线游戏或者金融交易系统等。

一般而言, 实时数据库因为对响应有极高要求, 所以使用全内存的架构比较多,所以也有不少内存数据库也可以看作是实时数据库。

◆实时数据库典型场景

交通控制系统:

需求:交通控制系统需要实时监控交通数据,如车辆位置、速度和路况信息,并根据实时数据进行智能调度和优化。

性能指标:数据读取延迟、数据更新延迟、查询并发能力、分布式事务性能。

在交通控制系统场景中,实时数据库的数据读取延迟、数据更新延迟、查询并发能力和分布式事务性能是关键指标。这些指标能确保实时数据库能够满足高并发、低延迟的实时数据处理需求。

以高铁的列车控制系统来说, 列车时速超过200km/小时, 司机已经难以辨别地面信号进行控制, 所以所有的突发情况, 都需要通过对路况,车辆运行情况等进行实时判断,然后快速做出响应。

在线游戏:

需求:在线游戏需要实时处理大量玩家数据,如角色状态、游戏排行榜和虚拟物品交易等,以保证游戏体验和公平性。

性能指标:数据读取延迟、数据更新延迟、查询并发能力、分布式锁性能。

因IOT而大行其道的时序数据库

时序数据库(Time Series Database)是一种专门用于处理时间序列数据的数据库。时间序列数据是按照时间顺序进行存储和管理的数据,通常包括时间戳和相应的数据值。时序数据库具有高效的数据插入和查询性能,以及良好的数据压缩能力。它们通常用于存储和分析时间序列数据,如金融市场数据、物联网传感器数据或系统性能指标等。

例如下图是某支股票一天的实时走势图,纵坐标是股价,横坐标是时间,这条线就是一条时间序列。可视化之后我们得以直观地观测股票价格。

某支股票一天的实时走势图

时序数据库一般是无 Schema 的。类似于关系型数据库中的 table 被成为 度量数据集(measurement)。一个数据集包含如下概念:

1.数据点(point),类似于关系型数据库中的 row;

2.时间戳(timestamp),表征采集到数据的时间点;

3.维度列(tag),代表数据的归属、属性,表明是哪个设备/模块产生的,一般不随着时间变化,供查询使用;

4.指标列(field),代表数据的测量值,随时间平滑波动。

从概念上讲,你可以将 measurement 视为一个SQL表,其中主索引始终是时间。tags和fields是表中的有效列。tags一般采用倒排索引。

◆时序数据库典型应用场景

物联网传感器数据分析:

需求:物联网设备产生大量的传感器数据,需要进行实时存储、查询和分析,以监控设备状态、检测异常和优化设备性能。

性能指标:数据插入速度、数据压缩率、时间序列查询速度、时间窗口聚合性能。

在物联网传感器数据分析场景中,需要关注时序数据库的数据插入速度、数据压缩率、时间序列查询速度和时间窗口聚合性能。这些指标能帮助确保数据能够快速地存储和检索,并且占用较少的存储空间。

工业时序数据本身存在的特点。它不仅有传统大数据的特征,如数据量大(海量性)、数据上报频繁(高频性),对实时性、准确性的要求也越来越高。

某风能发电企业有超过 2 万个风能发电机,一个风机有 120 - 510 个传感器,采集频率高达50 Hz,也就是每个传感器可达到 1 秒 50 个数据点的采集峰值,总量每秒采集 5 亿个点的数据,吞吐量极大,且因为有用数据做监控和报表等需求,实时性要求高。理想的数据库应做到写入及聚合查询低延迟,例如查询某段时间内的风速。此外,这些数据还具有价值密度低的特点,因此也应强调高压缩率,降低企业存储成本。

金融市场数据分析:

需求:金融市场产生大量的实时交易数据,需要进行实时存储、查询和分析,以进行市场监控、交易策略优化和风险管理。

性能指标:数据插入速度、数据压缩率、时间序列查询速度、滚动聚合性能。

为满足实时业务分析和决策而产生的实时数据仓库

实时数据仓库(Real-time Data Warehouse)是一种能够实时获取、存储和分析数据的数据仓库。与传统数据仓库不同,实时数据仓库支持实时数据处理和实时数据分析。实时数据仓库通常包含一组工具和技术,如数据集成、数据存储和实时分析引擎等。这类数据仓库适用于需要快速分析和决策的场景,如实时个性化推荐、金融风险管理或物联网分析等。

◆实时数据仓库典型场景

实时数据仓库典型场景-实时个性化推荐:

需求:实时个性化推荐系统需要实时获取用户行为数据,如浏览记录、购买记录和评价信息,并进行实时分析和模型更新,以提供精准的个性化推荐。

性能指标:数据导入延迟、数据查询延迟、实时聚合性能、实时模型更新速度。

实时数据仓库典型场景-金融风险管理:

  • 需求:金融风险管理系统需要实时获取金融交易数据和市场数据,并进行实时分析和监控,以及时发现和预防潜在风险。
  • 性能指标:数据导入延迟、数据查询延迟、实时报表生成速度、实时数据挖掘性能。

对于实时个性化推荐场景,实时数据仓库需要具备较低的数据导入延迟、数据查询延迟、实时聚合性能和实时模型更新速度。这些指标能确保实时数据仓库能够支持实时数据处理和分析,从而为用户提供精准的个性化推荐。

三者之间的联系与区别

数据类型和处理:时序数据库主要关注时间序列数据,而实时数据库和实时数据仓库则关注实时数据处理和分析。实时数据库主要用于实时查询和数据更新,而实时数据仓库则是在数据仓库的基础上增加了实时数据处理和分析的能力。

应用场景:时序数据库适用于处理和分析时间序列数据的场景,如物联网数据分析和金融市场分析等。实时数据库适用于需要实时查询和数据更新的场景,如交通控制系统和在线游戏等。实时数据仓库适用于需要实时获取、存储和分析数据的场景,如实时个性化推荐和金融风险管理等。

技术架构:时序数据库、实时数据库和实时数据仓库在技术架构上也有所不同。时序数据库通常使用专门针对时间序列数据的数据结构和存储技术;实时数据库则关注低延迟和高并发性能;实时数据仓库则包含数据集成、数据存储和实时分析引擎等组件。

数据分析和查询能力:时序数据库主要针对时间序列数据的查询和分析,例如滚动聚合、时间窗口查询等。实时数据库注重实时查询和数据更新,例如实时查询在线用户的信息或实时更新游戏分数等。实时数据仓库则提供实时数据处理和分析能力,例如实时聚合、实时报表和实时数据挖掘等。

数据延迟:时序数据库通常对数据延迟的要求较低,因为其主要关注时间序列数据的长期趋势和模式。而实时数据库和实时数据仓库则注重数据的实时性,尽量减小数据产生和更新到数据访问之间的延迟。

扩展性:时序数据库、实时数据库和实时数据仓库在扩展性方面也有不同的考虑。时序数据库通常关注数据的高效插入和查询,因此在分布式系统中可能采用数据分区和数据复制等技术。实时数据库则注重低延迟和高并发,可能采用分布式事务和分布式锁等技术。实时数据仓库则关注实时数据处理和分析的扩展性,例如采用流式计算框架和分布式存储等技术。

通过对实时数据库,时序数据库,和实时数据仓库的分析,我想大家会对这三种数据库的使用场景有了更进一步的了解,三者之间,有相通之处在于,都是和时间紧密耦合,但是针对不同的细分场景,在细分场景下由于需求有细微差异,从而导致了不同的技术路线。当然,之后随着技术发展和用户需求的变化,肯定还会出现更多更新的融合场景,也可能会有更多的新产品出现

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
退休金待遇比较高的人,一般都是什么类型的人呢?

退休金待遇比较高的人,一般都是什么类型的人呢?

社保小达人
2024-06-08 12:57:46
佟大为:刘亦菲和彭冠英拍亲热戏时,第一次见面,眼神就能拉丝

佟大为:刘亦菲和彭冠英拍亲热戏时,第一次见面,眼神就能拉丝

秀语千寻
2024-06-08 23:00:41
彻底炸锅了,A股突发惊天大雷,近十万股东彻夜难眠!

彻底炸锅了,A股突发惊天大雷,近十万股东彻夜难眠!

静守时光落日
2024-06-10 04:15:03
3条消息,俄罗斯有可能更麻烦!

3条消息,俄罗斯有可能更麻烦!

种花岛
2024-06-09 11:07:20
倪妮的性感实在高级,穿吊带镂空裙只遮三角区,布料太贴身

倪妮的性感实在高级,穿吊带镂空裙只遮三角区,布料太贴身

白宸侃片
2024-06-01 15:59:57
油价大跌4毛1!6月10日调价后92号汽油价格,鱼价、饲料价格如何

油价大跌4毛1!6月10日调价后92号汽油价格,鱼价、饲料价格如何

猪友巴巴
2024-06-09 15:35:02
一干部任上被查,涉嫌严重违纪违法

一干部任上被查,涉嫌严重违纪违法

锡望
2024-06-09 10:37:33
脸都打肿了,葡萄牙1-2克罗地亚,看完比赛,不得不提的3个事实

脸都打肿了,葡萄牙1-2克罗地亚,看完比赛,不得不提的3个事实

百里无心
2024-06-09 11:25:33
河北邯郸市磁县发生2.5级地震,震源深度10千米

河北邯郸市磁县发生2.5级地震,震源深度10千米

界面新闻
2024-06-10 08:21:33
你遇见过天上掉馅饼的事吗?网友:那次凌晨的火车再也没碰见过

你遇见过天上掉馅饼的事吗?网友:那次凌晨的火车再也没碰见过

王二哥老搞笑
2024-05-31 15:23:39
2010年山东美女远嫁日本,为近50岁丈夫怀孕4次,婆婆送她2000万

2010年山东美女远嫁日本,为近50岁丈夫怀孕4次,婆婆送她2000万

四象八卦
2024-05-23 12:43:32
解放军中将突然去世原因曝光,两女儿均在美国,其弟弟正赶往北京

解放军中将突然去世原因曝光,两女儿均在美国,其弟弟正赶往北京

求实者
2024-06-06 21:45:10
这样操作,你的钱才不会越来越毛

这样操作,你的钱才不会越来越毛

薛洪言
2024-06-09 09:00:16
大反转!皇马球迷辱华后续:中国博主关注大量辱华账号!隐瞒真相

大反转!皇马球迷辱华后续:中国博主关注大量辱华账号!隐瞒真相

风过乡
2024-06-09 09:56:19
广深第二条高铁将经过广东这个新一线城市,未来发展值得期待!

广深第二条高铁将经过广东这个新一线城市,未来发展值得期待!

乡野小珥
2024-06-10 07:50:08
日本投降后,苏联俘虏日军1万多年轻女兵:处理办法让日本胆寒!

日本投降后,苏联俘虏日军1万多年轻女兵:处理办法让日本胆寒!

云端书馆
2024-06-03 07:50:26
中国“软件”行业几乎全军覆没!

中国“软件”行业几乎全军覆没!

了不起的程序员
2024-06-09 09:08:24
家庭纠纷怎么能少了00后?主打的一个六亲不认!看完乳腺都通畅了

家庭纠纷怎么能少了00后?主打的一个六亲不认!看完乳腺都通畅了

热闹的河马
2024-06-10 06:54:12
王思聪晒千万布加迪跑车,疑正式定居日本,关注了多位日本女网红

王思聪晒千万布加迪跑车,疑正式定居日本,关注了多位日本女网红

牧歌侃娱
2024-06-08 12:59:05
三个女保姆伺候68岁土豪:虽然我们是保姆,但我们要干妻子干的活

三个女保姆伺候68岁土豪:虽然我们是保姆,但我们要干妻子干的活

户外阿崭
2024-05-31 13:29:47
2024-06-10 10:42:44
优炫软件
优炫软件
优炫软件官方自媒体宣传
1905文章数 85关注度
往期回顾 全部

科技要闻

苹果开发者大会今晚开幕,iOS 18即将登场

头条要闻

媒体:拜登不出席乌克兰和平峰会 按说可以捎带脚去

头条要闻

媒体:拜登不出席乌克兰和平峰会 按说可以捎带脚去

体育要闻

独行侠绿军会师总决赛 他成了最尴尬的人

娱乐要闻

汤唯抵达巴黎将担任奥运火炬手

财经要闻

三年没买房,省了不止一百万

汽车要闻

营收99亿亏损50亿+ 蔚来一季度财报出炉

态度原创

家居
游戏
时尚
艺术
房产

家居要闻

柔和婉转 让阳光洒满空间

《星际卡车司机》新增Xbox Series版本 9月发售

女人过了50岁又如何?学会这些日常穿搭,气质不比年轻人逊色

艺术要闻

穿越时空的艺术:《马可·波罗》AI沉浸影片探索人类文明

房产要闻

顶流地段+顶级户型!香港半山豪宅,已成为高净值人群的资产压舱石!

无障碍浏览 进入关怀版