网易首页 > 网易号 > 正文 申请入驻

从离线到实时对客,湖仓一体释放全量数据价值

0
分享至

近期,巨杉数据库举行线上发布会,发布基于「湖仓一体」架构的v5.2版本,提升多项「实时」能力,诠释公司「释放全量数据价值」的价值主张。深度解析在数字化时代下,SequoiaDB如何围绕金融银行业的实时需求,全面提升结构化查询分析、非结构化存取、性能监控故障诊断及数据生命周期管理的四大能力,让全量数据的价值从「内部离线」向「实时对客」进一步释放。会中,赛迪咨询深度解读全国首个《湖仓一体技术研究报告》,详细介绍湖仓一体架构的兴起与未来发展方向。

巨杉基于数据湖的实时能力已经达到全球领先,技术实力得到了金融头部客户的认可。2012年巨杉数据库正式成立,并于2014年正式商用,产品已在超过100家金融银行客户规模化生产上线,其中不乏中国人保、民生银行、南方电网、中国太平保险等世界500强企业及广发银行、广东省农信、四川省农信、吉林省农信、恒丰银行、渤海银行、上海银行、上海农商银行、中国证券登记结算有限公司、海通证券等典型客户。在单一客户中SequoiaDB所支持的最大数据量,已经达到1.4万亿行、服务器规模超过400台、数据容量达数PB;SequoiaDB更服务于多个政府平台,如支持“粤省事”平台的医保、社保数据查询,这些数据也助力新冠核酸检测,帮助政府匹配核酸检测情况。

双核心:交易核心+数据核心,让全量数据实时可得

过去的10年,是信息化向数字化转型的10年,伴随数字化的深化发展,企业不但需要面向业务交易的信息化传统「交易核心」,同时更需要面向数据价值的「数据核心」。移动互联网、AI、IOT、大数据等的兴起与发展,数字化成为企业的全新课题,数据库是企业数字化转型的基石。

信息化时代,「交易核心」解决的是交易系统的问题,面向渠道、产品、客户、核算及清算等业务流程,确保业务闭环。其交易过程产生的海量流水数据,将成为「数据核心」的生产要素。

数字化时代,「数据核心」解决的是数据的采集、整理、聚合、运用等问题。数字化新核心将为信息化「交易核心」提供实时、跨业务的全量数据,以及基于数据的决策依据,实现数据价值的持续释放。

「实时」是「释放全量数据价值」的关键。10年前,巨杉数据库自萌芽之初就意识到,数据会成为社会发展关键的要素资源,需要提供面向全量数据的实时对客及高并发处理能力。业界遇到的普遍痛点是,面向「交易核心」的数据库因架构及技术限制仅能服务于指定的业务系统,且无法处理全量数据;以Hadoop为代表的大数据产品虽然可以存放全量数据,但无法提供实时处理能力,两者皆无法满足全量数据实时对客服务的发展需求。因此巨杉毅然开始了自研原生分布式数据库内核的道路,从「多模数据湖」、「实时数据湖」发展到「湖仓一体」,为客户提供「数据核心」所需的全量数据存储,实时对客服务,及基于统一数据源的分析能力,充分激活客户的离线数据。

四大实时能力提升,SequoiaDB v5.2释放全量数据价值

巨杉数据库基于湖仓一体架构的SequoiaDB v5.2版本进行了多项更新,此次发布会主要介绍了四大实时特性的能力提升。即将发布的SequoiaDB v5.2版本让全量数据的价值从「内部离线」向「实时对客」进一步释放。

查询更实时,所有数据可毫秒级访问。面向结构化数据,SequoiaDB v5.2版本提供深度的Join优化及列存微分区技术,在多个查询场景下,性能达到了毫秒级实时返回;分析场景中,性能更获得了10倍以上提升,让数据湖的查询分析更实时。

存取更实时,吞吐量提升30%以上。面向非结构化数据,巨杉通过「分片并发」及「可变分区大小」的技术,相比原有版本,SequoiaDB v5.2版本吞吐量提升30%以上,让数据湖的非结构化数据存取更实时。

诊断更实时,业务问题分钟级定位。发布会上,巨杉数据库发布SAC运维管理工具的重要特性更新,运行监控方面提供了全GUI的性能及故障分析能力,SAC基于分布式架构的实时诊断,可实现业务问题分钟级定位。

全量数据生命周期管理,提升人效及能效。部署架构方面,支持多配置硬件的混合部署,针对高并发数据与低并发数据,做到按需调度;面向横跨结构化、非结构化数据,提供一体化的开发及管理能力,提升人效及能效,在成本可控的前提下,实现全量数据实时可用。

技术迭代互补,而非替代

巨杉数据库深耕第三代分布式数据库技术,我们认为分布式数据库的星辰大海,绝不仅限于对交易核心数据库的替代。SequoiaDB的「湖仓一体」是从「多模数据湖」、「实时数据湖」结合「实时数仓」发展而来,为客户提供「数据核心」所需的全量数据存储,实时对客服务,及基于统一数据源的分析能力,充分激活客户的离线数据。SequoiaDB正通过湖仓一体架构提供面向多模、实时、分析的需求,与各类集中式及分布式交易核心数据库成为上下游合作伙伴,驱动数字化业务创新,释放全量数据价值

60年前诞生的第一代数据湖,以网格型、层次型数据库为代表,至今还有不少企业依然在使用;第二代数据库,以处理交易核心业务的关系型数据库为代表,是当前业界的主流。第一、第二代数据库大都基于集中式架构,因架构、数据结构的限制,导致大量的数据产生后,无法对业务流水、用户过程数据等全量数据做保存沉淀。往往需要将全量数据异步导出到大数据等后端平台,无法提供给终端用户实时查询分析,成为了仅对内部使用的离线数据,难以满足终端用户实时查询需求。

巨杉数据库SequoiaDB通过基于「湖仓一体」架构,支撑企业的「数据核心」。从企业多个「交易核心」数据库所产生的业务流水数据,可以以流式入湖的方式,秒级汇聚到SequoiaDB形成全量数据底座。

实时数据湖:为不同业务的跨系统查询,或多年流水数据获取,提供高并发的实时查询能力,所有数据实时可得。相比原来跨多系统进行数据异构访问的方式,SequoiaDB协助客户将业务响应时间从分钟、小时级延迟,到秒级延迟的改变,让用户满意度获得大幅提升。

多模数据湖:为影像系统、远程银行等需要大量管理非结构化数据的系统,提供多模数据湖技术重点优化非结构化对象数据的高并发实时存取能力,实现跨多数据类型的一体化管理,提升研发及运维的“人效”。

实时数仓:在数据湖内提供高性能分析引擎,可以协助企业基于准确而且统一的数据源,进行数据的实时探索及分析、统计、加工,降低数据再次流动的开销,提升数据处理“能效”,构建绿色低碳的数据基础设施。

培育数据沃土,打造产学研生态链

数据库的发展不但需要技术的创新迭代,同时也需要建立良好的技术生态。

凭借南沙“立足湾区、协同港澳、面向世界”的发展定位,在过去的一年间,巨杉数据库积极打造产学研生态链。通过分布式人才培养、高校协同、上下游企业赋能等,携手客户、合作伙伴、高校共同推进分布式技术的发展。目前,通过巨杉数据库培训认证的技术工程师已经超过一万人。

在高校协同方面,巨杉数据库先后在华南理工大学、深圳大学设立长期的「巨杉数据库奖学金」,推动中国分布式数据库人才培育。在产业生态方面,巨杉积极推动行业标准、团标及生态联盟的建设,致力于建设一个开放的基础软硬件企业级生态,特别是已经与鲲鹏、飞腾、海光、麒麟、统信等厂商的150多款信创上下游产品完成互认证。

发布会上,赛迪咨询也对全国首篇《湖仓一体技术研究报告》进行深度解读,将湖仓一体技术定义为未来发展趋势。

未来,巨杉数据库SequoiaDB也将持续聚焦于分布式特性,通过「湖仓一体」架构为客户打造「数据核心数据库」,成为数字化时代下坚实的数据基础设施。在“信创”产业中,坚持践行信息技术应用创新的理念,服务于企业全量数据实时业务场景,与各类集中式及分布式交易核心数据库成为上下游合作伙伴,驱动数字化的业务的创新发展,释放全量数据价值。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
剑桥研究撕开真相:你每天吃的蛋白质,可能只是"不饿死"的量

剑桥研究撕开真相:你每天吃的蛋白质,可能只是"不饿死"的量

爱医斯坦
2026-07-04 11:35:39
范志毅没说谎! 千万赞助款刚到位, 董路就拿100W分给月薪三千老兄弟

范志毅没说谎! 千万赞助款刚到位, 董路就拿100W分给月薪三千老兄弟

寒律
2026-07-04 10:24:35
保姆偷我10盒海参,我没报警辞退了她,她临走下意识看监控,我打开一看,瞬间瘫倒在地

保姆偷我10盒海参,我没报警辞退了她,她临走下意识看监控,我打开一看,瞬间瘫倒在地

背包旅行
2026-07-04 14:23:34
世界杯16强全部产生,1/8决赛对阵赛程出炉,预测这8支球队进8强

世界杯16强全部产生,1/8决赛对阵赛程出炉,预测这8支球队进8强

第五才子
2026-07-04 12:07:15
卖香皂的日本花王,凭什么成为半导体隐形玩家?

卖香皂的日本花王,凭什么成为半导体隐形玩家?

正解局
2026-07-03 16:52:54
拥抱球王!40岁佛得角门神哭了 封神之路:单场7扑+8扑 逼疯3冠军

拥抱球王!40岁佛得角门神哭了 封神之路:单场7扑+8扑 逼疯3冠军

念洲
2026-07-04 10:58:10
委内瑞拉20万中国人!18万来自同一个县城,这事儿你敢信?

委内瑞拉20万中国人!18万来自同一个县城,这事儿你敢信?

李云飞Afey
2026-07-03 23:15:40
2020年佛得角废除了体育总局,然后……

2020年佛得角废除了体育总局,然后……

熊太行
2026-07-04 11:01:14
台海和平新方案横空出世了:抛弃 “一国两制”的新模式行不行?

台海和平新方案横空出世了:抛弃 “一国两制”的新模式行不行?

史行途
2026-07-03 21:51:01
佛得角后卫卡布拉尔:我不敢相信自己能进个这么精彩的球

佛得角后卫卡布拉尔:我不敢相信自己能进个这么精彩的球

懂球帝
2026-07-04 16:08:33
高市早苗与莫迪“兄妹情深”却不肯喝印度水,漱口也不行,日媒爆料专机上装满了矿泉水

高市早苗与莫迪“兄妹情深”却不肯喝印度水,漱口也不行,日媒爆料专机上装满了矿泉水

极目新闻
2026-07-03 20:57:42
美军臆测解放军10月“收复台湾”,决定在韩国、日本、菲律宾与澳大利亚部署弹药战车等作战物资,一旦发生紧急情况,即可从本土调兵作战

美军臆测解放军10月“收复台湾”,决定在韩国、日本、菲律宾与澳大利亚部署弹药战车等作战物资,一旦发生紧急情况,即可从本土调兵作战

每日经济新闻
2026-07-04 16:59:47
普京1亿超级游艇突发北逃!两艘军舰死死护航,北约全线跟踪

普京1亿超级游艇突发北逃!两艘军舰死死护航,北约全线跟踪

一曲一场談
2026-07-04 16:25:26
全网追讨17年,竟是吴越精心编造的讽刺骗局

全网追讨17年,竟是吴越精心编造的讽刺骗局

东方不败然多多
2026-07-04 09:38:38
法国的国菜鹅肝,正在被中国的两个小县城悄悄打垮。

法国的国菜鹅肝,正在被中国的两个小县城悄悄打垮。

电动猫
2026-06-26 13:17:53
一中国女球迷在电梯间偶遇C罗,被单独拉到消防通道合影

一中国女球迷在电梯间偶遇C罗,被单独拉到消防通道合影

懂球帝
2026-07-03 18:39:21
奥莱报:阿根廷全队士气持续走低,对阵佛得角煎熬程度远超预想

奥莱报:阿根廷全队士气持续走低,对阵佛得角煎熬程度远超预想

砚底沉香
2026-07-04 11:57:09
不结婚,怎么解决生理需求?58岁的歌唱家张也,给出了最佳回答

不结婚,怎么解决生理需求?58岁的歌唱家张也,给出了最佳回答

悦君兮君不知
2026-07-04 00:01:28
演上了!美议员当众举起手机:去中国不带,去印度就带

演上了!美议员当众举起手机:去中国不带,去印度就带

观察者网
2026-07-03 22:53:06
火箭4换1交易:送芬尼-史密斯+3次轮去黄蜂 获1300万交易特例

火箭4换1交易:送芬尼-史密斯+3次轮去黄蜂 获1300万交易特例

醉卧浮生
2026-07-04 00:46:03
2026-07-04 18:55:00
飞总聊IT incentive-icons
飞总聊IT
互联网技术与商业分析
2593文章数 15403关注度
往期回顾 全部

科技要闻

韬定律论文V2版,充工程细节和实测数据

头条要闻

普京首次承认俄缺油 消息人士:拟从日本进口航空燃油

头条要闻

普京首次承认俄缺油 消息人士:拟从日本进口航空燃油

体育要闻

揭法国锋线最大优势 有人比姆巴佩还快?

娱乐要闻

白鹿打戏抠图惹非议 连累丞磊遭扒皮

财经要闻

韩国股市杠杆失控:450亿美元资金狂飙

汽车要闻

方程豹钛9内饰曝光 用上了长联屏设计/下半年上市

态度原创

健康
艺术
教育
手机
公开课

听说少吃点能抗衰老?专家讲解!

艺术要闻

风格独特,美国具象画家Alan Feltus

教育要闻

已知36➗△✖️3=4,求△=?

手机要闻

iPhone 18 Pro/Pro Max国行电池揭晓:5391mAh史上最大

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版