网易首页 > 网易号 > 正文 申请入驻

如何搭建企业大数据分析平台

0
分享至

首先,在构建大数据分析平台之前,我们要明确业务需求场景和用户的需求,通过大数据分析平台,获取有价值的信息,需要访问数据,明确基于现场业务需求的大数据平台具有基本功能,确定平台的流程使用大数据处理工具和框架。面对海量的各种来源的数据,如何对这些零散的数据进行有效的分析,得到有价值的信息一直是大数据领域研究的热点问题。

大数据分析处理平台整合目前主流的各有侧重点、各有侧重的大数据处理分析框架和工具,实现对数据的挖掘与分析,大数据分析平台所涉及的组件众多,如何将其有机结合起来,对大量数据进行挖掘是一个复杂的过程。在构建平台之前,明确业务需求以及用户需求,通过大数据分析平台,想要获得有价值的信息,需要访问数据,明确基于场景业务需求的基本功能,确定大数据处理工具和框架。

具体的整体架构可以由以下几个部分组成:

1、业务应用:其实指的是数据采集,你通过什么样的方式收集到数据。互联网收集数据相对简单,数据可以通过网页和应用程序收集。例如,许多银行现在都有自己的App。这便能够更深层次的分析用户行为数据,可以切分出来很多维度,做很细的分析。但对涉及离线的行业来说,数据采集需要借助各种业务系统来完成。

2、数据集成:实际上是指ETL,是指用户从数据源中提取所需数据,最终根据预定义的数据仓库模型将数据加载到数据仓库。而这里的Kettle只是ETL的其中一种。

3、数据存储:指的是建立数据仓库,简单地可分为业务数据层(DW)、指标层、维度层(DWA)。

4、数据共享层:在数据仓库和业务系统之间提供数据共享服务。Web Service和Web API ,表示一种数据之间的连接方式,以及一些其它的连接方式,这些方法可以根据自己的情况决定。

5、数据分析层:分析函数就相对比较容易理解了,就是各种数学函数,比如K均值分析、聚类、RMF模型等等。列存储使磁盘中的每个Page只存储单列值,而不存储整行值。这样压缩算法会更加高效。进一步说,这样能够减少磁盘的I/O、提升缓存利用率,因此,磁盘存储会被更加高效的利用。

分布式计算可以将需要大量计算能力解决的问题分为许多小部分,然后将这些部分同时交给许多计算机,然后将这些计算结果结合起来,以获得最终结果。综合这两种技术,就能够大幅度提高分析环节的效率。Yonghong MPP目前在这两个方面都做的最好。

6、数据显示:结果以何种形式呈现,实际上是数据可视化。在此推荐使用敏捷BI,与传统BI不同,它可以通过简单的拖拉方式生成报告,而且学习成本更低。

7、数据访问:相对简单,这取决于你如何查看这些数据。图中的示例是由于B/S架构,通过浏览器访问最终的可视化结果。

具体案例分析:

Smartbi银行应用产品整体解决方案:

● Smartbi在存储层上构建了数据分析平台,包括完整的数据平台、技术平台和业务平台。实质上就是建立具有数据共享能力的应用中心;

● Smartbi旨在连接数据中台和业务中台,实现应用满足技术中台要求的银行数据分析技术中台产品。它包含了可视化组件、数据分析组件、数据挖掘组件等,展示了数据背后的价值;

● 该产品配置后,连接银行已有数据,根据银行的个性化需求,可以方便地满足对自助分析、报表、数据挖掘、座舱管理等系统的需求。我们也抽象了些应用模板、数据模板。

该方案价值点:

● 管理驾驶舱:响应快速性、工作汇报便捷性;

● 数据准确性、分析即时性、风险预警性和辅助决策性;

● 自助分析:图表快速自助、简化工作流程、业务价值共享;

● 明细查询、节约维护成本、业务自助分析和数据快速排查。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
广厦队、上海队谁能夺冠?杨鸣给出了自己的看法

广厦队、上海队谁能夺冠?杨鸣给出了自己的看法

体育哲人
2026-05-24 09:46:44
突发!左跟腱撕裂,才狂砍50+17+6!NBA生涯彻底没了

突发!左跟腱撕裂,才狂砍50+17+6!NBA生涯彻底没了

体育新角度
2026-05-24 10:08:40
79岁黄百鸣法庭上求情,自曝患癌精神受打击,不想坐牢已决定退休

79岁黄百鸣法庭上求情,自曝患癌精神受打击,不想坐牢已决定退休

开开森森
2026-05-23 11:17:36
美国调整移民政策,申请绿卡须返回本国递交申请

美国调整移民政策,申请绿卡须返回本国递交申请

澎湃新闻
2026-05-23 12:24:21
新加坡媒体为何对《给阿嬷的情书》如此敏感?

新加坡媒体为何对《给阿嬷的情书》如此敏感?

手工制作阿歼
2026-05-24 05:40:18
70后夫妻“豪赌”芯片,三个月净赚了33亿

70后夫妻“豪赌”芯片,三个月净赚了33亿

毒sir财经
2026-05-23 22:52:50
福建本地人谈“毒杨梅”:果农们没必要委屈,你敢对妈祖发誓不知道泡药的事吗?

福建本地人谈“毒杨梅”:果农们没必要委屈,你敢对妈祖发誓不知道泡药的事吗?

风向观察
2026-05-23 21:39:35
监管形同虚设!杨梅泡药水事件,监管部门比黑心商家还要可恨

监管形同虚设!杨梅泡药水事件,监管部门比黑心商家还要可恨

爆角追踪
2026-05-23 16:14:07
燃油车集体大降价!45万元的奥迪降至26万元,宝马最高降超30万元!

燃油车集体大降价!45万元的奥迪降至26万元,宝马最高降超30万元!

新浪财经
2026-05-23 23:34:36
徐州名医去世!年仅56岁,当地患者悼念称其“贾半仙”“贾神仙”

徐州名医去世!年仅56岁,当地患者悼念称其“贾半仙”“贾神仙”

火山詩话
2026-05-24 07:36:55
4名赴泰失联近20天的中国男子被找到,原来都被骗至妙瓦底!

4名赴泰失联近20天的中国男子被找到,原来都被骗至妙瓦底!

听心堂
2026-05-23 20:47:44
周冬雨“拔萝卜”的瓜!

周冬雨“拔萝卜”的瓜!

八卦疯叔
2026-05-23 11:01:00
一找一个准!男子无意间救下的野猪变身“行走的挖笋雷达”,每年为他创收12万元

一找一个准!男子无意间救下的野猪变身“行走的挖笋雷达”,每年为他创收12万元

封面新闻
2026-05-23 22:34:20
北师大男生拒绝插空上桌吃饭,透露出的不是男女对立,是老师的无能!

北师大男生拒绝插空上桌吃饭,透露出的不是男女对立,是老师的无能!

人间运行手册
2026-05-23 08:01:42
爆锅了!一女子直言再穷,也绝不会去夜店做公主,炸出1.2万评论

爆锅了!一女子直言再穷,也绝不会去夜店做公主,炸出1.2万评论

火山詩话
2026-05-24 06:41:17
因妈妈姓氏太过特殊,全家一致同意“随母姓”,网友:换做是我,也随母姓

因妈妈姓氏太过特殊,全家一致同意“随母姓”,网友:换做是我,也随母姓

品读时刻
2026-05-24 09:01:06
西决G4伤情出炉!米切尔缺阵杰伦威出战成疑 福克斯哈珀确定能打

西决G4伤情出炉!米切尔缺阵杰伦威出战成疑 福克斯哈珀确定能打

罗说NBA
2026-05-24 06:49:25
香港航天员黎家盈:三娃妈妈,贤妻良母,老公这句话让她下定决心

香港航天员黎家盈:三娃妈妈,贤妻良母,老公这句话让她下定决心

普陀动物世界
2026-05-23 14:26:00
浮嶋敏被架空?助教曹阳场边指挥比赛!原因曝光:对手毕竟是日本

浮嶋敏被架空?助教曹阳场边指挥比赛!原因曝光:对手毕竟是日本

念洲
2026-05-24 08:19:59
窦靖童在节目中称那英“老师”,却遭那英反问“叫我啥?” 曝婴儿时期叫“老那”,平时叫“那英阿姨”

窦靖童在节目中称那英“老师”,却遭那英反问“叫我啥?” 曝婴儿时期叫“老那”,平时叫“那英阿姨”

天津生活通
2026-05-23 14:47:55
2026-05-24 11:07:00
Smartbi
Smartbi
更聪明的大数据分析软件
879文章数 109关注度
往期回顾 全部

财经要闻

爆炸致82人遇难 留神峪煤业存违法行为

头条要闻

媒体:毛焦尔上任后 匈牙利对乌克兰政策"又变回去了"

头条要闻

媒体:毛焦尔上任后 匈牙利对乌克兰政策"又变回去了"

体育要闻

少年意气,正在改变中国足球

娱乐要闻

《浪姐7》三公,王濛赢麻了,张月实惨

科技要闻

我戴着摄像头上班,正在帮AI抢走我饭碗

汽车要闻

2027款星途瑶光上市 把"全球车"标准卷进13万级市场

态度原创

家居
旅游
艺术
公开课
军事航空

家居要闻

低调传承 温润沉静

旅游要闻

看北京|北海太平花盛放,红墙白蕊引客寻香

艺术要闻

蒋中正3字题匾有错字,学书法,什么最重要?

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

特朗普再酝酿对伊打击 美伊谈判连放信号

无障碍浏览 进入关怀版