BI 中的数据仓库，一文通透

一谈到BI总是离不开数据仓库，有很多人不太明白数据仓库到底在商业智能BI项目中有什么作用，对数据仓库的作用有些争论，所以今天来聊聊数据仓库，探讨下数据仓库的真正用处。

数据仓库数据库类型的选择

从技术实现角度上来说，我们在通常的商业智能BI项目中，数据仓库大多构建在以关系型数据库为代表的数据库上。数据中台的数据仓库在底层是以大数据为基础架构的。

商业智能BI - 派可数据商业智能BI可视化分析平台

比如大数据的数据仓库Hive，就是构建在大数据Hadoop分布式基础架构之上。底层的HDFS分布式文件系统为海量数据提供文件式的存储，MapReduce为海量数据提供了计算能力。在Hive数据仓库上可以将Hive SQL转化成MapReduce任务与底层HDFS文件系统进行因映射和数据交互。

实现数据仓库的SQL

在商业智能BI的数据仓库中通过标准的SQL就可以进行数据的操作，数据中台大数据架构Hive数据仓库中是通过Hive SQL进行数据操作。但Hive SQL最初的设计目的就是为了让会SQL但是不会编程MapReduce的人也能使用Hadoop进行数据处理，所以在很多语法上不像标准的SQL那么灵活。所以商业智能BI的数据仓库和数据中台数据仓库在技术架构上，一个是基于传统关系型数据库来实现，一个是基于大数据来实现。操作底层数据的基本SQL有一些语法上的差异，但也大同小异。

数据仓库的分层实现

只要是数据仓库都会对数据进行分层处理和规划，比如在商业智能BI的数据仓库中我们讲到要构建ODS层，再构建DW里面的Dimension维度和标准的Fact事实层，到Data Mart 数据集市层，最后面向前端的商业智能BI可视化分析应用。数据中台数据仓库就提到了贴源层、统一数据仓库DW层、TDM、ADS层等等，最后也是面向应用端比如商业智能BI可视化分析。

数据仓库 - 派可数据商业智能BI可视化分析平台

这些分层从本质上有区别吗？并没有，都是在讲一些概念。比如标签层，不就是描述一个对象、一个实体的分析维度属性吗？应用数据ADS层不就是我们通常讲到的数据集市层做一些数据的特定加工，比如聚合、跨事实的聚合去组装各种分析的基础数据表吗？所谓的One ID 打通的不就是在一个或者多个业务流程中通过ID编码将各类数据串联起来做一个ID的对照和映射关系吗？本质上都在做什么事情？数据的标准化分类、归档，将不规范、不规则、不可分析的数据变成一种规范、规则、可分析的数据过程。这就是为什么像商业智能BI数据仓库要进行分层实现。

可以这么来说，十来年前商业智能BI的数据仓库怎么构建的，现在的数据中台数据仓库就是怎么构建的，一样的写SQL、做分层、打标签、建模型，并没有什么特殊的。

数据仓库的本质

数据仓库的本质就是完成从面向业务过程数据的组织管理到面向业务分析数据的组织和管理的转变过程，也是商业智能BI中数据仓库的主要作用。

商业智能BI数据仓库中，业务过程数据的组织管理实际上就是由各种业务系统来完成的，比如ERP、CRM、OA等各类业务系统，他们解决的是基本的业务流程管理。通过数据的录入 Insert、删除Delete、修改 Update、查询 Search 即用户在业务系统操作界面中做的增删改查操作，这些操作和业务系统底层的数据库例如MySQL、Oracle、SQL Server 完成了数据的交互，数据也沉淀在这些数据库中。

商业智能BI数据仓库 - 派可数据商业智能BI可视化分析平台

那么把各个业务系统的数据库比做是一个个粮食仓库的话，商业智能BI数据仓库就可以简单理解要把各个分散的粮食仓库的粮食搬运到一个更大的粮食仓库来集中管理。

不同的独立的粮食仓库中存储的粮食可能不一样，有的粮食坏了可能不能吃了，那么在汇总到大的粮食仓库过程中就需要把这些坏掉的粮食给去除掉。还有在不同的粮食仓库中可能也存了一些同样的粮食，那么在搬运到大的粮食仓库中，就需要去做一些归类合并，按照更好的一种陈列方式将粮食摆放整齐，最后对外支持的时候，就从这个大的粮食仓库直接取粮食就可以了。各类粮食都有，并且有很好的组织形式。这个存放粮食的大粮仓就是商业智能BI数据仓库。从小的粮食仓库搬运、清洗转换、加载粮食的过程就是ETL过程，Extraction 抽取、Transformation 转换、Loading 加载。

商业智能BI数据仓库 - 派可数据商业智能BI可视化分析平台

所以，商业智能BI数据仓库的本质还是一个数据库，它将各个异构的数据源数据库的数据给统一管理起来，并且完成了质量较差的数据的剔除、格式转换，最终按照一种合理的建模方式来完成源数据组织形式的转变，以更好的支持到前端的可视化分析。

在商业智能BI数据仓库的全周期流程中，有的时候可能用普通的汽车搬运粮食，有的可能用飞机运粮食，有的可能需要每小时运一次，有的可能就需要每天运一次或者每月运一次，这就是ETL工具的选择和数据抽取调度以及抽取频次的管理。

商业智能BI数据仓库 - 派可数据商业智能BI可视化分析平台

有的时候粮食比较多，一般的粮食仓库容量不够，或者要求效率更高，就会选择不同的粮食仓库架构来进行管理，这就是数据仓库技术框架的选择，是选择大数据技术框架，还是一般的技术框架就可以满足，最终决定了我们要建设这个数据仓库的投入成本。