数据仓库面试题——介绍下数据仓库

> 本文由 [简悦 SimpRead](http://ksria.com/simpread/) 转码， 原文地址 [www.tuicool.com](https://www.tuicool.com/articles/iURB7rN)

可回答：对数据仓库的理解

问过的一些公司：京东，美团，网易，阿里 (2021.09)，网易有道 (2021.10)

参考答案：

数据仓库的发展大致经历了这样的三个过程：

简单报表阶段：这个阶段，系统的主要目标是解决一些日常的工作中业务人员需要的报表，以及生成一些简单的能够帮助领导进行决策所 需要的汇总数据。大部分表现形式为数据库和前端报表工具。

数据集市阶段：这个阶段，主要是根据某个业务部门的需要，进行一定的数据的采集，整理，按照业务人员的需要，进行多维报表的展现，能够提供对特定业务指导的数据，并且能够提供特定的领导决策数据。

数据仓库阶段：这个阶段，主要是按照一定的数据模型，对整个企业的数据进行采集，整理，并且能够按照各个业务部门的需要，提供跨部门的，完全一致的业务报表数据，能够通过数据仓库生成对对业务具有指导性的数据，同时，为领导决策提供全面的数据支持。

首先，我们先来看下数据库、数据集市、数据仓库以及数据湖的概念。

#### 1、什么是数据库？

数据库（Database）是按照一定格式和数据结构在计算机保存数据的软件，属于物理层。

最早期是广义上的数据库，这个阶段的数据库结构主要以层次或网状的为主，这是数据库的数据和程序间具备非常强的依赖性，应用有一定局限性。

我们现在所说的数据库一般指的是关系型数据库。关系数据库是指采用了关系模型来组织数据的数据库，其 以行和列的形式存储数据，具有结构化程度高，独立性强，冗余度低等优点 。

关系型数据库主要用于联机事务处理 OLTP（On-Line Transaction Processing），主要用于进行基本的、日常的事务处理，例如银行交易等场景。

#### 2、什么是数据集市？

数据集市是一种微型的数据仓库，它通常是有更少的数据，更少的主题区域，以及更少的历史数据，如果数据仓库是企业级的，那数据集市就是部门级的，一般数据集市只能为某个局部范围内的管理人员服务。

#### 3、什么是数据仓库？

数据仓库（Data Warehouse），可简写为 DW 或 DWH。它是为企业所有级别的决策制定过程，提供所有类型数据支持的战略集合。它是单个数据存储，出于分析性报告和决策支持目的而创建。为需要业务智能的企业，提供指导业务流程改进、监视时间、成本、质量以及控制。

数据仓库之父比尔 · 恩门于 1990 年提出数据仓库（Data Warehouse），数仓主要是为解决企业的数据集成与分析问题。数据仓库主要功能是将 OLTP 经年累月所累积的大量数据，通过数据仓库特有的数据储存架构进行 OLAP，最终帮助决策者能快速有效地从大量数据中，分析出有价值的信息，提供决策支持。自从数据仓库出现之后，信息产业就开始从以关系型数据库为基础的运营式系统慢慢向决策支持系统发展。

一句话总结： 数据仓库存在的意义在于对企业的所有数据进行汇总，为企业各个部门提供统一的， 规范的数据出口。

数据仓库相比数据库，主要有以下两个特点：

*   **数据仓库是面向主题集成的** 。数据仓库是为了支撑各种业务而建立的，数据来自于分散的操作型数据。因此需要将所需数据从多个异构的数据源中抽取出来，进行加工与集成，按照主题进行重组，最终进入数据仓库。
*   数据仓库主要用于支撑企业决策分析，所涉及的数据操作主要是数据查询 。因此数据仓库通过表结构优化、存储方式优化等方式提高查询速度、降低开销。

数据仓库与数据库的对比

<table><tbody><tr><td width="28%">维度</td><td width="35%">数据仓库</td><td width="37%">数据库</td></tr></tbody><tbody><tr><td width="28%">应用场景</td><td width="35%">OLAP</td><td width="37%">OLTP</td></tr><tr><td width="28%">数据来源</td><td width="35%">多数据源</td><td width="37%">单数据源</td></tr><tr><td width="28%">数据标准化</td><td width="35%">非标准化 Schema</td><td width="37%">高度标准化的静态 Schema</td></tr><tr><td width="28%">数据读取优势</td><td width="35%">针对读操作进行优化</td><td width="37%">针对写操作进行优化</td></tr></tbody></table>

#### 4、什么是数据湖？

在现在这个时代，数据对于企业而言，已经是一种重要资产。随着企业的不断发展，数据不断堆积，企业希望把生产经营中的所有相关数据都完整保存下来，进行有效管理与集中治理，挖掘和探索数据价值。而数据湖就应运而生。

数据湖是一个集中存储各类结构化和非结构化数据的大型数据仓库，它可以存储来自多个数据源、多种数据类型的原始数据，数据无需经过结构化处理，就可以进行存取、处理、分析和传输。数据湖能帮助企业快速完成异构数据源的联邦分析、挖掘和探索数据价值。

数据湖的本质，是由 “ **数据存储架构 + 数据处理工具** ” 组成的解决方案。

*   **数据存储架构** ：要有足够的扩展性和可靠性，可以存储海量的任意类型的数据，包括结构化、半结构化和非结构化数据。
*   **数据处理工具** ，则分为两大类：

*   第一类工具， **聚焦如何把数据 “搬到” 湖里** 。包括定义数据源、制定数据同步策略、移动数据、编制数据目录等。
*   第二类工具， **关注如何对湖中的数据进行分析、挖掘、利用** 。数据湖需要具备完善的数据管理能力、多样化的数据分析能力、全面的数据生命周期管理能力、安全的数据获取和数据发布能力。如果没有这些数据治理工具，元数据缺失，湖里的数据质量就没法保障，最终会由数据湖变质为数据沼泽。

数据仓库和数据湖的不同类比于仓库和湖泊：仓库存储着来自特定来源的货物；而湖泊的水来自河流、溪流和其他来源，并且是原始数据。

数据湖与数据仓库的对比

<table><tbody><tr><td width="18%">维度</td><td width="49%">数据湖</td><td width="33%">数据仓库</td></tr></tbody><tbody><tr><td width="18%">应用场景</td><td width="49%">可以探索性分析所有类型的数据，包括机器学习、数据发现、特征分析、预测等</td><td width="33%">通过历史的结构化数据进行数据分析</td></tr><tr><td width="18%">使用成本</td><td width="49%">起步成本低，后期成本较高</td><td width="33%">起步成本高，后期成本较低</td></tr><tr><td width="18%">数据质量</td><td width="49%">包含大量原始数据，使用前需要清洗和标准化处理</td><td width="33%">质量高，可作为事实依据</td></tr><tr><td width="18%">适用对象</td><td width="49%">数据科学家、数据开发人员为主</td><td width="33%">业务分析师为主</td></tr></tbody></table>

#### 5、数据仓库特点

#### 1）数据仓库是面向主题的

数据仓库中的数据是按照一定的主题域进行组织的，每一个主题对应一个宏观的分析领域。数据仓库排除对于决策无用的数据，提供特定主题的简明视图。

举个例子：

比如说一个公司会有很多的部门，不同的部门都会去数据仓库拿数据，做自己要做的报表，我们把这一个部门或是某一个业务，也就是独立从我们数据仓库中获取数据的单元，把它称作为主题，也可以理解为一个主题就是一个部门。这个部门作为一个主题会从数据仓库总去获取数据，用于完成需要的报表。

#### 2）数据仓库是集成的

数据仓库中的数据不是一开始就是在里面的，而是从各个分散的数据库中抽取出来的。但是有一个问题，就是这些来自不同数据库的数据会有重复和不一样的地方，如字段的同名异议、异名同义、单位不统一，字长不统一等。所以在集成的过程中，还要对数据进行清洗、规划、去敏等操作。

#### 一句话就是，数据仓库是对企业内不同业务部门数据完整集合，而且还是处理过的数据。

#### 3）数据仓库的数据是稳定的

数据仓库中的数据主要是为了给企业做决策时分析使用，涉及的主要是对数据的查询，一般情况下不会对数据进行修改，如果数据仓库中的历史数据超过存储期限，则会直接删除。

因为数据仓库涉及的操作主要是查询，所以它的系统要比数据库简单很多，但是数据仓库涉及到查询的数据量一般都很大，所以在数据查询就有更高的要求。

#### 一句话记忆，数仓里不存在数据的更新和删除（不是指数据到期的删除）操作。

#### 4）数据仓库中的数据是随时间变化而变化的

数据仓库中的数据不可更新是针对应用来说的，也就是说，数据仓库的用户进行分析处理是不进行数据更新操作的。但并不是说，在从数据集成输入数据仓库开始到最后被删除的整个生存周期中，所有的数据仓库数据都是永远不变的。

数据仓库的数据是随着时间变化而变化的主要表现如下：

*   数据仓库随着时间变化不断增加新的数据内容。数据仓库系统必须不断捕捉 OLTP 数据库中变化的数据，追加到数据仓库当中去，也就是要不断的生成 OLTP 数据库的快照，经统一集成增加到数据仓库中去；但对于确实不在变化的数据库快照，如果捕捉到新的变化数据，则只生成一个新的数据库快照增加进去，而不会对原有的数据库快照进行修改。
*   数据库随着时间变化不断删去旧的数据内容 。数据仓库内的数据也有存储期限，一旦过了这一期限，过期数据就要被删除。
*   数据仓库中包含有大量的综合数据，这些综合数据中很多跟时间有关，如数据经常按照时间段进行综合，或隔一定的时间片进行抽样等等。这些数据要随着时间的变化不断地进行从新综合。因此数据仓库的数据特征都包含时间项，以标明数据的历史时期。

#### 一句话理解，数仓里会完整的记录某个对象在一段时期内的变化情况。