4.4 数据架构

一句话讲明白

数据架构管的是数据"从生到死"的全过程:怎么产生、怎么流转整合、怎么用、怎么归档销毁,并把这些安排成合理的层次与库。

生活类比

家里收纳:早期东西少,一个抽屉搞定(单体应用时代);后来东西多了,发现找不到,于是买了一个带标签的储物间,按"季节/品类"统一归类,专门用来翻账本查历史(数据仓库时代,OLAP 分析);现在东西多到爆,还要求实时知道"冰箱里还剩几个鸡蛋",就上智能货架+传感器+自动盘点(大数据时代,批流一体、分布式)。

正经定义

数据架构描述组织的逻辑和物理数据资产以及相关数据管理资源的结构,主要内容涉及数据生命周期之上的架构规划,包括数据的产生、流转、整合、应用、归档和消亡。

拆解与流程

一、发展演进(三时代)

时代 时间/背景 特点
单体应用架构时代 20 世纪 80 年代信息化早期 财务软件、OA 等单体应用;数据管理概念萌芽,架构=数据模型 + 数据库设计
数据仓库时代 系统数据积累、信息孤岛出现 面向主题、集成、用于分析;主要应用是 OLAP,侧重决策支持;关注数据模型 + 数据分布和流向
大数据时代 大数据技术兴起 从批处理到流处理、从大集中到分布式、从批流一体到全面实时

二、基本原则(5 条,必背)

  1. 数据分层原则:按生命周期分层,明确各层定位、建设目标、设计方法、存储策略与对外服务原则。
  2. 数据处理效率原则:不是追求最高效率,而是追求合理——本质是"满足效率要求的成本合理化";关键是尽量减少明细数据的冗余存储和大规模搬迁。
  3. 数据一致性原则:不一致性主要源于不同层次的冗余存储和按不同业务逻辑的重复加工。
  4. 数据架构可扩展性原则:建立在分层定位合理性之上,同时考虑数据存储模型与存储技术。
  5. 服务于业务原则:一切最终服务于业务,必要时可为业务体验放弃前述某些原则。

三、典型数据资源库(五库)

源数据库(业务源端,含外部部门数据)→ 交换库(用 OGG 等同步/镜像方式接入,降低对源库影响)→ 过渡库(OGG for Bigdata、Sqoop 抽取,落在 Hadoop 平台,提高批量处理性能)→ 整合库(对照、转换、清洗、聚集,形成统一库表)→ 主题库(即服务库,从整合库提取,支撑应用与可视化)。

考试怎么考

易混辨析

对比 数据仓库时代 大数据时代
典型技术 OLAP、主题分析 批处理/流处理、分布式
关注点 数据模型 + 分布与流向 实时性、海量、多样性
解决问题 信息孤岛、决策支持 灵活高效挖掘价值

一秒记忆

"分层、效率、一致、扩展、服务业务"——数据架构五原则; 三时代:"单体 → 仓库 → 大数据",记作 "一个抽屉 → 一个储物间 → 一个智能仓"。

相关