6.3 数据治理和建模
一句话讲明白
数据治理就是给数据立规矩、编目录、查质量、建模型,让组织里每个人都知道"有什么数据、在哪、什么意思、能不能信"。
生活类比
治理一座图书馆:
- 元数据 = 图书卡片(书名、作者、出版社、位置、摘要)——关于书的信息,不是书本身。
- 数据标准化 = 统一编目规则(中图法分类号、ISBN、著者号),否则每家分馆各编各的,书就找不到了。
- 数据质量 = 书页有没有缺、内容有没有错、上架及不及时。
- 数据建模 = 先画"图书馆要收哪些门类的书"(概念模型),再定"书架怎么分格、卡片怎么排"(逻辑模型),最后落实到"几号房间第几排第几层"(物理模型)。
正经定义
数据治理是开展数据价值化活动的基础,关注对数字要素的管控能力,覆盖组织对数据相关活动的统筹、评估、指导和监督等工作,需要重点关注元数据、数据标准化、数据质量、数据模型和数据建模等方面。
拆解与流程
一、元数据:关于数据的数据
信息对象可以是单一全文、目录、图像、数值型数据、多媒体,也可以是资源集合及其生产加工使用管理过程。
元数据体系(层次由底到顶):内容元数据(专门元数据、资源集合元数据)→ 管理元数据 → 服务元数据 → 元元数据(描述元数据的标记语言、格式语言、标识符、扩展机制、转换机制)。
五大作用:描述(数据用户之间的桥梁)、资源发现(像好的目录,帮用户快速检索确认资源)、组织管理数据资源(用元数据组织动态网页,可用软件工具自动析取)、互操作性(既被人也被机器理解,便于查找和转换)、归档和保存数据资源(跟踪来源、保护条件、保存历史)。
二、数据标准化:四阶段 + 四内容
主要内容:元数据标准化、数据元标准化、数据模式标准化、数据分类与编码标准化。
四个阶段:①确定数据需求(产生数据需求及相关的元数据、域值等文件)→ ②制定数据标准(现有标准不满足时建议新建/修改/封存,结果记录在数据字典中)→ ③批准数据标准(数据管理机构审查,一经批准将扩充或修改数据模型)→ ④实施数据标准(在各信息系统中实施和改进)。
三、数据质量
定义:在特定的业务环境下,数据满足业务运行、管理与决策的程度。衡量指标:完整性、规范性、一致性、准确性、唯一性、及时性。
- 描述:通过数据质量元素描述,分定量元素和非定量元素。
- 评价过程(5 步):确定适用的数据质量定量元素及数据质量范围 → 确定数据质量度量方法 → 选择并使用数据质量评价方法 → 确定数据质量结果 → 决定一致性并报告(定量结果 / 通过或不通过)。
- 评价方法:直接评价法(与内部或外部参照信息如理论值对比)和间接评价法(利用数据相关信息如数据源、采集方法的描述来推断评估)。
- 质量控制:前期控制(数据录入前的质量控制、录入过程中的实时质量控制)+ 后期控制(录入完成后的后处理质量控制与评价)。
四、数据模型:三层(必背)
1)概念模型(也称信息模型):按用户观点建模,不依赖于具体计算机系统,也不对应某个具体的 DBMS。基本元素:
| 元素 | 说明 |
|---|---|
| 实体 | 同类实例的抽象(学生实体、教师实体);具体的是实例,抽象的是实体 |
| 属性 | 实体的特性(学号、姓名、职称) |
| 域 | 属性的取值范围(性别的域为{男, 女}),元素必须同数据类型 |
| 键 | 能唯一标识每个实例的一个或几个属性的组合 |
| 关联 | 实体间关系:一对一、一对多、多对多 |
2)逻辑模型:在概念模型基础上确定数据结构,主要有层次模型、网状模型、关系模型、面向对象模型、对象关系模型,其中关系模型是目前最主要的一种。对应关系:实体→关系;属性→属性;关联→关系外键(被参照关系的主键转化为参照关系的外键);视图在概念模型中没有对应元素(按查询条件从现有关系或视图中抽取属性组合而成)。
完整性约束三类:实体完整性、参照完整性(关系模型必须满足)+ 用户定义的完整性(体现具体领域的语义约束)。
3)物理模型:在逻辑模型基础上考虑具体技术实现,真正实现数据在数据库中的存放。基本元素:表、字段、视图、索引、存储过程、触发器;包括确定表和列、定义外键、基于性能需求可能进行反规范化处理。
五、数据建模四步
数据需求分析(起点,采用数据流图作工具,强调数据流和处理过程)→ 概念模型设计(把现实需求抽象为信息世界结构,任务是确定实体和数据及其关联)→ 逻辑模型设计(把概念模型转换为关系模式,一个关系模式就是一张二维表)→ 物理模型设计(针对具体 DBMS,考虑命名、字段类型、编写存储过程与触发器)。
考试怎么考
- 题型:选择题高频;案例题可作为"数据治理问题"的答题素材。
- 教材原题:哪项不属于常见的数据质量评价过程 → C. 确定数据质量评价的第三方组织。
- 必背:元数据"关于数据的数据"及五大作用;标准化四阶段;质量六指标;模型三层及元素;完整性三类。
- 常见问法:
- "元元数据描述的是?" → 元数据本身(标记语言、格式语言、标识符、扩展机制等)
- "概念模型与具体 DBMS 的关系?" → 不依赖、不对应
- "关系模型中,实体转换为?" → 关系;"关联转换为?" → 外键
- "数据建模的起点是?" → 数据需求分析
- 陷阱词:把"物理模型"说成还包含实体和域(那是概念模型);把"参照完整性"说成可选(它是必须满足的)。
易混辨析
| 对比 | 概念模型 | 逻辑模型 | 物理模型 |
|---|---|---|---|
| 视角 | 用户/业务 | 数据结构(DBMS 无关偏逻辑) | 具体 DBMS 实现 |
| 元素 | 实体、属性、域、键、关联 | 关系、属性、视图 | 表、字段、视图、索引、存储过程、触发器 |
| 稳定性 | 最抽象、最稳定 | 中 | 最容易因性能需求变化 |
| 对比 | 直接评价法 | 间接评价法 |
|---|---|---|
| 依据 | 与内部/外部参照信息(理论值)对比 | 利用数据的相关信息(数据源、采集方法描述)推断 |
一秒记忆
"治 理 四 件 事:元 数 据、标 准 化、质 量、模 型。建 模 三 层:概(念)逻(辑)物(理),实 体 变 关 系,关 联 变 外 键,视 图 概 念 里 没 有。"