6.3 数据治理和建模

一句话讲明白

数据治理就是给数据立规矩、编目录、查质量、建模型,让组织里每个人都知道"有什么数据、在哪、什么意思、能不能信"。

生活类比

治理一座图书馆:

正经定义

数据治理是开展数据价值化活动的基础,关注对数字要素的管控能力,覆盖组织对数据相关活动的统筹、评估、指导和监督等工作,需要重点关注元数据、数据标准化、数据质量、数据模型和数据建模等方面。

拆解与流程

一、元数据:关于数据的数据

信息对象可以是单一全文、目录、图像、数值型数据、多媒体,也可以是资源集合及其生产加工使用管理过程。

元数据体系(层次由底到顶):内容元数据(专门元数据、资源集合元数据)→ 管理元数据 → 服务元数据 → 元元数据(描述元数据的标记语言、格式语言、标识符、扩展机制、转换机制)。

五大作用:描述(数据用户之间的桥梁)、资源发现(像好的目录,帮用户快速检索确认资源)、组织管理数据资源(用元数据组织动态网页,可用软件工具自动析取)、互操作性(既被人也被机器理解,便于查找和转换)、归档和保存数据资源(跟踪来源、保护条件、保存历史)。

二、数据标准化:四阶段 + 四内容

主要内容:元数据标准化、数据元标准化、数据模式标准化、数据分类与编码标准化。

四个阶段:①确定数据需求(产生数据需求及相关的元数据、域值等文件)→ ②制定数据标准(现有标准不满足时建议新建/修改/封存,结果记录在数据字典中)→ ③批准数据标准(数据管理机构审查,一经批准将扩充或修改数据模型)→ ④实施数据标准(在各信息系统中实施和改进)。

三、数据质量

定义:在特定的业务环境下,数据满足业务运行、管理与决策的程度。衡量指标:完整性、规范性、一致性、准确性、唯一性、及时性。

四、数据模型:三层(必背)

flowchart LR A[概念模型<br/>用户观点/信息模型<br/>实体 属性 域 键 关联] --> B[逻辑模型<br/>层次 网状 关系 面向对象 对象关系<br/>关系 属性 视图] --> C[物理模型<br/>表 字段 视图 索引 存储过程 触发器]

1)概念模型(也称信息模型):按用户观点建模,不依赖于具体计算机系统,也不对应某个具体的 DBMS。基本元素:

元素 说明
实体 同类实例的抽象(学生实体、教师实体);具体的是实例,抽象的是实体
属性 实体的特性(学号、姓名、职称)
域 属性的取值范围(性别的域为{男, 女}),元素必须同数据类型
键 能唯一标识每个实例的一个或几个属性的组合
关联 实体间关系:一对一、一对多、多对多

2)逻辑模型:在概念模型基础上确定数据结构,主要有层次模型、网状模型、关系模型、面向对象模型、对象关系模型,其中关系模型是目前最主要的一种。对应关系:实体→关系;属性→属性;关联→关系外键(被参照关系的主键转化为参照关系的外键);视图在概念模型中没有对应元素(按查询条件从现有关系或视图中抽取属性组合而成)。

完整性约束三类:实体完整性、参照完整性(关系模型必须满足)+ 用户定义的完整性(体现具体领域的语义约束)。

3)物理模型:在逻辑模型基础上考虑具体技术实现,真正实现数据在数据库中的存放。基本元素:表、字段、视图、索引、存储过程、触发器;包括确定表和列、定义外键、基于性能需求可能进行反规范化处理。

五、数据建模四步

数据需求分析(起点,采用数据流图作工具,强调数据流和处理过程)→ 概念模型设计(把现实需求抽象为信息世界结构,任务是确定实体和数据及其关联)→ 逻辑模型设计(把概念模型转换为关系模式,一个关系模式就是一张二维表)→ 物理模型设计(针对具体 DBMS,考虑命名、字段类型、编写存储过程与触发器)。

考试怎么考

易混辨析

对比 概念模型 逻辑模型 物理模型
视角 用户/业务 数据结构(DBMS 无关偏逻辑) 具体 DBMS 实现
元素 实体、属性、域、键、关联 关系、属性、视图 表、字段、视图、索引、存储过程、触发器
稳定性 最抽象、最稳定 中 最容易因性能需求变化
对比 直接评价法 间接评价法
依据 与内部/外部参照信息(理论值)对比 利用数据的相关信息(数据源、采集方法描述)推断

一秒记忆

"治 理 四 件 事:元 数 据、标 准 化、质 量、模 型。建 模 三 层:概(念)逻(辑)物(理),实 体 变 关 系,关 联 变 外 键,视 图 概 念 里 没 有。"

相关