大数据治理体系.doc
《大数据治理体系.doc》由会员分享,可在线阅读,更多相关《大数据治理体系.doc(62页珍藏版)》请在咨信网上搜索。
数据治理体系 目 录 1. 范围 1 2. 规范性引用文件 1 3. 术语、定义和缩略语 5 4. 总体说明 8 4.1. 概述 8 4.2. 目标 9 4.3. 原则 9 5. 数据治理体系 10 5.1. 总体框架 10 5.2. 组织架构 11 5.2.1. 组织构成 11 5.2.2. 角色职责 12 5.3. 系统架构 12 5.3.1. 系统功能框架 12 5.3.2. 系统模块流程 14 5.4. 系统边界 15 5.4.1. 与企业级省大数据平台关系 16 5.4.2. 与对外能力开放平台关系 16 5.4.3. 与平台运维系统关系 16 6. 数据治理核心模块 17 6.1. 数据标准管理 17 6.1.1. 背景 17 6.1.2. 18 6.1.3. 目标及原则 19 6.1.4. 业务分类和定义 19 6.1.5. 技术功能要求 23 6.1.6. 本期建设范围及内容 26 6.1.7. 实施要求 27 6.2. 元数据管理 27 6.2.1. 背景和定义 27 6.2.2. 元数据运营模式 29 6.2.3. 元模型标准 29 6.2.4. 元数据运维 33 6.2.5. 本期重点建设内容 34 6.3. 数据质量管理 34 6.3.1. 与传统经营分析系统的区别 34 6.3.2. 范围和原则 35 6.3.3. 与其它功能模块的关系 36 6.3.4. 本期数据质量功能需求 38 6.3.5. 本期数据质量运维要求 39 6.4. 数据资产管理 40 6.4.1. 数据资产概述 40 6.4.2. 数据资产范围 41 6.4.3. 与其它功能模块的关系 42 6.4.4. 本期数据资产功能需求 42 6.4.5. 本期建设内容 45 6.5. 数据安全管理 45 6.5.1. 数据安全概述 45 6.5.2. 建设原则 46 6.5.3. 建设内容 46 6.5.4. 边界关系 46 6.5.5. 技术功能 47 6.5.6. 管理要求 48 7. 数据治理场景 52 7.1. 背景描述 52 7.2. 场景一:银行伪卡交易判别 52 7.2.1. 背景介绍 52 7.2.2. 场景描述 53 7.3. 场景二:银行手机贷业务 54 7.3.1. 背景介绍 54 7.3.2. 场景描述 54 8. 附录 55 附录一:数据标准框架 55 附录二:数据标准体系定义内容示例 56 前 言 本规范的制订是为了更好地实现中国移动企业级省大数据平台数据治理子系统的建设和管理,为省大数据平台上的各类基础技术和应用提供支撑,加强省大数据平台上数据的管控力度,增强数据治理子系统自身管理能力。 本规范主要包括以下几方面的内容:总体说明、数据治理体系、数据治理核心模块、数据治理场景等。 本规范是中国移动企业级大数据平台系列规范之一。该系列规范的结构、名称或预计的名称如下: 序号 标准编号 标准名称 [1] QB-Y-***-2015 中国移动企业级大数据平台目标架构 [2] QB-Y-***-2015 中国移动企业级省大数据平台技术规范总册 [3] QB-Y-***-2015 中国移动企业级省大数据平台技术规范分册 [4] QB-Y-***-2015 中国移动企业级省大数据平台技术规范技术方案分册 [5] QB-Y-***-2015 中国移动企业级省大数据平台技术规范数据模型分册 [6] QB-Y-***-2015 中国移动企业级省大数据平台技术规范外部接口分册 [7] QB-Y-***-2015 中国移动企业级省大数据平台技术规范服务开放分册 [8] QB-Y-***-2015 中国移动企业级省大数据平台技术规范服务开放技术方案分册 [9] QB-Y-***-2015 中国移动企业级省大数据平台技术规范数据治理分册 [10] QB-Y-***-2015 中国移动企业级省大数据平台技术规范数据治理技术方案分册 [11] QB-Y-***-2015 中国移动企业级省大数据平台技术规范运营维护分册 [12] QB-Y-***-2015 中国移动企业级省大数据平台技术规范安全管理技术方案 本规范由中移技﹝××﹞××印发。 本规范由中国移动通信集团公司业务支撑系统部提出,集团公司技术部归口。 本规范起草单位:中国移动通信集团公司业务支撑系统部。 本规范主要起草人:段云峰、汪新勇、赵静、周立、、任怡健、王保强、潘刚、刘童桐、王金金、陶涛、刘虹、张红星、魏春辉。 VI 1. 范围 本规范规定了中国移动企业级省大数据平台数据治理子系统的建设内容,适用于中国移动各省(直辖市、自治区)公司企业级省大数据平台数据治理子系统的建设。 2. 规范性引用文件 下列文件中的条款通过本规范的引用而成为本规范的条款。凡是标注日期的引用文件,其随后所有的修改单(不包括勘误的内容)或修订版均不适用于本规范。然而,鼓励根据本规范达成协议的各方对是否使用这些文件的最新版本进行研究。凡是不标注日期的引用文件,其最新版本适用于本规范。 [1] 《中国移动省级经营分析系统业务规范(v1.0)》 中国移动通信有限公司 [2] 《中国移动省级经营分析系统技术规范(v1.0)》 中国移动通信有限公司 [3] QB-J-010-2006 《中国移动省级经营分析系统数据质量管理系统建设方案(v1.5)》 中国移动通信有限公司 [4] QB-J-006-2006 《中国移动省级经营分析系统数据仓库逻辑数据模型说明(v1.5)》 中国移动通信有限公司 [5] QB-J-007-2006 《中国移动省级经营分析系统数据集市业务技术规范(v1.5)》 中国移动通信有限公司 [6] QB-J-008-2006 《中国移动省级经营分析系统与源系统接口规范(v1.5)》 中国移动通信有限公司 [7] QB-J-009-2006 《中国移动省级经营分析系统与BOSS系统互动技术规范(v1.5)》 中国移动通信有限公司 [8] QB-J-003-2006 《中国移动省级经营分析系统业务规范(v1.5)—基础业务分册》 中国移动通信有限公司 [9] QB-J-004-2006 《中国移动省级经营分析系统业务规范(v1.5)—数据业务分册》 中国移动通信有限公司 [10] QB-J-005-2006 《中国移动省级经营分析系统业务规范(v1.5)—集团客户分册》 中国移动通信有限公司 [11] QB-J-001-2006 《中国移动业务运营支撑系统(BOSS)业务技术规范营销资源管理分册(2.0版)》 中国移动通信有限公司 [12] QB-J-001-2006 《中国移动业务运营支撑系统(BOSS)业务技术规范客服信息分册(2.0版)》 中国移动通信有限公司 [13] QB-J-001-2006 《中国移动业务运营支撑系统(BOSS)业务技术规范(2.0版)》 中国移动通信有限公司 [14] QB-J-021-2007 《中国移动省级经营分析系统数据仓库逻辑数据模型规范(v2.0)》 中国移动通信有限公司 [15] QB-J-020-2007 《中国移动省级经营分析系统与源数据接口规范(v2.0)》 中国移动通信有限公司 [16] QB-J-022-2007 《中国移动省级经营分析系统数据集市业务技术规范(v2.0)》 中国移动通信有限公司 [17] QB-J-019-2007 《中国移动省级经营分析系统业务规范渠道运营管理分析监控分册(v1.0)》 中国移动通信有限公司 [18] QB-J-018-2007 《中国移动省级经营分析系统业务规范客户服务分册(v2.0)》 中国移动通信有限公司 [19] QB-J-017-2007 《中国移动省级经营分析系统业务规范集团客户分册(v2.0》 中国移动通信有限公司 [20] QB-J-016-2007 《中国移动省级经营分析系统数据质量管理系统业务技术规范(V2.0)》 中国移动通信有限公司 [21] 《中国移动业务支撑网4A安全技术规范》 中国移动通信有限公司 [22] 《中国移动省级经营分析系统技术规范总册(v2.0全量版)》 中国移动通信有限公司 [23] 《中国移动省级经营分析系统技术规范逻辑模型分册(v2.0全量版)》 中国移动通信有限公司 [24] 《中国移动省级经营分析系统技术规范数据集市分册(v2.0全量版)》 中国移动通信有限公司 [25] 《中国移动省级经营分析系统技术规范数据质量管理子系统分册(v2.0全量版)》 中国移动通信有限公司 [26] 《中国移动省级经营分析系统业务规范(v2.0全量版)》 中国移动通信有限公司 [27] 《中国移动省级经营分析系统技术规范源系统接口分册(v2.0全量版)》 中国移动通信有限公司 [28] QB-J-002-2008 《中国移动省级NG1-BASS技术规范总册(v1.0)》 中国移动通信集团公司 [29] QB-J-003-2008 《中国移动省级NG1-BASS技术规范数据集市分册(v1.0)》 中国移动通信集团公司 [30] QB-J-004-2008 《中国移动省级NG1-BASS技术规范逻辑模型分册(v1.0)》 中国移动通信集团公司 [31] QB-J-005-2008 《中国移动省级NG1-BASS技术规范源系统接口分册(v1.0)》 中国移动通信集团公司 [32] QB-J-006-2008 《中国移动省级NG1-BASS技术规范元数据管理分册(v1.0)》 中国移动通信集团公司 [33] QB-J-007-2008 《中国移动省级NG1-BASS技术规范数据质量管理子系统分册(v1.0)》 中国移动通信集团公司 [34] QB-J-008-2008 《中国移动省级NG1-BASS业务技术规范客户分析及运营分册(v1.0)》 中国移动通信集团公司 [35] QB-J-001-2008 《中国移动省级NG1-BASS业务规范(v1.0)》 中国移动通信集团公司 [36] QB-Y-003-2009 《中国移动省级NG1-BASS技术规范总册(v2.0)》 中国移动通信集团公司 [37] QB-Y-004-2009 《中国移动省级NG1-BASS技术规范数据集市分册(v2.0)》 中国移动通信集团公司 [38] QB-Y-005-2009 《中国移动省级NG1-BASS技术规范逻辑模型分册(v2.0)》 中国移动通信集团公司 [39] QB-Y-006-2009 《中国移动省级NG1-BASS技术规范外部接口分册(v2.0)》 中国移动通信集团公司 [40] QB-Y-007-2009 《中国移动省级NG1-BASS技术规范元数据管理分册(v2.0)》 中国移动通信集团公司 [41] QB-Y-008-2009 《中国移动省级NG1-BASS技术规范数据质量管理子系统分册(v2.0)》 中国移动通信集团公司 [42] QB-Y-002-2009 《中国移动省级NG1-BASS业务规范(v2.0)》 中国移动通信集团公司 [43] QB-Y-052-2010 《中国移动省级NG2-BASS(v3.0)业务规范》 中国移动通信集团公司 [44] QB-Y-053-2010 《中国移动省级NG2-BASS(v3.0)技术规范总册》 中国移动通信集团公司 [45] QB-Y-054-2010 《中国移动省级NG2-BASS(v3.0)技术规范数据集市分册》 中国移动通信集团公司 [46] QB-Y-055-2010 《中国移动省级NG2-BASS(v3.0)技术规范逻辑模型分册》 中国移动通信集团公司 [47] QB-Y-056-2010 《中国移动省级NG2-BASS(v3.0)技术规范外部接口分册》 中国移动通信集团公司 [48] QB-Y-057-2010 《中国移动省级NG2-BASS(v3.0)技术规范元数据管理分册》 中国移动通信集团公司 [49] QB-Y-058-2010 《中国移动省级NG2-BASS(v3.0)技术规范数据质量管理子系统分册》 中国移动通信集团公司 [50] QB-Y-059-2010 《中国移动省级NG2-BASS(v3.0)技术规范多OP能力交互分册》 中国移动通信集团公司 [51] QB-Y-060-2010 《中国移动省级增值业务综合运营平台业务规范(v1.0)》 中国移动通信集团公司 [52] QB-Y-061-2010 《中国移动省级增值业务综合运营平台技术规范(v1.0)》 中国移动通信集团公司 [53] QB-Y-062-2010 《中国移动省级增值业务综合运营平台技术规范-数据管理分册(v1.0)》 中国移动通信集团公司 [54] QB-Y-063-2010 《中国移动省级增值业务综合运营平台接口规范》 中国移动通信集团公司 [55] QB-Y-039-2011 《中国移动省级NG2-BASS(v3.5)业务规范》 中国移动通信集团公司 [56] QB-Y-038-2011 《中国移动省级NG2-BASS(v3.5)技术规范总册》 中国移动通信集团公司 [57] QB-Y-040-2011 《中国移动省级NG2-BASS(v3.5)技术规范数据集市分册》 中国移动通信集团公司 [58] QB-Y-041-2011 《中国移动省级NG2-BASS(v3.5)技术规范逻辑模型分册》 中国移动通信集团公司 [59] QB-Y-042-2011 《中国移动省级NG2-BASS(v3.5)技术规范外部接口分册》 中国移动通信集团公司 [60] QB-Y-043-2011 《中国移动省级NG2-BASS(v3.5)技术规范元数据管理分册》 中国移动通信集团公司 [61] QB-Y-044-2011 《中国移动省级NG2-BASS(v3.5)技术规范数据质量管理子系统分册》 中国移动通信集团公司 [62] QB-Y-045-2011 《中国移动省级NG2-BASS(v3.5)技术规范OP能力交互分册》 中国移动通信集团公司 [63] QB-Y-046-2011 《中国移动省级增值业务综合运营平台业务规范(v1.5)》 中国移动通信集团公司 [64] QB-Y-047-2011 《中国移动省级增值业务综合运营平台技术规范(v1.5)》 中国移动通信集团公司 [65] QB-Y-048-2011 《中国移动省级NG2-BASS技术规范系统安全管理分册(v1.5)》 中国移动通信集团公司 [66] QB-Y-044-2012 《中国移动省级NG2-BASS(v4.0)业务规范》 中国移动通信集团公司 [67] QB-Y-045-2012 《中国移动省级NG2-BASS(v4.0)技术规范总册》 中国移动通信集团公司 [68] QB-Y-045.1-2012 《中国移动省级NG2-BASS(v4.0)技术规范数据集市分册》 中国移动通信集团公司 [69] QB-Y-045.2-2012 《中国移动省级NG2-BASS(v4.0)技术规范逻辑模型分册》 中国移动通信集团公司 [70] QB-Y-045.3-2012 《中国移动省级NG2-BASS(v4.0)技术规范外部接口分册》 中国移动通信集团公司 [72] QB-Y-045.4-2012 《中国移动省级NG2-BASS(v4.0)技术规范元数据管理分册》 中国移动通信集团公司 [73] QB-Y-045.5-2012 《中国移动省级NG2-BASS(v4.0)技术规范数据质量管理子系统分册》 中国移动通信集团公司 [74] QB-Y-046-2012 《中国移动省级增值业务综合运营平台业务规范V2.0.0》 中国移动通信集团公司 [75] QB-Y-047-2012 《中国移动省级增值业务综合运营平台技术规范V2.0.0》 中国移动通信集团公司 [76] QB-Y-047.1-2012 《中国移动省级增值业务综合运营平台技术规范数据管理分册V2.0.0》 中国移动通信集团公司 [77] QB-Y-044-2013 《中国移动省级NG2-BASS(v4.5)业务规范》 中国移动通信集团公司 [78] QB-Y-045-2013 《中国移动省级NG2-BASS(v4.5)技术规范总册》 中国移动通信集团公司 [79] QB-Y-045.1-2013 《中国移动省级NG2-BASS(v4.5)技术规范数据集市分册》 中国移动通信集团公司 [80] QB-Y-045.2-2013 《中国移动省级NG2-BASS(v4.5)技术规范逻辑模型分册》 中国移动通信集团公司 [81] QB-Y-045.3-2013 《中国移动省级NG2-BASS(v4.5)技术规范外部接口分册》 中国移动通信集团公司 [82] QB-Y-045.4-2013 《中国移动省级NG2-BASS(v4.5)技术规范元数据管理分册》 中国移动通信集团公司 [83] QB-Y-045.5-2013 《中国移动省级NG2-BASS(v4.5)技术规范数据质量管理子系统分册》 中国移动通信集团公司 [84] QB-Y-045.6-2013 《中国移动省级NG2-BASS(v4.5)技术规范安全管理技术方案》 中国移动通信集团公司 [85] QB-Y-046-2013 《中国移动省级增值业务综合运营平台业务规范V2.5.0》 中国移动通信集团公司 [86] QB-Y-047-2013 《中国移动省级增值业务综合运营平台技术规范V2.5.0》 中国移动通信集团公司 [87] QB-Y-047.1-2013 《中国移动省级增值业务综合运营平台技术规范数据管理分册V2.5.0》 中国移动通信集团公司 3. 术语、定义和缩略语 下列术语、定义适用于本规范: 字母 名词 解释 C CWM CWM标准是OMG组织定义的数据仓库和相关系统的国际元数据标准,给出了各种元数据结构的标准定义。CWM标准的目的在于:使数据仓库和商业智能软件的元数据在异构的数据分析工具、数据仓库平台、元数据存储库等系统之间进行交互。 E ETL 特指从数据源系统到大数据平台的数据抽取、转换和加载。 G 管理元数据 描述大数据平台中管理领域相关概念、关系、规则的数据,主要包括人员角色、岗位职责、管理流程等信息。 H 核心元模型 大数据平台核心元模型是以CWM为基础扩展形成的,针对大数据平台的物理模型、逻辑模型、数据处理过程、接口单元、指标和维度编码等主要实体进行精确定义,并要求各省大数据平台统一遵循的元模型。定义核心元模型的目的是建立大数据平台的统一元数据管理标准,为元数据管理的功能层与应用层解耦、为企业级总部大数据平台和企业级省大数据平台的元数据交换和相互理解提供统一的语义基础。 H 核心元模型参照表 核心元模型参照表是对核心元模型中的枚举类型属性进行枚举值定义的编码表。参照表为枚举类型属性的每个枚举值定义了唯一的编码,并明确该编码的语义,是核心元模型标准化定义的重要组成部分。 J 技术元数据 描述大数据平台中技术领域相关概念、关系、规则的数据。主要包括对数据结构、数据处理方面的特征描述,覆盖大数据平台数据源接口、数据仓库、ETL、OLAP、数据挖掘、前端展现等全部数据处理环节。 S 数据处理过程 数据从数据源系统到大数据平台前端使用的整个处理过程,包含大数据平台数据仓库内部的数据抽取、转换和加载。 S 数据采集点 覆盖大数据平台数据处理环节的、获取每个环节运行状态的实体。该实体可以是程序实体也可以是任务实体 S 数据质量报告 数据质量报告是对数据质量日常监控以及质量评估等过程累积的各种信息进行汇总、梳理、统计和分析,形成的统计报告 S 数据质量监控 通过获取大数据平台各环节的数据质量监控信息,结合元数据库中的有关检查规则,对各个环节的数据质量情况进行判断,并及时向数据质量监控人员报告。 S 数据质量规则库 数据质量规则库是对数据质量管理活动所用到的各种判断及校验规则进行归类和存放的存储结构,存储的内容包括采集规则、监控规则、告警规则和审计规则等 S 数据质量信息库 数据质量管理子系统存储层上的存储结构,用于存储数据质量信息采集程序采集的数据质量信息、质量评估信息、问题解决方案和问题处理流程信息等 S 省公司 中国移动通信集团各省(直辖市、自治区)移动通信有限公司。 S SQL脚本 自动解析 SQL脚本自动解析指通过对SQL脚本的词法、语法和语义进行分析,自动生成满足CWM规范要求的数据处理过程的技术元数据的功能。 Y 业务元数据 描述大数据平台中业务领域相关概念、关系、规则的数据。主要包括业务术语、信息分类、指标定义(指标口径)、业务规则等信息。 Y 元模型 元模型是描述元数据的基础模型结构,用于说明元数据对象的各种属性、结构和关系。 Y 元数据 元数据是描述数据间关系的数据。大数据平台中元数据泛指描述数据概念(Concepts)、数据间关系(Roles)、数据处理规则(Rules)的数据,其中,领域语义(Semantics)和知识(Knowledge)也属于元数据的范畴。 D 数据标准 指在中国移动台企业级省大数据平台下为了使企业内外部使用和交换的数据是一致和准确的,经协商一致制定并由大数据治理委员会主管机构批准,具有行业特点且共同使用和重复使用的一种规范性约束。 D 数据标准体系 指数据标准按照中国移动企业级省大数据平台需求对数据进行标准化的划分归类。 D 数据标准内容 按照数据标准体系划分的要求分别给出各数据标准制定的规范内容。 D 行业参考模型实体 中国移动规范中原定义或新增加的逻辑数据模型LDM实体。 D 公共代码标准 需要引用外部公共标准机构的标准。如:世界各国和地区名称代码等。 下列略缩语适用于本规范: 缩写 英文描述 中文描述 AST Abstract Syntax Tree 抽象语法树 BOSS Business Operation Support System 业务运营支撑系统 CWM Common Warehouse Metamodel 公共仓库元模型 ETL Extraction Transformation Loading 抽取、转换和加载 OLAP On-line Analysis Process 在线分析处理 XMI XML Metadata Interchange XML元数据交换 BI Business Intelligence 商务智能 REST Representational State Transfer 表述性状态转移 4. 总体说明 4.1. 概述 本规范用于指导企业级省大数据平台数据治理子系统建设,规定了省大数据平台数据治理的范围和要求,明确了数据治理子系统的体系结构,制定了数据治理子系统的功能和处理流程。数据治理子系统包含数据标准管理、元数据管理、数据质量管理、数据资产管理、数据安全管理等功能模块。本方案借鉴资产管理的方法理论来管理数据,将数据作为一种特殊的资产,对进入平台的数据进行标准化的规范约束,并以元数据作为驱动,连接数据的标准管理、数据质量管理、数据数据安全管理的各个阶段,形成统一、完善的数据治理体系,以解决实际业务问题为导向,增强数据治理子系统对业务发展的支撑能力。 4.2. 目标 数据治理子系统的建设为数据治理工作提供强有力的系统支撑。本期规范建设目标是以元数据为驱动,建立省大数据平台完整的数据治理体系。从组织架构、系统功能等方面增强数据宏观管控,并实现精细化管理,具体包括: l 数据治理组织架构管理:定义数据治理所需人员组织上的岗位和职责,从管理角度支撑数据治理工作的落地和执行。 l 数据标准管理:建立企业级省大数据平台数据标准体系,并制定数据标准运维管控制度和流程。 l 元数据管理:降低元数据使用难度、提升用户体验,使大数据平台各类用户均能参与到元数据运营维护当中。 l 数据质量管理:为内、外部用户提供平台化的数据质量监控;通过扩充和优化公共规则库、保证数据的完整性、一致性、准确性、及时性、合法性,提升用户使用感知;并提供数据质量应用满足个性化需求。 l 数据资产管理:重点建设从规划、注册、运维到注销的全流程管理体系,使数据资产管理系统化、可视化。 l 数据安全管理:建立体系化的数据安全管控策略,通过用户安全管理、数据安全管理实现全方位数据安全管控机制,通过技术手段与管理措施相结合的方式落实数据安全,做到事前可管、事中可控、事后可查。 4.3. 原则 企业级省大数据平台数据治理子系统建设应遵循以下基本原则: 1. 有效性原则 体现大数据平台数据治理过程中数据的标准、质量、价值、管控的有效性、高效性。 2. 价值化原则 体现数据治理过程中以数据资产为价值核心,最大化大数据平台的数据价值。 3. 统一性原则 体现大数据平台架构统一、标准统一、元数据统一、质量流程统一、资产价值统一的一体化管控平台体系。 4. 开放性原则 体现平台化、开放性运维思想,实现人人参与数据治理、人人参与数据运维。 5. 产品化原则 体现大数据平台数据治理能力的显性化,通过产品化互联网思维服务大数据平台数据生态圈用户。 6. 安全性原则 体现安全的重要性、必要性,保障大数据平台数据安全和数据治理过程中数据的安全可控。 5. 数据治理体系 5.1. 总体框架 数据治理总体框架包括组织架构、数据治理模块、数据运维三部分。通过组织架构建立管理办法,制定工作流程,确定角色职责。数据治理模块主要包括数据标准管理、元数据管理、数据质量管理、数据资产管理、数据安全管理,各模块协同运营,确保大数据平台的数据一致、安全、有效。数据运维贯穿整个数据治理体系的流程中,实现平台化的运维管理思路。数据治理总体框架如图51所示: 核心领域 大数据平台 数据治理工具 数据安全管理 数据资产管理 元数据管理 数据质量管理 数据标准管理 组织架构 组织架构定义 角色与职责 规划和策略 管理办法 数据运维 质量运维 管控运维 资产运维 组织架构合适吗 图51数据治理体系框架 5.2. 组织架构是否模糊化,简要说一下数据治理需要由专人、专职负责,不明说建立专业机构。 数据治理组织的构建旨在通过建立数据治理组织架构明确各级角色和职责,保障数据治理的各项管理办法、工作流程的实施,推送数据治理工作的有序开展。 5.2.1. 组织构成 数据治理组织架构主要由数据治理委员会、数据治理中心和各业务部门构成。组织架构划分和角色设定如图 52所示: 图 52 数据治理组织架构图 5.2.2. 角色职责 组织责任体系是数据治理责任落地的保障,数据治理组织架构通过明确各角色职责,实行认责制度,让数据治理工作更好的融入到数据日常使用和相关的工作中,从而推动数据运维自治的实现,如表5-1。 表5-1数据治理组织架构角色职责定义内容 组织结构 角色 角色描述 角色主要职责 数据治理委员会 数据管理决策者 由公司主管领导和各业务部门领导组成 负责牵头数据治理工作;制定数据治理的政策、标准、规则、流程,协调认责冲突; 对数据事实治理,保证数据的质量和隐私; 在数据出现质量问题时负责仲裁工作。 数据治理中心 数据平台运营者 数据管理中心机构的平台运营人员 负责提交数据标准的要求及数据质量规则和业务规范,解释数据的业务规则和含义;监督各项数据规则和规范的约束的落实情况; 负责数据治理平台中整体数据的管控流程制定和平台功能系统支撑的实施; 负责平台的整体运营、组织、协调。 各业务部门 数据提供者 相关数据开发提供人员 负责数据及相关系统的开发,有责任执行数据标准和数据质量内容; 负责从技术角度解决数据质量问题; 作为数据出现质量问题时的主要责任者。 数据维护者 数据维护人员 制定相关数据标准、数据制度和规则; 遵守和执行数据标准管控相关的流程,根据数据标准要求提供相关数据规范; 作为数据出现质量问题时的次要责任者。 数据消费者 数据使用人员,包含内部用户和外部用户 作为数据治理平台数据管控流程的最后参与使用者; 是数据资产价值的获益人; 作为数据治理平台数据闭环流程的发起人。 5.3. 系统架构 5.3.1. 系统功能框架 数据治理功能框架明确了数据治理在企业级省大数据平台中的定位,并以合理的功能层次划分指导数据治理系统相关功能建设。系统功能框架如图53所示。 图53数据治理功能框架图 l 企业级省大数据平台门户: 企业级省大数据平台统一的访问接口,供企业内、外部用户、第三方独立开发者访问及使用数据治理相关产品或功能,并负责统一访问认证及日志记录。 l 能力开放平台: 企业级省大数据平台统一的对外服务层,数据治理相关的产品及应用均通过这个层次进行注册、发布,并对内、外部开放。 l 数据治理系统: Ø 数据标准:在数据标准管理组织架构推动和指导下,遵循协商一致制定的数据标准规范,借助标准化管控流程得以实施数据标准化的整个过程。 Ø 元数据:采用集中式管理模式进行元数据管理,全公司元数据逻辑集中,即元数据管理模块作为公司元数据的统一发布源,集中管理元数据,提供元数据集中创建、维护、查询功能。 Ø 数据质量:对数据从计划、获取、存储、共享、维护、应用、消亡生命周期的每个阶段里可能引发的各类数据质量问题,进行识别、度量、监控、预警等一系列管理活动,并通过改善和提高组织的管理水平使得数据质量获得进一步提高。 Ø 数据资产:规划、控制、提供数据及信息资产的一组业务职能,包括开发、执行和监督有关数据的计划、政策、方案、项目、流程、方法和程序,从而控制、保护、提高数据资产的价值。 Ø 数据安全:通过计划、制定、执行数据安全政策和安全策略措施,为企业级大数据平台的数据和信息提供行之有效的认证、授权、访问和审计。 Ø 数据运维在左侧目录里缺少一个模块 :包括数据资产运维、数据质量运维,借鉴互联网思维,通过产品化运维工具来整体提升企业级大数据平台数据运维效率。 l 企业级省大数据平台: Ø 大数据基础平台,负责数据的接入、存储、管理、应用及相关基础功能支撑。 5.3.2. 系统模块流程 图54数据治理系统功能各模块关系图 如图54所示,数据治理系统各模块之间,根据数据操作的流程产生相互关联,各模块业务流程关系说明如下: L1:数据标准管理模块将标准定义映射到元数据信息上,实现数据标准的规范要求落地。 L2:元数据管理模块为数据资产管理模块提供存储模型、属性信息查询服务。 L3:元数据管理模块为数据质量管理模块提供元数据相关属性信息。 L4:用户通过元数据定义大数据平台的数据结构。 L5:数据质量管理模块根据采集需求从大数据平台采集数据。 L6:数据质量管理模块将数据质量问题反馈给大数据平台。 L7:数据质量管理模块向资产模块提交数据质量评估结果。 L8:元数据管理模块为数据安全管理模块提供隐私级别定义服务。 L9:数据资产管理模块发起资产访问申请,由数据安全管理模块控制用户访问权限,控制数据资产的增加、删除、变更操作权限,对访问的数据内容、数据属性等操作进行管控。 L10:数据安全管理模块为大数据平台提供数据访问权限策略。 5.4. 系统边界 企业级省大数据平台数据治理子系统与其它子系统之间存在数据交互、功能调用、流程穿插等关联。数据治理子系统与大数据平台系统内其它子系统的关系示意如图55所示: 数据治理 元数据管理 数据标准管理 数据质量管理 数据资产管理 数据安全管理 数据服务平台 企业级省大数据平台 平 台 运 维 图55数据治理子系统与各子系统边界图 5.4.1. 与企业级省大数据平台关系 企业级省大数据平台上的数据资产是数据治理的主要对象;数据治理为企业级省大数据平台提供数据标准指导、元数据定义、数据质量监控、数据安全等方面的全面支撑,使大数据平台上的数据资产清晰、有序、安全、可控。 5.4.2. 与对外能力开放平台关系 数据治理为对外能力开放平台提供元数据查询、数据安全管理支持;对外能力开放平台为数据治理提供统一的数据治理产品及功能注册、发布、使用服务。 5.4.3. 与平台运维系统关系 数据治理子系统支撑大数据平台的数据管控流程,并与平台运维交互协调,共同支撑大数据平台整体的安全运维、数据运维和管理运维。 6. 数据治理核心模块 6.1. 数据标准管理 6.1.1. 背景 中国移动企业级省大数据平台数据标准是在经营分析系统数据管控要求基础之上,借鉴互联网企业数据治理的经验而提出的。数据标准是指在中国移动企业级省大数据平台下,保障企业内外部使用和交换数据的一致性和准确性,具有行业特点且共同使用的一种规范性约束。 数据标准是企业级省大数据平台数据治理的基础性工作,是数据治理建设中的首要环节。首先,数据标准为企业级省大数据平台提供统一的数据标准定义和平台逻辑模型。其次,数据标准是企业级省大数据平台进行数据治理的依据和根本。再次,数据标准是衡量企业级省大数据平台数据资产运营和管理的评估依据。最后,中国移动通过数据标准管理的实施,实现对企业级省大数据平台全网数据的统一运营管理。 企业级省大数据平台数据治理体系中数据标准管理如图61所示,包括制定数据标准的规范性文件、进行数据标准化管控及数据标准管理组织。 图61数据标准管理内容 企业级省大数据平台数据标准管理与原经营分析系统数据管控的区别如下表61所示: 表61企业级省大数据平台数据标准管理与原经营分析系统数据管控区别 企业级省大数据平台数据标准管理 原经营分析系统数据管控 数据范围 涉及企业内外部数据运营相关的数据,包含BOM三域数据、外部数据。 数据仅限于市场经营活动的B域和部分O,M域数据。 业务应用模式 以数据标准为基础的数据治理体系,实现数据的资产化,贯穿整个数据运营的全流程,形成以中国移动大数据平台为核心的大数据生态圈,服务于企业内外部客户。 以支撑企业内部经营分析为主。 服务对象 服务于整个大数据生态圈。 原经营分析系统使用人员。 6.1.2. 目标及原则 数据标准管理的总体目标:通过统一的数据标准制定和发布,结合制度约束、系统控制等手段,实现中国移动企业级省大数据平台数据的完整性、有效性、一致性、规范性、开放性和共享性管理,提高企业级省大数据平台数据治理水平。 数据标准制定的原则: l 开放性:标准制定人人参与。 l 共享性:数据标准化信息在大数据生态圈共享使用。 l 完整性:涵盖客户、产品、服务、帐务、资源- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 数据 治理 体系
咨信网温馨提示:
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,个别因单元格分列造成显示页码不一将协商解决,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【pc****0】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【pc****0】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,个别因单元格分列造成显示页码不一将协商解决,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【pc****0】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【pc****0】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。
关于本文