大数据融合共享平台技术方案.docx
《大数据融合共享平台技术方案.docx》由会员分享,可在线阅读,更多相关《大数据融合共享平台技术方案.docx(79页珍藏版)》请在咨信网上搜索。
1、大数据融合共享平台技术方案估等标准规范。图3-3标准规范体系建设数据类标准规范基于国家及智慧城市有关标准,结合平台建设实际需求和业 务特点,通过规范、完整的信息资源描述逻辑,形成城市信息资 源的元数据、数据元、资源目录、数据交换等标准规范,支持全 面描述各类信息资源的信息。主要用于数据整合、数据接入、交 换和发布等功能,便于数据的采集整合、更新维护以及数据管理, 便于数据质量的控制。元数据标准规范:在遵循国家标准和行业标准的基础上,根据本地数据实际情 况,形本钱地的元数据标准。本系统的元数据规范和标准主要包 括业务元数据、技术元数据和管理元数据三类。资源目录与分类代码标准规范:资源目录与分类代
2、码标准主要用于描述平台数据资源与服务 资源的逻辑组织与分类展示,其由假设干个子标准构成。数据共享交换标准规范:数据整合是平台建设的基础,涉及到多种数据的整合手段,10 其中数据交换通过服务总线实现应用对接等都需要定义一套通 用的数据交换标准,基于此标准实现各个系统间数据的共享和交 换,并支持未来更多系统与平台的对接。其它数据标准规范:数据字典标准:该标准规定了信息资源数据库及其内部各类 数据的数据字典编写的内容、格式、方法及其技术要求。数据交换格式标准:该标准规定了数据资源交换的格式要求。信息资源库数据表结构规范:该标准规定了信息资源库的数 据库表结构。数据维护与更新规范:该标准规定了数据维护
3、、更新、管理 流程以及技术要求。数据质量规范:该标准规范了信息资源数据的质量要求和质 量标准。数据组织及数据库命名规那么:该标准规定了信息资源库的数 据组织以及数据库命名规那么。属性数据结构:该标准规定了信息资源库的属性数据结构。管理类标准规范为保证平台建设过程中的规范化管理,需要制定工程管理标 准规范体系,包括软件工程管理规范、平台运维管理规范、验收 与监理制度、软件开发标准、系统测试和评估等标准规范和各种 管理方法。II第三章详细设计3.1 数据共享交换平台设计平台主要实现政府信息化及其大数据应用建设的需求,满足 一个中心、四个库的实施及其应用,满足政府采集、交换各部门 数据,以及政府数据
4、平台自定义公开等政府数据相关业务的需求;模块结构与功能关系设计功能业务描述:共享交换平台分为五个模块数据传输模块共享交换的主要模块,2-4模块为其提供支持,实现应用单位 前置交换信息库之间的信息处理和稳定可靠、不间断的信息传递 和数据同步。JOB管理模块实现对【数据传输模块】交换过程的流程配置、部署、执行 和整个信息交换系统运行进行监控、管理,包括交换流程管理、 交换监控和管理。抽取组件模块根据【数据传输模块】配置整合及订阅流程过程中,针对各 个流程、字段选择不同的组件处理方式,将需要处理和转换的字 段根据指定格式进行动态转换。12上游配置模块为【数据传输模块】提供数据采集数据源。数据服务模块
5、服务模块的主要产出物。使用方通过订阅模式订阅关注的资 源,当资源同步到交换中心后,再通过中心将资源发送到资源的 订阅者。模块关系如下列图所示:数据同步抽取组件叫笠换策略配置去重组 去空组 增量组 全量组 周期交 手动交I件II件II件II件II短西徉II换密件I前置机数 据同步JOB管理前置节点管理 JOB管理JOB监控 元数据记录中心数据监听数据服务 交换数据订阅数据共享交换平台功能结构图运行设计运行模块的组合【统计局】需求【农业局】、【粮食局】数据。13运行描述业务数据的获取由适配器与业务系统共同完成,由资源拥有 方的系统管理员完成所需的配置。系统中各种数据采集适配器针 对需要采集的数据进
6、行实时采集、监听(1)统计局根据需求确定自己所需数据。(2)通过资源配置模块建立统计局和农业局资源库信息。(3)交换节点的网络与中心网络并非全时段互联互动,只有 固定时段才能连通网络,此时适配器仍然正常工作,并采集各个 应用单位共享数据的增量数据保存至前置交换库中,并实时将增 量数据采集并提交至交换系统参与交换流程。(4)交换过程中非需求数据根据清洗接口组件去除,并实时 监听去除数据条数。(5)配置完成交换规那么后进行JOB化操作。14(6)提供消息确认和消息选择性重发机制以实现前置交换子 系统之间可靠的信息传递功能,实现交换信息内容的“不丢、不 错、不重”进行数据传送。出错处理设计出错输出信
7、息错误类型说明:DC_M100INP 页面表单验证DC_M100CON 后台连接错误DC_M1000P 业务校验错误出错输出信息表序号错误标题输出信息错误类型1主机名称输入错误主机IP地址输入错误DC_MI01INP2端口名输入错误端口格式输入错误DC_MI02INP3用户名输入错误用户名格式错误DC_MI03INP4密码输入错误密码格式错误DC_MI04INP5增量范围设置异常增量区间设置超出 范围。DC_MI05INP6测试数据库数据库连接出错,请DC_MI01CON15连接错误联系系统管理员7网络连接不通网络无法连接,请联系系统管理员DC_MI02CON8建立数据转换流程失败由于XXX原
8、因,建立 数据转换流程失败。DC_MI01OP9删除数据转换流程失败由于XXX原因,删除 数据转换流程失败。DC_MI02OP10修改数据转换流程失败由于XXX原因,修改 数据转换流程失败。DC_MI03OP11定时任务执行异常XXX定时任务执行异常。DC_MI04OP12去重组件执行异常XXXJOB执行清洗组件异常。DC_MI050P13新建JOB错误。JOB创立失败。DC_MI06OP14删除JOB错误。JOB删除失败。DC_MI07OP15执行JOB错误。JOB运行失败。DC_MI08OP出错处理对策出错处理对策表序号错误标题处理对策16171主机名称输入错误主机名称输入框变成红色警示状
9、 态,光标定位在相应的数据项录入 处。2端口名输入错误主机名称输入框变成红色警示状 态,光标定位在相应的数据项录入 处。3用户名输入错误主机名称输入框变成红色警示状 态,光标定位在相应的数据项录入 处。4密码输入错误主机名称输入框变成红色警示状 态,光标定位在相应的数据项录入 处。5测试数据库连接尝试屡次连接数据库。6网络连接不通提示客户检查网路连接设备。7建立数据转换流程失败根据情况不同返回当前页或提示 用户解决方案。8删除数据转换流程失败不做处理。9修改数据转换流程失败根据情况不同返回当前页或提示 用户解决方案。10增量范围设置异常生成参考格式数据。11定时任务执行异常尝试重新启动。12去
10、重组件执行异常回滚之前数据,重新执行。13新建JOB错误。返回当前页面、不做处理。14删除JOB错误。返回当前页面、不做处理。15执行JOB错误。返回当前页面、不做处理。功能模块设计18序号功能模块子模块功能描述1数据交换服务数据交换系统的作用在于以一种新 的体系架构实现公共信息的统一交 换,通过交换实现数据共享交换平 台数据的同步和共享1. 1前置子模块前置子系统作为整个交换系统的交 换端,负责与业务系统适配,支持 应用单位业务信息库与交换中心之 间的信息双向交换1.2传输子模块传输子系统是一个黑盒的数据传输 系统,负责实现信息的平安、可靠、 稳定、高效的信息交换,实现信息 的打包、转换、传
11、递、路由、解包 等功能1. 3中心处理中心处理子系统是数据共享交换平子模块台的中心数据处理模块,负责交换 数据的处理、交换数据的整合、数 据共享交换平台中心文件服务、数 据转换以及组件处理等工作2数据采集实现数据采集采用ETL策略,蜂巢系统 进行实施;数据采集模块采用集群(C/S)方式实现,主服务器要对每一个节点进行管理3调度与监控调度与监控,分为中心调度监控和 节点调度监控;中心控制整个网络 系统;节点仅仅控制自身的采集任 务与调度4文件传输大文件传输平台用于实现委办局到 基础数据库之间的文件传输,平台 主要用于工作文件、视音频文件、 图片等多种文件,并提供传输管理 功能5任务失败处理采集任
12、务如果失败,可以重启操作6清洗模块配置根据需求通过页面可视化配置清洗规那么,完成规整化处理19第一章建设目标3总体规划31.1 建设目标3第二章总体设计5大数据中心系统架构设计52.1 数据流向设计标准规范设计第三章详细设计12数据共享交换平台设计123.1 信息资源目录设计21数据管理平台303.2 数据应用平台设计4969693.3 接口设计58第四章平安方案设计计算机网络平安设计694.1 防火墙70病毒防护系统704.2 对业务与数据灾难备份恢复的设计71信息平安与保密管理73II207清洗自动效验对采集过程中无效空数据、重复数据自动过滤8结果数据对标对数据源和目标数据两段的数据规 范
13、进行核对,例如(字段名称,字 段类型,字段长度等)保证两端的 一致性9元数据记录对清洗过程跟踪。根据各个清洗规 那么组件,实现可插拔的页面可视化 配置10数据库适配存储前端数据库、中心数据库、节点数 据库可以按照各种关系型数据库存 储11前置目录同步实现前置机目录结构和其他节点同步12前置节点管理可视化页面监控前置节点的活动状 态,对各节点的启、停、故障等进 行监控13数据交换任务控制页面可以使用编辑、运行、停止、 等,对定制完备的采集策略进行控 制14网路结构与解决对于不同的网络结构,采取与业务 系统松耦合的数据采集策略;可以方案在节点与数据中心之间以通信服务器(前置机)的方式进行解决15F
14、TP方式定义多格式数据数据中心接受FTP方式的数据上传, 但是所有以FTP方式上传的数据结 构必须在数据字典中已经定义确认16交换数据订阅通过页面以目录树为级别导出该目 录下的数据和数据结构。文件格式 可以是文档、PDF、Json等形式17数据存储平台数据存储采用关系型数据库实现;应用层以关系数据库实现数据仓库的星型数据结构18逻辑模型逻辑模型是每一个数据结构展现的 基本数据模块,逻辑模型主要定义 基于数据展现的多个数据结构之间 的关系19数据交换数据交换,双方通过平台达成共识 的权限后,互相开放特定的数据浏 览、下载使用权限3.2信息资源目录设计目录管理与服务系统包括信息资源目录子系统和信息
15、资源编21 目管理子系统。目录子系统的建设,以目录方式实现资源共享, 是公共信息平台实现信息资源共享的有效手段,使用目录体系可 以以更灵活的方式实现更多应用单位、更多资源的接入与共享。编目管理子系统作为公共服务平台信息资源目录体系的载体, 采用一种非落地的信息共享模式,是对交换共享模式的补充。在 目录式共享中,各应用单位对各自共享的资源有完整的控制权, 可有效地解决交换模式中各应用单位因担忧违反相关规定而不 愿意批量提供数据的问题。3.2.1 模块结构与功能关系设计功能业务描述:系统包括五个模块,分别是目录编制、目 录管理、目录审核、系统管理和目录订阅。五个模块之间存 在一定的依赖和调用关系,
16、可参考下面的设计图。目录编制 模块依赖系统管理模块提供的资源标识符、资源分类和元数 据管理的相关功能,目录编制完成之后进入目录管理模块, 在目录管理模块进行相关的状态操作,如发布,撤回,升级 和下架等,同时依赖目录审核模块提供的审核功能,通过审 核的目录才能发布和进行后续操作。被发布的目录可以被目 录订阅模块获取,在此模块被订阅,实现对编目资源的访问。 目录订阅也依赖目录审核模块,表现为两点:1.在目录订阅模 块申请的订阅,需要在目录审核模块进行审核,通过审核的 订阅的才能生效,向下执行;2.当前用户不具备访问某个目录22的权限时,可以通过申请特殊权限,获取一定时间区间中订阅权限,申请特殊权限
17、需要在目录审核模块中进行审核,通 过审核的特殊权限申请才能生效,向下执行,最终实现订阅。目录审核目录审核查看1审核,发布1)订阅审核/特殊权限审核查看审核查看 审核 3.2.2 运行设计运行模块的组合(1)目录编制(2)目录订阅23运行流程系统的核心功能为目录编制和目录订阅,目录编制指目录资 源拥有单位(作为资源持有者)为本单位指定资源进行编目,并 发布至系统的过程;目录订阅指应用单位(作为资源访问者)通 过本系统获取已经发布的资源的过程。(1)目录资源拥有单位有资源发布需求,进入目录编制模块, 完成该目录的核心信息、资源信息和授权信息的填写,提交该目 录;单位主管在目录审核模块对该目录进行审
18、核;通过审核的目 录在目录管理模块被发布后,即可被其它授权应用单位订阅。(2)应用单位有访问系统中非本单位资源的需求,进入目录订 阅模块,填写订阅信息,申请订阅;该资源责任人在目录审核模 块对本次订阅进行审批;通过审核的订阅,向其它系统发出订阅 信息,实现对订阅资源的访问。如果应用单位不具备访问该资源 的权限,那么需要先在目录订阅模块申请特殊权限;该资源责任人 在目录审核模块对本次权限申请进行审批;通过审核的申请,将24让该用户获取订阅权限。323出错处理设计出错输出信息错误类型说明:RC_M100INP 页面表单验证RC_M100CON 后台连接错误RC_M1000P业务校验错误出错输出信息
19、表出错处理对策序号错误标题输出信息错误类型1用户名或密码错误用户名或密码错误RC_MIOOINP2数据不在设定范围内* * * * 的值 不在 * * * * 和 * * * *之间RC_MIOOINP3数据未输入*必须输入RC_MIOOINP4重复订阅您已订阅该资源RC_MIOOOP5网络不通网络无法连接,请联系系统管理员RC_MIOOCON6未选取请选择*RC_MIOOOP7选取多项请选择一项*RC_MIOOOP出错处理对策表25序号1数据不在设定范围内流程停在录入界面,光标定位在相应的数据项录入处2数据未输入流程停在录入界面,光标定位在相应的数据项录入处3重复订阅流程停在录入界面,光标定
20、位在相应的数据项录入处4网络不通5未选取流程停在录入界面,光标定位在相应的数据项录入处6选取多项流程停在录入界面,光标定位在相应的数据项录入处错误标题处理对策功能模块设计序号功能模块功能描述1资源标识符管理包括资源标识符结构管理、资源标识符应用 单位配置、应用单位标识符中心配置、核心 元数据定义等功能。2元数据定义编目子系统的核心元数据定义提供对核心 元数据的定义管理,包括核心元数据查询、26添加、编辑和删除功能,同时提供核心元数 据详细信息查看的功能。3目录发布目录发布主要提供在编目中心已注册的目 录的发布功能(支持批量),在发布时可指定 允许访问资源或目录的应用单位列表,以及 资源访问权限
21、要求,通过发布目录,可以将 前置目录发布到全市统一的门户中供各级 应用单位进行检索、查看和申请。4目录撤消针对无效的目录或需要进行下线的目录信 息,系统提供目录撤消的功能,该功能可对 已发布的目录进行撤消和下线,目录撤消后 可重新进入发布流程。5交换互动(订阅)提供目录驱动交换功能,资源使用方通过目 录方式获取资源信息后,通过平台提供的申 请流程向平台管理者与资源拥有方进行申 请,得到管理者与资源拥有方同意后,由平 台自动开始按配置的规那么进行信息资源的 交换与共享。目录系统提供数据交换驱动 入口,调用对交换系统提供的相关接口,实 现与交换系统的互联互通,并能对交换系统 业务数据及各类服务提供
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 数据 融合 共享 平台 技术 方案
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,个别因单元格分列造成显示页码不一将协商解决,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【二***】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【二***】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。