大数据处理技术22.docx

大数据处理技术大数据处理大数据处理利器：Hadoop具有五大优势现在,如果你没有听说过Hadoop,那么你一定落伍了。作为一个全新的开源项目,Hadoop提供了一中新的方式用来存储和处理器数据。大型的互联网公司,如谷歌、Facebook都使用Hadoop来存储和管理它们庞大的数据集。Hadoop也通过在这些领域的应用证明了其五大优势：高可扩展性Hadoop是一个高度可扩展的存储平台,因为他可以存储和分发横跨数百个并行操作的廉价的服务器数据集群。不同于传统的关系型数据库系统不能扩展到处理大量的数据,Hadoop是能给企业提供涉与成百上千TB的数据节点上运行的应用程序。成本效益Hadoop还为企业用户提供了极具成本效益的存储解决方案。传统的关系型数据库管理系统的问题是,他并不符合海量数据的处理器,不能够符合企业的成本效益。许多公司过去不得不假设那些数据最优价值,然后根据这些有价值的数据设定分类,如果保存所有的数据,那么成本就会过高。虽然这种方法可以短期实现工作,但是随着数据量的增大,这种方式并不能很好的解决问题。Hadoop的架构则不痛,其被设计为一个向外扩展的架构,可以经济的存储所有公司的数据供以后使用,节省的费用是非常惊人的,Hadoop提供数百TB的存储和计算能力,而不是几千块钱就能解决的问题。灵活性更好Hadoop能够使企业轻松访问到新的数据源,并可以分析不同类型的数据,从这些数据中产生价值,这意味着企业可以利用Hadoop的灵活性从社交媒体、电子或点击流量等数据源获得宝贵的商业价值。此外,Hadoop的用途非常广,诸如对数处理、推荐系统、数据仓库、市场活动分析以与欺诈检测。Hadoop处理更快Hadoop拥有独特的存储方式,用于数据处理的工具通常在与数据相同的服务器上,从而导致能够更快的处理器数据,如果你正在处理大量的非结构化数据,Hadoop能够有效的在几分钟处理TB级的数据,而不是像以前PB级数据都要以小时为单位。容错能力使用Hadoop的一个关键优势就是他的容错能力。当数据被发送到一个单独的借点,该数据也被复制到集群的其它节点上,这意味着在故障情况下,存在另一个副本可供使用。总结：当涉与到处理大量数据集以与安全和成本效益的时候,Hadoop相比关系型数据库管理系统更具有优势。它适用于任何规模的非结构化数据持续增长的企业,将帮助企业持续发现商业价值。大数据处理：技术与流程 大数据是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。特点是：数据量大、数据种类多样、要XX时性强。对它关注也是因为它蕴藏的商业价值大。也是大数据的4V特性。符合这些特性的,叫大数据。 大数据会更多的体现数据的价值。各行业的数据都越来越多,在大数据情况下,如何保障业务的顺畅,有效的管理分析数据,能让领导层做出最有利的决策。这是关注大数据的原因。也是大数据处理技术要解决的问题大数据处理技术 大数据时代的超大数据体量和占相当比例的半结构化和非结构化数据的存在,已经超越了传统数据库的管理能力,大数据技术将是IT领域新一代的技术与架构,它将帮助人们存储管理好大数据并从大体量、高复杂的数据中提取价值,相关的技术、产品将不断涌现,将有可能给IT行业开拓一个新的黄金时代。 大数据本质也是数据,其关键的技术依然逃不脱：1大数据存储和管理；2大数据检索使用包括数据挖掘和智能分析。围绕大数据,一批新兴的数据挖掘、数据存储、数据处理与分析技术将不断涌现,让我们处理海量数据更加容易、更加便宜和迅速,成为企业业务经营的好助手,甚至可以改变许多行业的经营方式。1大数据的商业模式与架构-云计算与其分布式结构是重要途径大数据处理技术正在改变目前计算机的运行模式,正在改变着这个世界：它能处理几乎各种类型的海量数据,无论是微博、文章、电子、文档、音频、视频,还是其它形态的数据；它工作的速度非常快速：实际上几乎实时；它具有普与性：因为它所用的都是最普通低成本的硬件,而云计算它将计算任务分布在大量计算机构成的资源池上,使用户能够按需获取计算力、存储空间和信息服务。云计算与其技术给了人们廉价获取巨量计算和存储的能力,云计算分布式架构能够很好地支持大数据存储和处理需求。这样的低成本硬件+低成本软件+低成本运维,更加经济和实用,使得大数据处理和利用成为可能。2大数据的存储和管理-云数据库的必然很多人把NoSQL叫做云数据库,因为其处理数据的模式完全是分布于各种低成本服务器和存储磁盘,因此它可以帮助网页和各种交互性应用快速处理过程中的海量数据。它采用分布式技术结合了一系列技术,可以对海量数据进行实时分析,满足了大数据环境下一部分业务需求。但我说这是错误的,至少是片面的,是无法彻底解决大数据存储管理需求的。云计算对关系型数据库的发展将产生巨大的影响,而绝大多数大型业务系统如银行、证券交易等、电子商务系统所使用的数据库还是基于关系型的数据库,随着云计算的大量应用,势必对这些系统的构建产生影响,进而影响整个业务系统与电子商务技术的发展和系统的运行模式。基于关系型数据库服务的云数据库产品将是云数据库的主要发展方向,云数据库CloudDB,提供了海量数据的并行处理能力和良好的可伸缩性等特性,提供同时支持在在线分析处理OLAP和在线事务处理能力,提供了超强性能的数据库云服务,并成为集群环境和云计算环境的理想平台。它是一个高度可扩展、安全和可容错的软件,客户能通过整合降低IT成本,管理位于多个数据,提高所有应用程序的性能和实时性做出更好的业务决策服务。这样的云数据库要能够满足：A海量数据处理：对类似搜索引擎和电信运营商级的经营分析系统这样大型的应用而言,需要能够处理PB级的数据,同时应对百万级的流量。B大规模集群管理：分布式应用可以更加简单地部署、应用和管理。C低延迟读写速度：快速的响应速度能够极大地提高用户的满意度。D建设与运营成本：云计算应用的基本要求是希望在硬件成本、软件成本以与人力成本方面都有大幅度的降低。所以云数据库必须采用一些支撑云环境的相关技术,比如数据节点动态伸缩与热插拔、对所有数据提供多个副本的故障检测与转移机制和容错机制、SNShareNothing体系结构、中心管理、节点对等处理实现连通任一工作节点就是连入了整个云系统、与任务追踪、数据压缩技术以节省磁盘空间同时减少磁盘IO时间等。云数据库路线是基于传统数据库不断升级并向云数据库应用靠拢,更好的适应云计算模式,如自动化资源配置管理、虚拟化支持以与高可扩展性等,才能在未来将会发挥不可估量的作用。3大数据的处理和使用-新型商业智能的产生传统针对海量数据的存储处理,通过建立数据中心,建设包括大型数据仓库与其支撑运行的软硬件系统,设备包括服务器、存储、网络设备等越来越高档、数据仓库、OLAP与ETL、BI等平台越来越庞大,但这些需要的投资越来越大,而面对数据的增长速度,越来越力不从心,所以基于传统技术的数据中心建设、运营和推广难度越来越大。另外一般能够使用传统的数据库、数据仓库和BI工具能够完成的处理和分析挖掘的数据,还不能称为大数据,这些技术也不能叫大数据处理技术。面对大数据环境,包括数据挖掘在的商业智能技术正在发生巨大的变化。传统的传统商业智能技术,包括数据挖掘,主要任务舒建立比较复杂的数据仓库模型、数据挖掘模型,来进行分析和处理不太多的数据。也许由于云计算模式、分布式技术和云数据库技术的应用,我们不需要这么复杂的模型,不用考虑复杂的计算算法,就能够处理大数据,对于不断增长的业务数据,用户也可以通过添加低成本服务器甚至是PC机也可以,来处理海量数据记录的扫描、统计、分析、预测。如果商业模式变化了,需要一分为二,那么新商业智能系统也可以很快地、相应地一分为二,继续强力支撑商业智能的需求22 / 22