走进大数据丨 Hadoop生态体系

  • 时间:
  • 来源:互联网

Hadoop是一个由Apache基金会所开发的分布式系统的基础架构。用户可以在不了解分布式的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。

 

Hadoop优点

 

走进大数据丨 Hadoop生态体系

 


 

1.高可靠性:Hadoop按位存储和处理数据的能力值得人们信赖。

2.高扩展性:Hadoop是在可用的计算机集簇间分配数据并完成计算任务的,这些集簇可以方便地扩展到数以千计的节点中。

3.高效性:Hadoop能够在节点之间动态地移动数据,并保证各个节点的动态平衡,因此处理速度非常快。

4.高容错性:Hadoop能够自动保存数据的多个副本,并且能够自动将失败的任务进行重试。

5.低成本:与一体机、商用数据仓库以及QlikView、Yonghong Z-Suite等数据集市相比,hadoop是开源的,项目的软件成本因此会大大降低。

 

核心架构


 

Hadoop 由许多元素构成。其最底部是 Hadoop Distributed File System(HDFS-分布式文件系统),它存储 Hadoop 集群中所有存储节点上的文件。HDFS的上一层是MapReduce分布式计算引擎,该引擎由 JobTrackers 和 TaskTrackers 组成。通过对Hadoop分布式计算平台最核心的分布式文件系统HDFS、MapReduce处理过程,以及数据仓库工具Hive和分布式数据库Hbase的介绍,基本涵盖了Hadoop分布式平台的所有技术核心。

qunqun8889
发布了27 篇原创文章 · 获赞 0 · 访问量 815
私信 关注

本文链接http://element-ui.cn/news/show-945.aspx