设为首页 加入收藏

TOP

Hbase架构与基本概念
2018-11-23 01:53:54 】 浏览:73
Tags:Hbase 架构 基本 概念
版权声明:本文为博主原创文章,转载请注明作者与出处,http://blog.csdn.net/lixingtao0520 https://blog.csdn.net/lixingtao0520/article/details/78090231
1、 HBase简介
Hbase是一个分布式的、多版本的、面向列的开源KeyValue数据库。
  • 多版本:每列值或单元格的值都具有时间戳,通过不同的时间戳来区分不同版本的值,一个单元格不同版本的值按照降序排列在一起,访问时优先读取最新的值。
  • 面向列:Hbase是面向列存储的,RDBMS在表定义时,列属性是固定的,不能动态扩展,而Hbase可以动态的插入列,列的数量没有限制(可以有数百万个列)。
2、HBase中重要的概念
  • Row Key(行键):HBase是根据RowKey来检索数据的,不支持条件查询和Order by等查询,读取记录只能按Row key(及其range)或全表扫描。HBase存储时,根据RowKey的字典序排序。
  • Column Family(列族):在创建表时预先声明,不能修改的太频繁。Hbase中列的数量可能没有限制,但是列族的数量是有限制的,不超过几十个。
  • Column(列):Hbase中每个列属于一个列族,一般以列族名为前缀进行表示,ColumnFamily:Column Name,可以动态的新增(或删除),列的数量没有限制。
  • Timestamp(时间戳):每列值或单元格都有时间戳, Hbase中以时间戳来区分版本,每列值以时间戳进行降序排列,访问时优先读取最新的值。
  • Value(值):Hbase中的值是由Table,RowKey,Column Family,Column,Timestamp来唯一确定的,数据存储模式如下:(Table,RowKey,Column Family,Column,Timestamp)——>Value。
3、Hbase架构
(1)架构初识
在分布式的生产环境中,HBase 需要运行在 HDFS 之上。HBase 上层提供了访问数据的 Java API 层,供应用访问存储在 HBase 的数据。在 HBase 的集群中主要由 Master 和 Region Server 以及 Zookeeper组成,具体模块如下图所示:
  • Client API
访问Hbase数据的客户端接口。并缓存region的位置信息。
  • Master

HBase Master用于协调多个Region Server,负责RegionServer之间的负载均衡,将繁忙服务器中的region移到负载较轻的服务器中。HBase允许多个Master节点共存,不过当多个Master节点共存时,只有一个Master是提供服务的,其他的Master节点处于待命的状态。当正在工作的Master节点宕机时,其他的Master则会接管HBase的集群。HBase Master还负责建表和创建列簇。

  • Region Server
对于一个Region Server而言,其包括了多个Region。RegionServer负责为他们服务的Region提供读写请求,并负责拆分超过配置大小的Region。Client直接与RegionServer通信,处理所有数据相关的操作。
  • Region
一个Region对应一个表,Region信息中包括此Region存储的StartKey。一个Region超过了配置中Region大小的最大值,Region就需要拆分,形成两个新Region,每个Region是原始Region的一半。在拆分完成后,Master被告知拆分情况,并可以根据负载均衡,将新Region分配到其他Region Server上。
  • ZooKeeper
ZooKeeper为HBase集群提供协调服务,它管理着Master和RegionServer的状态,并且Zookeeper负责Region和Region Server的注册。并存储所有Region的寻址入口(含有-ROOT-表的region服务器信息)。
  • HDFS
HDFS(Hadoop Distribute File System,hadoop分布式文件系统),由NameNode和DataNode组成。
——NameNode负责控制和管理整个分布式文件系统的主控节点。保存分布式文件系统的目录结构,以及数据的位置信息。
——DataNode负责具体的数据存储的从节点。
访问Hbase数据时,一个基本流程如下:
客户端要查找行健时,首先联系ZooKeeper子集群,通过ZooKeeper获取含有-ROOT-表的 Region Server名,通过含有-ROOT-表的Region Server可以查询到哪个.META. Region包含此行健信息;通过查询.META.表来获取客户端查询的行健数据所在Region Server名,在客户端知道了数据的实际位置后,会缓存这次查询的Region位置信息,并直接与管理实际数据的Region Server通信,获取行健信息。当再次查询时,由于已经缓存了Region的位置信息,就不再查询.META.表,直接定位数据位置。
-ROOT-:记录.META.表的Region信息。
.META.:记录用户表的Region信息。
参考《-ROOT-表和.META.表结构详解》 中的数据访问流程图,访问数据基本流程,如下所示
(2)HBase存储与详细组件
上文中给出了HBase架构的基本组成模块,下图显示的是HBase的详细组件。

上图给出了HBase包含的详细组件,如下:
  • HReigon
一个Region由多个Store组成,一个Store对应一个Column Family(列族);
Store包括位于内存中的MemStore和位于磁盘的StoreFile,写操作先写入MemStore,当MemStore达到某个阈值时,将MemStore中的数据写入StoreFile。每个Store又由一个MemStore和多个StoreFile组成;
当一个region中所有StoreFile的大小和超过一定阈值后,Region 会进行拆分,由Master分配拆分后的Region到相应的 Region Server服务器上,实现负载均衡;
StoreFile以HFile格式保存在HDFS上。
  • KeyValue格式
HBase中实际的存储文件功能由HFile负责,由DATA块组成,每个DATA块都包含了一定数量的序列化的KeyValue实例,HFile中KeyValue格式如下

Key Lengh和Value Length分别表示键长度和值长度,此信息可以在查找数据时,进行跳跃,忽略键直接访问值。
存储文件中所有的KeyValue都被有序的存储,有助于把类似的键放在一起。
  • WAL(Write-Ahead Log)机制
预写日志机制。Store在保存数据时,先将数据保存在内存中,达到某阈值时,再将数据刷写到硬盘上。但存储在内存中的数据是不稳定的,例如在服务器断电的情况下,数据就有可能丢失。而解决此问题的方法就是预写日志机制:每次更新都会先写入日志,然后再写入内存中。WAL存储了对数据的所有更改。如果服务器崩溃,它可以有效地回访日志,回复数据。
Hlog即保存了预写的日志,存储在HDFS上。同一个Region 服务器共享同一个Hlog文件。
  • DFSClient
分布式文件系统的客户端,与DataNode通信,写入或获取需要的文件信息。
4、与传统数据库区别
根据Hbase架构和存储原理,总结下与传统数据库区别。
(1)Hbase是基于列模式的映射数据库,它只能表示简单的key-value的映射关系。
  • 数据类型:Hbase只有简单的字符串类型,而RDBMS类型选择比较丰富
  • 数据操作:Hbase操作只有简单的CRUD等操作,表与表之间没有关系是分离的;而RDBMS有各种各样的表连接操作
  • 存储模式:Hbase是基于列存储的,RDBMS是基于表结构和行模式存储的。
  • 数据维护:Hbase中的更新并不是真正意义上的更新,因为它的旧值仍然存在,实际上是插入了新数据。
  • 可伸缩性:Hbase能很轻易的增加或减少硬件数量。
Hbase基于列模式的分布式数据库更适合海量存储和互联网应用。
(2)表设计比较
参考《Hbase总结(五)-hbase常识及habse适合什么场景》,我们进行表设计对比(更详细介绍请参考原文)。
以记录博客内容为例
1)传统数据库表设计
我们创建两张表,一张为Article Table,另外一张为Author Table。

在两张表中各插入一条数据后,如下所示

2)、HBase可以按以下方式设计

如上图所示,RDBMS中的两张表可以分别用两个列族来标示,每个列族中的列保存了对应的Value信息,插入一条数据后,如下所示

上图中,可以看出HBase中是按RowKey的字典序进行排序的;两个版本的author:nickname,则体现了HBase多版本的特点;列族中多列是根据Column Key来排序的。

以上内容为HBase架构和基本概念的学习总结,如有不正确之处,请指出,大家共同学习进步。

参考文章:
《HBase权威指南中文版》

】【打印繁体】【投稿】【收藏】 【推荐】【举报】【评论】 【关闭】 【返回顶部
上一篇CDH端口汇总 下一篇Alex 的 Hadoop 菜鸟教程: 第8课 ..

最新文章

热门文章

Hot 文章

Python

C 语言

C++基础

大数据基础

linux编程基础

C/C++面试题目