设为首页 加入收藏

TOP

Hbase 的compact和rowkey全局有序
2019-05-07 13:44:00 】 浏览:66
Tags:Hbase compact rowkey 全局 有序
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/jixianqiuxue/article/details/17303015

看下当一条新的rowkey插入表的时候,怎么保证所有的rowkey都是全局有序的,

首先当要插入个rowkey前会找到这个rowkey应该插在那个region里,这个是容易解决的,因为只要遍历所有region的endrow和startrow即可,找到新的rowkey该放在哪个region下,然后写入该region的memstore,写入memstore时会触发和memstore里原有的数据进行合并和重新排序,因为memstore里的数据有索引所以在memstore合并和重新排序是容易做到的,所以当memstore flush到文件系统后成为新的storefile也是有序的,需要注意的是新的sotorefile并不会立即和其他的storefile进行合并,所以这就会产生两个问题,1. 会造成一个rowkey可能在不同的storefile存在的情况,这是可以通过时间戳来取到最新的那个rowkey对应的数据的,2。rowkey在storefile里内部是有序的,但是在不同的storefile间是无序的,在检索一个rowkey对应的storefile这样子也是足够了。 当触发compact之后会将所有的storefile 间所有相同的rowkey进行合并,并将所有的storefile 的rowkey重新排序到一个新的更大的storefile中。以上保证了rowkey的全局有序,从以上也可以看出hbase所有的数据的更新其实都是追加。

】【打印繁体】【投稿】【收藏】 【推荐】【举报】【评论】 【关闭】 【返回顶部
上一篇预期数据下HBase的预分区的实现 下一篇R语言连接hbase问题疑解

最新文章

热门文章

Hot 文章

Python

C 语言

C++基础

大数据基础

linux编程基础

C/C++面试题目