设为首页 加入收藏

TOP

Hbase 数据迁移(一)
2018-11-13 15:30:16 】 浏览:30
Tags:Hbase 数据 迁移

Hbase的数据迁移方式

1.使用Export/Import

格式:hbase org.apache.hadoop.hbase.mapreduce.Export table /user/table [versions] [starttime] [stoptime]
hbase org.apache.hadoop.hbase.mapreduce.Import table/user/table

2.使用coytable

格式:hbase org.apache.hadoop.hbase.mapreduce.CopyTable --peer.adr=zookeeper1,zookeeper2,zookeeper3:/hbase 'table'

3.直接拷贝hdfs文件

然后使用自己生成元数据


分析一下Export/Import方式:

Export操作会根据region数量产生对应数量的Map,没有Reduce阶段,直接导出SequenceFile的格式

Import操作有个选项是否生成HFile方式,如不开启则只有Map阶段,读取SequenceFile文件,由于文件可切分,会有一堆map task,然后调用BufferedMutator.mutate异步写入到hbase。

若使用HFile,则Map阶段仅仅是把数据转成KeyValue的格式,输出(rowkey,keyvalue),Reduce阶段使用KVComparator对keyvalue排序,然后输出有序的(rowkey,keyvalue),输出使用HFileOutputFormat2的RecordWriter,它调用StoreFile.Writer-->HFileWriterV2-->HFileBlock-->write使用DataOutputStream写入编码后的数据到HDFS

】【打印繁体】【投稿】【收藏】 【推荐】【举报】【评论】 【关闭】 【返回顶部
上一篇配置HBase的伪分布跟完全分布集群 下一篇HBase客户端Java API使用总结

最新文章

热门文章

Hot 文章

Python

C 语言

C++基础

大数据基础

linux编程基础

C/C++面试题目