设为首页 加入收藏

TOP

四、HDFS中NameNode的启动过程
2018-11-29 16:20:00 】 浏览:56
Tags:HDFS NameNode 启动 过程
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/zipo/article/details/54709784

一、HDFS中NameNode的启动过程

1、在hdfs-site.xml中设置文件存储路径并指向data路径,在hadoop安装路径中新建data目录。

2、进行namenode格式化,在data目前中生成各类目录,并生成fsimage文件。

3、第一次启动namenode硬盘中将fsimage加载到内存中,hdfs文件如果修改,将写edits文件作为log,并将最新修改内容加载到内容中。同时secondarynamenode,将不断的从namenode中下载并合并相应的fsimage+edits,并上传到namenodenamenode修改原fsimage,替换为新的fsimage

4datanodenamenode进行注册。每隔3秒,datanodenamenode注册心跳的间隔时间。

5、每小时datanode默认向namenode发送block report。汇报datanode的数据节点情况。

6、第二次启动,namenode硬盘中将新的fsimage加载到内存中,并进行改写edits,其他的与第一次启动相似。见下图


二、HDFSNameNode元数据本地磁盘存储目录如何配置以及DataNode存储数据的本地磁盘目录配置

core-site.xml中配置

<property>

<name>hadoop.tmp.dir</name>

<value>/home/jit/app/hadoop-2.5.2/data</value>

</property>

hdfs-site.xml中配置

<property>

<name>dfs.namenode.name.dir</name>

<value>file://${hadoop.tmp.dir}/dfs/name</value>

</property>

<property>

<name>dfs.datanode.data.dir</name>

<value>file://${hadoop.tmp.dir}/dfs/data</value>

</property>

三、存储在HDFS上的文件,存储机制及数据安全性保证。

可以在hdfs-site.xml中设置hdfs的副本数量

如果设置3副本,一定有两个副本不在同一个机架,并且3个副本不在同的机器上。


】【打印繁体】【投稿】【收藏】 【推荐】【举报】【评论】 【关闭】 【返回顶部
上一篇HDFS数据加密空间--Encryption zo.. 下一篇datax测试 读mysql 写hdfs

最新文章

热门文章

Hot 文章

Python

C 语言

C++基础

大数据基础

linux编程基础

C/C++面试题目