TOP

Hadoop   DataNode 节点的动态添加和动态删除
2019-03-14 12:35:59 】 浏览:77次 本网站的内容取自网络,仅供学习参考之用,绝无侵犯任何人知识产权之意。如有侵犯请您及时与本人取得联系,万分感谢。
Tags:Hadoop   DataNode 节点 动态 添加 删除

版权声明: https://blog.csdn.net/qq_36617639/article/details/79496288
一 , 动态添加 DataNode 节点

1 , 前提是 , 需要新加入的 DataNode 节点已经配置好 SSH 无密登录互通 .

2 , 复制存在 DataNode 节点 上的 Hadoop运行目录、hdfs目录及tmp目录至 新的DataNode.

3 , 在新DataNode上启动hadoop
hadoop-daemon.sh start datanode
yarn-daemon.sh start datanode


4 , 在NameNode上刷新节点
hdfs dfsadmin -refreshNodes
start-balancer.sh

5 , 为方便下次启动,可以将新DataNode的域名和ip加入 /etc/hosts 中

6 , 查看是否成功 : 这里的IP是NameNode 的IP
登录 : IP:50070 进行查看 , 如下图所示 :



二 ,动态删除 DataNode 节点

1 , 配置NameNode的hdfs-site.xml,适当减小dfs.replication副本数,增加dfs.hosts.exclude配置

<property>
<name>dfs.hosts.exclude</name>
<value>/usr/local/hadoop2/etc/hadoop/excludes</value>
</property>

2 , 在对应路径(/etc/hadoop/)下新建excludes文件,并写入待删除DataNode的ip或域名

3 , 在NameNode上刷新所有DataNode
hdfs dfsadmin -refreshNodes
start-balancer.sh

4 , 此时,可以在web检测界面(ip:50070)上可以观测到DataNode逐渐变为Dead。

5 , 记过查看如 上方DataNode 节点的动态添加结果查看相同



请关注公众号获取更多资料


Hadoop   DataNode 节点的动态添加和动态删除 https://www.cppentry.com/bencandy.php?fid=114&id=213084

】【打印繁体】【投稿】【收藏】 【推荐】【举报】【评论】 【关闭】 【返回顶部
上一篇hadoop的mapreduce执行 下一篇结合案例讲解MapReduce重要知识点..

评论

验 证 码:
表  情:
内  容: