首页 >> 大全

【Hadoop-HDFS】HDFS中Fsimage与Edits详解

2023-07-30 大全 30 作者:考证青年

【-HDFS】HDFS中与Edits详解 4)Edits 5)元数据信息目录的配置

1)概述

在HDFS中, 保存了整个 HDFS 的元数据信息,而这些数据最终会被持久化到 文件和 文件。

换而言之, 的元数据信息由 和 组成。

存放上次 生成的文件系统元数据。

则存放文件系统的操作日志,也就是用户对目录、文件的每个写操作(包括创建、删除、写入等)都会被记录到 文件中。

注意:

, 主要用于在集群启动时将集群的状态恢复到关闭前的状态。为了达到这个目的,集群启动时将 、 加载到内存中进行合并,合并后恢复完成。

2)元数据解析

1、`第一次启动 格式化后,创建 和 Edits 文件。如果不是第一次启动,直接加载 Edits 和 文件到内存。

2、客户端对元数据进行增删改的请求。

3、 记录操作日志,更新滚动日志。

4、 在内存中对数据进行增删改查。

3) 3.1. 的作用

保存了最新的元数据检查点,在 HDFS 启动时加载 的信息,包含了整个 HDFS 文件系统的所有目录和文件的信息。

3.2. 的文件信息查看

使用命令:hdfs oiv

cd  /export/servers/Hadoop-2.6.0-cdh5.14.0/HadoopDatas/namenodeDatas/current
hdfs oiv -i fsimage_0000000000000000864 -p XML -o hello.xml

4)Edits 4.1.Edits 的作用

主要是在 已经启动情况下对 HDFS 进行的各种更新操作进行记录,HDFS 客户端执行所有的写操作都会被记录到 中。

4.2.Edits 的文件信息查看

查看命令:hdfs oev

cd  /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/nn/edits/current
hdfs oev -i  edits_0000000000000000865-0000000000000000866 -o myedit.xml -p XML

5)元数据信息目录的配置

hdfs-site.xml 当中

<property><name>dfs.namenode.name.dirname><value>file:///export/servers/Hadoop-2.6.0-cdh5.14.0/HadoopDatas/namenodeDatasvalue>
property>
<property><name>dfs.namenode.edits.dirname><value>file:///export/servers/Hadoop-2.6.0-cdh5.14.0/HadoopDatas/dfs/nn/editsvalue>
property>

关于我们

最火推荐

小编推荐

联系我们


版权声明:本站内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 88@qq.com 举报,一经查实,本站将立刻删除。备案号:桂ICP备2021009421号
Powered By Z-BlogPHP.
复制成功
微信号:
我知道了