
课程咨询: 400-996-5531 / 投诉建议: 400-111-8989
认真做教育 专心促就业
HDFS 是一个主从(Master/Slaves)的架构,它由一个 NameNode 和一些 DataNode 组成。其中,NameNode 是主,DataNode 是从。文件元数据由 NameNode 负责存储和管理,且它维护了一个层次型的文件目录树;文件的数据由 DataNode 来按照 block 进行存储,并按照 block 进行读写。DataNode 与 NameNode 通过心跳来维持,DataNode 会向 NameNode 汇报自己持有的 block 信息。当客户端和 NameNode 交互文件元数据,和 DataNode 交互 block 数据。
从 HDFS 的架构来看,它包含两个重要的角色,分别是 NameNode 和 DataNode。其中,NameNode 完全基于内存存储文件元数据、目录结构、文件 block 的映射,因此,它需要持久化方案来保证数据的可靠性;DataNode 基于磁盘存储 block,并保存了 block 的校验,从而保证 block 的可靠性;DataNode 和 NameNode 之间通过心跳保持,并向 NameNode 汇报 block 状态。
很多基于内存的存储,在使用持久化时,持久化方案通常有几种方案,包括日志文件、内存 Dump 和 两种的混合方式。先来说一下比较常用的缓存系统 —— Redis。Redis 的持久化方式分为 AOF、RDB 和 混合方式。Redis 的 AOF 属于日志 记录 文件,它会记录每条命令到文本文件中,RDB 属于内存 Dump 的方式,它会全量的保存内存的信息,混合方式是 AOF 和 RDB 两者共用的方式。(Redis 为了解决 AOF 体积的问题,提供了 AOF 重写的命令)
【免责声明】本文系本网编辑部分转载,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请在30日内与管理员联系,我们会予以更改或删除相关文章,以保证您的权益!更多内容请添加danei0707学习了解。欢迎关注“达内在线”参与分销,赚更多好礼。