HBase基础

HBase是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用HBASE技术可在廉价PC Server上搭建起大规模结构化存储集群。 HBase的目标是存储并处理大型的数据,更具体来说是仅需使用普通的硬件配置,就能够处理由成千上万的行和列所组成的大型数据。   HBase特点 (1)海量存储(2)列式存储(3)极易扩展(4)高并发(5)稀疏   Hbase架构 HBase基础HBase基础 HBase中的角色 (1)HMaster:1.监控RegionServer2.处理RegionServer故障转移3.处理元数据的变更4.处理region的分配或转移5.在空闲时间进行数据的负载均衡6.通过Zookeeper发布自己的位置给客户端 (2)RegionServer:1.负责存储HBase的实际数据2.处理分配给它的Region3.刷新缓存到HDFS4.维护Hlog5.执行压缩6.负责处理Region分片 (3)Write-Ahead logs: HBase的修改记录,当对HBase读写数据的时候,数据不是直接写进磁盘,它会在内存中保留一段时间(时间以及数据量阈值可以设定)。但把数据保存在内存中可能有更高的概率引起数据丢失,为了解决这个问题,数据会先写在一个叫做Write-Ahead logfile的文件中,然后再写入内存中。所以在系统出现故障的时候,数据可以通过这个日志文件重建。 (4)Region:Hbase表的分片,HBase表会根据RowKey值被切分成不同的region存储在RegionServer中,在一个RegionServer中可以有多个不同的region。 (5)Store:HFile存储在Store中,一个Store对应HBase表中的一个列族(列簇, Column Family)。 (6)MenStore: 顾名思义,就是内存存储,位于内存中,用来保存当前的数据操作,所以当数据保存在WAL中之后,RegsionServer会在内存中存储键值对。 (7)HFile:这是在磁盘上保存原始数据的实际的物理文件,是实际的存储文件。StoreFile是以Hfile的形式存储在HDFS的。   (8) Zookeeper:保证任何时候,集群中只有一个HMaster;存贮所有HRegion的寻址入口; 实时监控HRegion Server的上线和下线信息,并实时通知给HMaster;存储HBase的schema和table元数据;Zookeeper Quorum存储表地址、HMaster地址。 HBase数据结构 (1)RowKey:是用来检索记录的主键,访问HBASE table中的行,只有三种方式:1.通过单个RowKey访问(get);2.通过RowKey的range(正则)(like);3.全表扫描(scan) (2)Column Family:列族, HBASE表中的每个列,都归属于某个列族。列族是表的schema的一部 分(而列不是),必须在使用表之前定义。列名都以列族作为前缀。 (3)Cell:由{rowkey, column Family:columu, version} 唯一确定的单元。cell中的数据是没有类型的,全部是字节码形式存贮。关键字:无类型、字节码 (4)Time Stamp:HBASE 中通过rowkey和columns确定的为一个存贮单元称为cell。每个 cell都保存 着同一份数据的多个版本。版本通过时间戳来索引。时间戳的类型是 64位整型。时间戳可以由HBASE(在数据写入时自动 )赋值,此时时间戳是精确到毫秒 的当前系统时间。时间戳也可以由客户显式赋值。如果应用程序要避免数据版 本冲突,就必须自己生成具有唯一性的时间戳。每个 cell中,不同版本的数据按照时间倒序排序,即最新的数据排在最前面。 为了避免数据存在过多版本造成的的管理 (包括存贮和索引)负担,HBASE提供 了两种数据版本回收方式。一是保存数据的最后n个版本,二是保存最近一段 时间内的版本(比如最近七天)。用户可以针对每个列族进行设置。 (5)命名空间: HBase基础HBase基础 1) Table:表,所有的表都是命名空间的成员,即表必属于某个命名空间,如果没有指定,则在default默认的命名空间中。 2) RegionServer group:一个命名空间包含了默认的RegionServer Group。 3) Permission:权限,命名空间能够让我们来定义访问控制列表ACL(Access Control List)。例如,创建表,读取表,删除,更新等等操作。 4) Quota:限额,可以强制一个命名空间可包含的region的数量。   HBase基础HBase基础   读流程: 1)Client先访问zookeeper,从meta表读取region的位置,然后读取meta表中的数据。meta中又存储了用户表的region信息; 2)根据namespace、表名和rowkey在meta表中找到对应的region信息; 3)找到这个region对应的regionserver; 4)查找对应的region; 5)先从MemStore找数据,如果没有,再到BlockCache里面读; 6)BlockCache还没有,再到StoreFile上读(为了读取的效率); 7)如果是从StoreFile里面读取的数据,不是直接返回给客户端,而是先写入BlockCache,再返回给客户端。   写流程: 1)Client向regionServer发送写请求; 2)HregionServer将数据写到HLog(write ahead log)。为了数据的持久化和恢复; 3)HregionServer将数据写到内存(MemStore); 4)反馈Client写成功。 数据flush过程 1)当MemStore数据达到阈值(默认是128M,老版本是64M),将数据刷到硬盘,将内存中的数据删除,同时删除HLog中的历史数据; 2)并将数据存储到HDFS中; 3)在HLog中做标记点。 数据合并过程 1)当数据块达到3块,Hmaster触发合并操作,Region将数据块加载到本地,进行合并; 2)当合并的数据超过256M,进行拆分,将拆分后的Region分配给不同的HregionServer管理; 3)当HregionServer宕机后,将HregionServer上的hlog拆分,然后分配给不同的HregionServer加载,修改.META.; 4)注意:HLog会同步到HDFS。  
上一篇:Hbase的读写流程


下一篇:【学习笔记】Linux操作练习