diff --git a/interview/project/hbase.md b/interview/project/hbase.md index 8227b4f1..fb257110 100644 --- a/interview/project/hbase.md +++ b/interview/project/hbase.md @@ -1,3 +1,346 @@ -# HBase + -HBase 是一个分布式No-SQL数据库, \ No newline at end of file +* [HBase 简介](#简介) +* [HBase 架构](#架构) + + + + +# 简介 + +HBase是Apache Hadoop的数据库,能够对大型数据提供 **随机** 、**实时**的读写访问。HBase的目标是存储并处理大型的数据。HBase是一个开源的,分布式的,多版本的,面向列的存储模型。它存储的是松散型数据。 + +HBase 特性: + +- 高可靠性 +- 高效性 +- 面向列 +- 可伸缩 +- 可在廉价PC Server搭建大规模结构化存储集群 + +# 架构 + +HBase 底层使用HDFS来存储,Zookeeper作为分布式环境下的数据一致性,Master是主节点,负责协调ReginaServer的工作。 + +![](img/20131226173618000.png) + +- Client: + +1. 包含访问HBase的接口,并维护cache来加快对HBase的访问,比如region的位置信息 +2. HBase Client通过RPC方式和HMaster、HRegionServer通信 + +- zookeeper: + +(1) 通过选举,保证任何时候,集群中只有一个master,Master与RegionServers 启动时会向ZooKeeper注册 +(2) 存贮所有Region的寻址入口 +(3) 实时监控Region server的上线和下线信息。并实时通知给Master +(4) 存储HBase的schema和table元数据 +(5) 默认情况下,HBase 管理ZooKeeper 实例,比如, 启动或者停止ZooKeeper +(6) Zookeeper的引入使得Master不再是单点故障 + +- HMaster + +(1) 为Region server分配region +(2) 负责Region server的负载均衡 +(3) 发现失效的Region server并重新分配其上的region +(4) 管理用户对table的增删改查操作 + +- HRegionServer + +(1) Regionserver维护region,处理对这些region的IO请求 + +(2) Regionserver负责切分在运行过程中变得过大的region + +![](img/2012060400572691.jpg) + +HRegionServer管理一些列HRegion对象; +每个HRegion对应Table中一个Region,HRegion由多个HStore组成; +每个HStore对应Table中一个Column Family的存储; +Column Family就是一个集中的存储单元,故将具有相同IO特性的Column放在一个Column Family会更高效 + +- Store + +(1) 每一个region由一个或多个store组成,至少是一个store; + +(2) hbase会把一起访问的数据放在一个store里面,即为每个 ColumnFamily建一个store, +如果有几个ColumnFamily,也就有几个Store; + +(3) 一个Store由一个memStore和0或者多个StoreFile组成,HBase以store的大小来判断是否需要切分region。 + +- MemStore + +(1) memStore 是放在内存里的,其保存修改的数据即keyValues; + +(2) 当memStore的大小达到一个阀值(默认64MB)时,memStore会被flush到文 件,即生成一个快照。 + +- StoreFile + +(1) memStore内存中的数据写到文件后就是StoreFile; + +(2) StoreFile底层是以HFile的格式保存,即数据保存在hdfs上。 + +- HLog + +(1) HLog(WAL log):WAL意为write ahead log,用来做灾难恢复使用,HLog记录数据的所有变更, +一旦region server 宕机,就可以从log中进行恢复; + +(2) HLog文件就是一个普通的Hadoop Sequence File,Sequence File的value是key时HLogKey对象, +其中记录了写入数据的归属信息,除了table和region名字外,还同时包括sequence number和timestamp, +timestamp是写入时间,sequence number的起始值为0,或者是最近一次存入文件系统中的sequence number。 +Sequence File的value是HBase的KeyValue对象,即对应HFile中的KeyValue。 + + +# HBase 容错性 + +- Master容错:Zookeeper重新选择一个新的Master +无Master过程中,数据读取仍照常进行; +无master过程中,region切分、负载均衡等无法进行; +- RegionServer容错:定时向Zookeeper汇报心跳,如果一旦时间内未出现心跳,Master将该RegionServer上的Region重新分配到其他RegionServer上,失效服务器上“预写”日志由主服务器进行分割并派送给新的RegionServer +- Zookeeper容错:Zookeeper是一个可靠地服务,一般配置3或5个Zookeeper实例 + +# 逻辑存储 + +![](http://dl2.iteye.com/upload/attachment/0123/8509/b80eb60c-03cc-3a7e-89e3-60af7d040e77.png) + +## Row Key + +与nosql数据库们一样,row key是用来检索记录的主键。访问hbase table中的行,只有三种方式: + +1 通过单个row key访问 +2 通过row key的range +3 全表扫描 + +Row key行键 (Row key)可以是任意字符串(最大长度是 64KB,实际应用中长度一般为 10-100bytes),在hbase内部,row key保存为字节数组。 + +存储时,数据按照Row key的字典序(byte order)排序存储。设计key时,要充分排序存储这个特性,将经常一起读取的行存储放到一起。(位置相关性) + +注意: +字典序对int排序的结果是1,10,100,11,12,13,14,15,16,17,18,19,2,20,21,…,9,91,92,93,94,95,96,97,98,99。要保持整形的自然序,行键必须用0作左填充。 +行的一次读写是原子操作 (不论一次读写多少列)。这个设计决策能够使用户很容易的理解程序在对同一个行进行并发更新操作时的行为。 + +## 列簇 + +hbase表中的每个列,都归属与某个列族。列族是表的schema的一部分(而列不是),必须在使用表之前定义。列名都以列族作为前缀。例如courses:history,courses:math都属于courses这个列族。 +访问控制、磁盘和内存的使用统计都是在列族层面进行的。实际应用中,列族上的控制权限能帮助我们管理不同类型的应用:我们允许一些应用可以添加新的基本数据、一些应用可以读取基本数据并创建继承的列族、一些应用则只允许浏览数据(甚至可能因 为隐私的原因不能浏览所有数据)。 + +## 时间戳 + +HBase中通过row和columns确定的为一个存贮单元称为cell。每个cell都保存着同一份数据的多个版本。版本通过时间戳来索引。时间戳的类型是64位整型。时间戳可以由hbase(在数据写入时自动 )赋值,此时时间戳是精确到毫秒的当前系统时间。时间戳也可以由客户显式赋值。如果应用程序要避免数据版本冲突,就必须自己生成具有唯一性的时间戳。每个cell中,不同版本的数据按照时间倒序排序,即最新的数据排在最前面。 +为了避免数据存在过多版本造成的的管理 (包括存贮和索引)负担,hbase提供了两种数据版本回收方式。 +一是保存数据的最后n个版本 +二是保存最近一段时间内的版本(比如最近七天)。 +用户可以针对每个列族进行设置。 + +## Cell +由{row key, column(= +