未加星标

每日一博 | HBase 之 HFile 存储

字体大小 | |
[大数据技术 所属分类 大数据技术 | 发布者 店小二04 | 时间 2016 | 作者 红领巾 ] 0人收藏点击收藏

摘要HBase是一个分布式的、持久的、强一致性的存储系统,具有近似最优的写性能(能使IO利用率达到饱和)和出色的读性能,它充分利用了磁盘空间,支持特定的列族切换,可选压缩算法。

基本概念
表(Table),数据的组织形式
行(Row),Table中的每一行
列族(Column Family),一行中有多个列,以Column Family进行分组,同一Column Family的列存储在同一个底层文件(HFile)中,所以Column Family会影响数据的物理存储,一般在表创建的时候,就需要指定好,并且不要轻易修改。
列(Column Qualifier),这个不需要创建表的时候就指定。
单元格(Cell),一组Row、Family、Qualifier可以定位一个Cell。
时间戳(Timestamp),一个单元格中的数据是由版本的,版本以Timestamp来区分。默认写入的是当前的timestamp,读取的是最新的timestamp的数据。HBase默认一个单元格保存三个版本。

所以,一个HBase的Table存取模式为:

`
(Table, RowKey, Family, Qualifier, Timestamp) -> Value
一个Table存取等价于高级语言的一个map:
``
SortedMap<RowKey, List<SortedMap<Qualifier, List<

Value, Timestamp > > >

`
或者,再直观一点,逻辑上等价于一个固定格式的Json:

` { "RowKey1" { "Family1": { "Qualifier11":{ "Timestamp111":"Value111" } "Qualifier12":{ "Timestamp121":"Value121", "Timestamp122":"Value122" } }

"Family2" : {
"Qualifier21":{"Timestamp211":"Value211"
}
}
}
"RowKey2" {
...
}

} ```

HFile存储单元

也叫StoreFile,google论文中是SSTable,是数据存储的地方,HBase之所以是面向列的数据库,是因为数据以key-value形式存储的,列可以动态扩展

KeyValue

当put到hbase一个key和value的时候,会增加一条记录:

`
(Table, RowKey, Family, Qualifier, Timestamp) -> Value

` 该记录以字节流的方式存储,对应到磁盘中的存储格式为:

每日一博 | HBase 之 HFile 存储
Key Length(32位整形)
Value Length(32位整形)
Key
Row Length
Row(即:rowKey)
Column Family Length
Column Family
Column Qualifier(Qulifier的长度可以通过Key Length、Row Length、Column Family Length、Timestamp固定长度、KeyType固定类型计算出来)
Timestamp
KeyType (Put, Delete, DeleteColumn, DeleteFamily等类型)

Value KeyValue是一个基本的单元模块,不可再分,例如:BlockData默认为64K,但是如果有一个KeyValue是8MB,一样会整体写进去,这个BlockData的大小是后检查的,插入数据后,再检查是否超过默认值。
BlockData
多个KeyValue结构,按照Key递增的顺序,组成一个BlockData(默认64K),BlockData在HFile存在磁盘中的存储方式为:
每日一博 | HBase 之 HFile 存储
DataBlock

DataBlock是对BlockData的进一步封装,在BlockData基础上,增加了一个8字节的标志位,magic number,用来标记BlockData的类型,常见的标记类型有: * DATA,就是BlockData类型 * LEAFINDEX,叶子索引块 * BLOOMCHUNK ,Bloom filter块(Bloom Filter是采用位hash标记,常数时间内可以判断key是否存在的一种数据结构) * ...(等等)

HFile

由以下四部分组成: * Scanned Block section,扫描数据存储部分 + Data Block,数据块 + leaf block index,索引块 + Bloom chunk blocks,Bloom chunk块 * Non-scanned block section,非扫描数据存储部分 + Meta Block + intermediate-level index blocks * load-on-open section,打开HFile文件的时候,这部分需要加载到内存,包括文件信息和索引信息。 * Trailer,一个固定长度,记录了HFile的基本信息、各个部分的偏移值和寻址信息。

每日一博 | HBase 之 HFile 存储
HFile V1、V2和V3
V1,HBase0.92之前,结构简单,当数据增多的时候,每个HFile的BloomFilter会有100M多,当超过20个region的时候,会有2G,Block indexes会有6G,Region需要将所有的索引load完,才认为是正确加载了,速度非常慢。
V2,加速了regions server的启动,同时,采用load-on-open这个部分加载到完,Region就算是正确加载了。
V3,HBase0.98之后引入,在File Trailer中增加了encryption_key,支持AES对当前的HFile加密。
查找rowKey过程:
HFile内部是有序的,但是HFile之间是无序的
判断key是否存在Hfile中,可以通过Leaf index或者Bloom Filter
HBase将rowKey可能存在的所有HFile中的最小的rowKey,进行排序(rowKey、column升序,timestamp降序),然后放入队列中


每日一博 | HBase 之 HFile 存储
tags: HFile,Family,BlockData,Column,Table,Qualifier,Timestamp,存储,Value,rowKey,Length,key,gt,Bloom,HBase
分页:12
转载请注明
本文标题:每日一博 | HBase 之 HFile 存储
本站链接:https://www.codesec.net/view/425236.html


1.凡CodeSecTeam转载的文章,均出自其它媒体或其他官网介绍,目的在于传递更多的信息,并不代表本站赞同其观点和其真实性负责;
2.转载的文章仅代表原创作者观点,与本站无关。其原创性以及文中陈述文字和内容未经本站证实,本站对该文以及其中全部或者部分内容、文字的真实性、完整性、及时性,不作出任何保证或承若;
3.如本站转载稿涉及版权等问题,请作者及时联系本站,我们会及时处理。
登录后可拥有收藏文章、关注作者等权限...
技术大类 技术大类 | 大数据技术 | 评论(0) | 阅读(248)